第18章：视觉-语言-动作模型(VLA)
视觉-语言-动作模型（Vision-Language-Action Models, VLA）代表了机器人学习的新范式：通过大规模预训练将视觉感知、语言理解和动作生成统一在单一模型中。不同于传统的模块化机器人系统，VLA模型能够直接从自然语言指令和视觉输入生成机器人动作序列，实现端到端的任务执行。本章将深入探讨VLA的架构设计、训练策略以及在实际机器人系统中的部署挑战。
学习目标：
- 理解VLA模型的架构选择及其对性能的影响
- 掌握动作空间的表示和离散化策略
- 学会设计有效的任务调节机制
- 理解从网络数据到机器人数据的迁移学习
- 分析VLA模型在真实机器人上的部署挑战
18.1 VLA架构设计：编码器-解码器vs仅解码器
18.1.1 架构选择的权衡
VLA模型的核心架构选择直接影响其表达能力、训练效率和推理速度。目前主流的两种架构各有优劣：
编码器-解码器架构（Encoder-Decoder）：
视觉输入 → 视觉编码器 ↘
→ 多模态融合 → 动作解码器 → 动作序列
语言指令 → 语言编码器 ↗
这种架构的优势在于：
- 模态专用编码器可以独立预训练
- 计算效率高，编码器输出可以缓存
- 融合策略灵活，可以采用交叉注意力机制
典型实现中，视觉编码器通常采用Vision Transformer (ViT)或ResNet变体，处理分辨率为224×224或更高的图像。编码器输出的特征维度通常在768-1536之间，需要通过投影层映射到统一的表示空间。
仅解码器架构（Decoder-Only）：
[视觉tokens, 语言tokens] → 统一Transformer → 自回归生成 → 动作tokens
仅解码器架构将所有模态视为token序列：
- 视觉：图像patch → 线性投影 → 视觉tokens
- 语言：文本 → tokenizer → 语言tokens
- 动作：连续值 → 离散化/量化 → 动作tokens
这种统一的序列建模带来了强大的泛化能力，但也面临序列长度的挑战。例如，一张224×224的图像以16×16的patch分割会产生196个视觉tokens，加上语言和历史动作tokens，总序列长度很容易超过1000。
18.1.2 注意力机制设计
VLA模型中的注意力机制设计需要考虑不同模态的特性：
稀疏注意力模式：
为了处理长序列，许多VLA实现采用稀疏注意力：
注意力掩码矩阵 M[i,j] = {
1, if |i-j| ≤ w (局部窗口)
1, if j ∈ anchor_tokens (锚点tokens)
0, otherwise
}
其中窗口大小w通常设为128-256，锚点tokens包括任务指令和关键视觉特征。
因果掩码与双向注意力：
动作生成需要因果掩码保证自回归性质，但视觉和语言编码可以使用双向注意力：
M_causal[i,j] = {
1, if j ≤ i (可见)
0, if j > i (不可见)
}
18.1.3 位置编码策略
不同模态需要不同的位置编码策略：
- 视觉位置编码：2D正弦编码或可学习的位置嵌入
- 时序位置编码：相对位置编码处理变长历史
- 模态类型编码：区分视觉、语言、动作tokens
典型的位置编码实现：
PE(pos, 2i) = sin(pos/10000^(2i/d))
PE(pos, 2i+1) = cos(pos/10000^(2i/d))
其中d是模型维度，pos是位置索引。
18.2 动作token化与离散化策略
18.2.1 连续动作空间的离散化
机器人的动作空间通常是连续的（关节角度、末端执行器位置等），而语言模型擅长处理离散tokens。动作离散化的关键在于平衡表达精度和词表大小。
均匀量化：
最简单的方法是将每个动作维度均匀离散化：
a_discrete = floor((a_continuous - a_min) / (a_max - a_min) * n_bins)
例如，7自由度机械臂，每个关节256个离散值，总词表大小为256^7 ≈ 7×10^16，显然不可行。
向量量化（Vector Quantization）：
使用VQ-VAE学习动作码本：
量化器 Q: R^d → {e_1, e_2, ..., e_K}
Q(a) = argmin_k ||a - e_k||_2
码本大小K通常选择512-8192，能够在保持精度的同时控制词表规模。
分层离散化：
将动作分解为粗粒度和细粒度两层：
例如，先预测”向左移动”的大类，再预测具体移动量。
18.2.2 动作序列的表示
逐帧预测 vs Chunked预测：
逐帧预测每次生成一个时间步的动作：
a_t = VLA(o_t, l, a_{t-1}, ...)
Chunked预测一次生成多个未来时间步：
[a_t, a_{t+1}, ..., a_{t+H}] = VLA(o_t, l, ...)
其中H是预测视界，通常选择5-10步。Chunked预测减少了推理次数，但增加了输出空间复杂度。
18.2.3 动作空间的结构化表示
关节空间 vs 笛卡尔空间：
关节空间直接控制每个关节：
a_joint = [θ_1, θ_2, ..., θ_n, gripper_state]
笛卡尔空间控制末端执行器：
a_cartesian = [x, y, z, roll, pitch, yaw, gripper_state]
关节空间避免了逆运动学计算，但笛卡尔空间更符合人类直觉，有利于从人类演示中学习。
分层动作表示：
高层动作：[接近, 抓取, 提起, 移动, 放置]
低层参数：[目标位置, 抓取力度, 移动速度]
这种分层表示提高了可解释性，便于任务级规划。
18.3 任务调节与指令跟随
18.3.1 语言指令的编码
VLA模型需要理解多样化的自然语言指令：
指令模板与增强：
基础指令：”把红色方块放到蓝色碗里”
增强变体：
- 同义词替换：”将红色立方体移动到蓝色容器中”
- 指代消解：”把它放到那里”（需要视觉上下文）
- 复合任务：”先整理桌面，然后把所有方块归类”
指令的层次化理解：
任务目标 → 子目标序列 → 动作原语 → 底层控制
"整理桌面" → ["识别物体", "规划位置", "逐个移动"] → [抓取, 移动, 放置] → 关节轨迹
18.3.2 上下文学习与任务适应
Few-shot上下文示例：
VLA模型可以通过上下文示例快速适应新任务：
输入格式：
[示例1_图像, 示例1_指令, 示例1_动作]
[示例2_图像, 示例2_指令, 示例2_动作]
[查询_图像, 查询_指令] → 预测_动作
上下文长度限制要求精心选择示例，通常使用检索机制找到最相关的演示。
任务嵌入与调节：
学习任务特定的嵌入向量：
z_task = TaskEncoder(demonstrations)
a = VLA(observation, instruction, z_task)
任务嵌入捕获了任务的隐含约束和偏好。
18.3.3 多任务学习与泛化
任务混合策略：
训练时需要平衡不同任务的数据：
其中n_task是任务的样本数，α∈[0,1]控制平衡程度。α=1是按比例采样，α=0是均匀采样。
负迁移的缓解：
当任务差异过大时会出现负迁移。解决方案包括：
- 任务特定的适配器层
- 梯度手术（gradient surgery）避免冲突梯度
- 多任务不确定性加权
18.4 数据效率与少样本学习
18.4.1 数据增强策略
视觉增强：
- 颜色抖动：调整亮度、对比度、饱和度
- 几何变换：随机裁剪、旋转（注意保持动作一致性）
- 视角变换：多相机视角的模拟
动作增强：
轨迹扰动：a'_t = a_t + ε_t, ε_t ~ N(0, σ²I)
时间扭曲：通过动态时间规整(DTW)生成变体
需要确保增强后的轨迹仍然可行且安全。
18.4.2 主动学习与探索
不确定性驱动的数据收集：
使用模型不确定性指导数据收集：
uncertainty = Var[VLA(o, l)] （集成模型的方差）
priority = uncertainty × task_importance × safety_score
优先收集高不确定性但安全的场景数据。
好奇心驱动的探索：
intrinsic_reward = ||φ(s_{t+1}) - φ̂(s_t, a_t)||²
其中φ是学习的状态表示，φ̂是前向预测模型。
18.4.3 元学习与快速适应
MAML风格的元训练：
θ' = θ - α∇L_support(θ) （内循环更新）
θ ← θ - β∇L_query(θ') （外循环更新）
使VLA模型的参数能够通过少量梯度步快速适应新任务。
原型网络方法：
为每个任务类别学习原型表示：
c_k = 1/|S_k| Σ_{(x,y)∈S_k} f_θ(x)
通过比较与原型的距离进行分类和动作预测。
18.5 从互联网数据到机器人数据的迁移
18.5.1 视觉表示的迁移
域差异的挑战：
- 互联网图像：多样化视角、光照、分辨率
- 机器人视觉：固定相机、特定场景、深度信息
域适应技术：
特征对齐损失：L_align = ||μ_source - μ_target||² + ||Σ_source - Σ_target||_F
通过最小化源域（互联网）和目标域（机器人）的特征分布差异实现适应。
18.5.2 语言理解的迁移
从通用语言到机器人指令：
- 通用：”这个东西很有用”
- 机器人：”抓取红色工具并放入工具箱”
需要将抽象概念映射到具体可执行的动作。
指令改写与规范化：
通用指令 → 语言模型改写 → 规范化指令 → 动作序列
使用大语言模型将自然指令转换为机器人可理解的形式。
18.5.3 知识蒸馏与模型压缩
从大模型到部署模型：
L_distill = αL_task + (1-α)L_KD
L_KD = KL(P_student || P_teacher)
通过知识蒸馏将大型VLA模型压缩到可部署规模。
量化与剪枝：
- 权重量化：FP32 → INT8/INT4
- 结构化剪枝：移除不重要的注意力头
- 动态计算：根据输入复杂度调整计算量
案例研究：DeepMind RT-2与谷歌RT-X
RT-2：视觉-语言-动作的统一建模
RT-2（Robotic Transformer 2）是DeepMind开发的VLA模型，展示了如何将大规模视觉-语言模型适配到机器人控制。
架构特点：
- 基础模型：PaLI-X（55B参数）和PaLM-E（12B参数）
- 输入处理：ViT编码器处理视觉，语言直接tokenize
- 输出空间：256个离散bins per dimension，7-DOF + gripper
关键创新：
- 动作表示为自然语言：
动作token化：[ACTION_START] [x=128] [y=64] [z=200] ... [ACTION_END]
将动作表示为特殊的”语言”tokens，实现与语言模型的无缝集成。
- 共同训练策略：
L_total = L_robot + λL_vision_language
在机器人数据上微调时，保持部分视觉-语言任务避免灾难性遗忘。
- 思维链推理：
RT-2能够进行多步推理：
输入："把最小的物体放到抽屉里"
内部推理：[识别所有物体] → [比较大小] → [选择最小] → [执行抓取]
性能指标：
- 新物体泛化：62% → 75%成功率
- 新背景泛化：58% → 70%成功率
- 新任务泛化：32% → 52%成功率
RT-X：跨实体的机器人学习
RT-X项目汇集了多个研究机构的机器人数据，构建了统一的训练集。
数据集组成：
总数据量：100万+轨迹
机器人类型：22种不同机器人
任务类型：抓取、操作、导航
环境：实验室、家庭、工厂
跨实体迁移的挑战：
- 动作空间统一：
不同机器人有不同的自由度和动作范围：
归一化映射：a_normalized = (a_robot - a_min) / (a_max - a_min)
- 视角对齐：
相机内参标准化：K_normalized = K_original × (224/原始分辨率)
- 任务语义对齐：
使用统一的任务描述语言：
原始："拿杯子"（机器人A）
原始："获取容器"（机器人B）
统一："抓取圆柱形容器类物体"
RT-X的效果：
- 正迁移：在RT-X上训练的模型在单一机器人任务上提升3倍
- 零样本泛化：能够在未见过的机器人上达到30%的成功率
- 少样本适应：10个演示即可达到70%的任务成功率
部署优化策略
推理加速：
- KV缓存优化：
缓存大小 = batch_size × seq_len × n_layers × d_model × 2
使用环形缓冲区管理历史KV对。
- 投机解码：
使用小模型预测，大模型验证：
候选tokens = SmallModel.generate(k个tokens)
验证 = LargeModel.verify(候选tokens)
接受前n个匹配的tokens
- 模型分片：
将模型分布到多个加速器：
设备0：视觉编码器
设备1：Transformer层0-11
设备2：Transformer层12-23
边缘部署考虑：
- 模型大小：压缩到2-4GB以适应边缘GPU
- 延迟要求：<100ms per action
- 功耗限制：<30W持续运行
高级话题
思维链(Chain-of-Thought)在机器人中的应用
VLA模型可以通过思维链提高复杂任务的成功率：
显式推理步骤：
输入："整理工作台，把工具放到工具箱，零件放到抽屉"
CoT输出：
1. 识别所有物体 → [扳手、螺丝刀、螺丝、螺母]
2. 分类 → 工具：[扳手、螺丝刀]，零件：[螺丝、螺母]
3. 规划顺序 → 先清理大物体（工具），后清理小物体（零件）
4. 执行 → [抓取扳手 → 放入工具箱] → ...
推理监督的获取：
- 人工标注：专家提供推理过程
- 模型蒸馏：大模型生成推理，小模型学习
- 自动构造：基于任务分解规则生成
工具使用与API调用
现代VLA可以学习使用外部工具增强能力：
工具接口定义：
工具注册表 = {
"measure_distance": 测量两点距离,
"detect_object": 检测特定物体,
"check_safety": 检查动作安全性
}
工具调用的学习：
输入："把杯子放到离边缘5cm的位置"
VLA输出：
[TOOL_CALL: measure_distance(杯子中心, 桌边)]
[TOOL_RESULT: 12cm]
[ACTION: 移动杯子(-7cm, 0, 0)]
具身智能的涌现能力
大规模VLA展现出的涌现能力：
- 物理直觉：
- 常识推理：
- “易碎”→轻柔抓取
- “液体容器”→保持直立
- “尖锐物体”→安全处理
- 创造性问题解决：
- 使用工具达到高处
- 通过推动绕过障碍
- 临时组装解决方案
多模态提示工程
视觉提示：
在输入图像上叠加标记：
- 目标框：标识操作对象
- 箭头：指示运动方向
- 轨迹线：展示期望路径
语言提示模板：
任务级："将{物体}从{起点}移动到{终点}"
约束级："小心处理，{物体}易碎"
风格级："像人类一样自然地执行"
跨模态参考：
需要模型理解视觉标记与语言指代的对应关系。
本章小结
视觉-语言-动作模型代表了机器人学习的重要范式转变，通过统一的端到端架构实现了感知、理解和行动的紧密集成。本章的关键要点：
核心概念：
- 架构设计：编码器-解码器架构提供模块化优势，仅解码器架构实现更深度的模态融合
- 动作离散化：向量量化和分层表示平衡了精度和计算效率
- 任务调节：语言指令和上下文示例实现灵活的任务适应
- 数据效率：主动学习、元学习提高少样本场景下的性能
- 跨域迁移：从互联网预训练到机器人微调的知识迁移
关键公式：
-
| 注意力稀疏化：$M[i,j] = \mathbb{1}[ |
i-j |
\leq w] + \mathbb{1}[j \in \text{anchors}]$ |
- 向量量化：$Q(a) = \arg\min_k |a - e_k|_2$
- 任务混合：$P(\text{task}) \propto (n_{\text{task}})^\alpha$
- 知识蒸馏：$\mathcal{L} = \alpha\mathcal{L}{\text{task}} + (1-\alpha)\text{KL}(P{\text{student}} | P_{\text{teacher}})$
实践启示：
- VLA模型的成功依赖于大规模多样化数据
- 动作表示的选择显著影响模型性能和训练效率
- 思维链和工具使用扩展了VLA的问题解决能力
- 部署优化需要在模型能力和计算资源间权衡
练习题
基础题
习题18.1：比较编码器-解码器架构和仅解码器架构在VLA中的优劣。给定一个7自由度机械臂，视觉输入为224×224 RGB图像，分析两种架构的计算复杂度。
提示 (Hint)
考虑序列长度、注意力复杂度、参数量等因素。ViT通常使用16×16的patch size。
答案
编码器-解码器架构：
- 视觉编码：196个patches，自注意力复杂度O(196²)
- 语言编码：假设20个tokens，复杂度O(20²)
- 交叉注意力：O(输出长度×(196+20))
- 优势：编码可并行，特征可缓存
- 劣势：模态融合较浅
仅解码器架构：
- 总序列长度：196(视觉)+20(语言)+历史 ≈ 250+
- 自注意力复杂度：O(250²)
- 优势：深度融合，统一建模
- 劣势：长序列导致二次复杂度增长
计算量对比：编码器-解码器约40%更高效，但仅解码器架构通常获得更好性能。
习题18.2：设计一个动作离散化方案，将7-DOF机械臂的连续动作空间映射到词汇表大小不超过10000的离散空间，同时保证0.5mm的笛卡尔空间精度。
提示 (Hint)
考虑分层离散化、向量量化、或混合表示。笛卡尔空间通常比关节空间更适合粗粒度离散化。
答案
混合方案：
1. 笛卡尔空间粗粒度：xyz各64个bins（工作空间1m³），方向16个bins
2. 精细调整：相对偏移量，各维度16个bins
3. 夹爪：开/闭2个状态
词汇表大小计算：
- 粗粒度位置：64³ = 262,144（需要向量量化到8192）
- 方向：16³ = 4,096
- 细粒度调整：16³ = 4,096
- 总计：8192 + 4096 + 4096 + 2 ≈ 16,386
使用向量量化将位置压缩到8192个码字，最终词汇表约9000，满足要求。
每个粗粒度bin覆盖15.6mm，细粒度调整±8mm/16=0.5mm，达到精度要求。
习题18.3：实现一个简单的任务嵌入提取器，从5个演示轨迹中学习任务表示。轨迹格式为[(o_1, a_1), …, (o_T, a_T)]。
提示 (Hint)
可以使用轨迹的统计特征、关键帧提取、或者学习的编码器。
答案
简单的统计特征方法：
1. 提取起始和目标状态
2. 计算动作分布统计量
3. 识别关键转折点
伪代码：
```
def extract_task_embedding(trajectories):
# 起始状态聚类中心
start_states = [traj[0][0] for traj in trajectories]
start_center = mean(start_states)
# 目标状态聚类中心
end_states = [traj[-1][0] for traj in trajectories]
end_center = mean(end_states)
# 动作统计
all_actions = flatten([traj[i][1] for traj in trajectories])
action_mean = mean(all_actions)
action_std = std(all_actions)
# 轨迹长度
avg_length = mean([len(traj) for traj in trajectories])
# 组合成任务嵌入
task_embedding = concat([
start_center, end_center,
action_mean, action_std,
avg_length
])
return normalize(task_embedding)
```
挑战题
习题18.4：设计一个自适应的动作chunk大小选择机制。给定当前观察和任务复杂度，动态决定应该预测未来多少步动作（1-10步）。
提示 (Hint)
考虑任务的可预测性、环境动态性、以及执行误差累积。
答案
自适应chunk大小策略：
1. **可预测性评分**：
- 使用集成模型的不确定性估计
- 高不确定性→短chunk（1-3步）
- 低不确定性→长chunk（7-10步）
2. **环境动态性检测**：
- 计算连续帧间的光流或特征差异
- 静态环境→长chunk
- 动态环境→短chunk
3. **任务阶段识别**：
- 接近阶段：中等chunk（4-6步）
- 接触/操作：短chunk（1-2步）
- 运输阶段：长chunk（8-10步）
4. **历史性能反馈**：
- 跟踪不同chunk大小的成功率
- 使用多臂老虎机算法动态调整
决策函数：
```
chunk_size = base_size
× (1 - uncertainty_factor)
× (1 - dynamics_factor)
× phase_multiplier
+ exploration_bonus
```
其中各因子在[0,1]范围内，通过在线学习调整权重。
习题18.5：提出一种方法，使VLA模型能够从失败中学习。设计一个机制，让模型识别失败模式并自动调整策略。
提示 (Hint)
考虑失败检测、归因分析、以及策略修正。可以借鉴强化学习中的经验回放。
答案
失败感知学习框架：
1. **失败检测**：
- 任务成功标准的形式化定义
- 异常检测（偏离预期轨迹）
- 人工反馈接口
2. **失败归因**：
- 反向追踪关键决策点
- 注意力分析找到错误关注区域
- 对比成功/失败轨迹
3. **失败案例库**：
```
failure_case = {
"context": 失败时的观察,
"action": 执行的错误动作,
"failure_type": 分类标签,
"correct_action": 修正动作（如果已知）
}
```
4. **策略修正**：
- 对比学习：学习区分成功/失败特征
- 负样本增强：训练时加入失败案例
- 元学习快速适应
5. **在线更新**：
```
if detect_failure():
case = analyze_failure()
similar_cases = retrieve_similar_failures()
correction = generate_correction(case, similar_cases)
update_policy_with_correction(correction)
```
这种方法使VLA能够持续改进，避免重复相同错误。
习题18.6：分析VLA模型的安全性问题。列举三种潜在的安全风险，并为每种风险设计缓解策略。
提示 (Hint)
考虑对抗攻击、分布外泛化、以及语言指令的歧义性。
答案
三种安全风险及缓解策略：
1. **对抗性视觉输入**：
风险：恶意修改的图像导致危险动作
缓解：
- 输入验证：检测异常像素模式
- 集成投票：多个模型的一致性检查
- 动作范围限制：硬约束危险动作
2. **语言指令注入**：
风险："忽略安全协议"等恶意指令
缓解：
- 指令过滤：黑名单关键词
- 意图验证：二次确认高风险操作
- 权限系统：不同用户不同权限
3. **分布偏移失效**：
风险：新环境下的不可预测行为
缓解：
- OOD检测：识别分布外输入
- 安全模式：不确定时降级到保守策略
- 持续监控：实时检测异常行为
安全框架实现：
```
def safe_vla_execution(observation, instruction):
# 输入验证
if is_adversarial(observation) or is_malicious(instruction):
return safe_default_action()
# 预测with不确定性
action, uncertainty = vla_model(observation, instruction)
# 安全检查
if uncertainty > threshold:
action = conservative_policy(observation)
if violates_safety_constraints(action):
action = project_to_safe_set(action)
# 执行监控
execute_with_monitoring(action)
return action
```
习题18.7：设计一个VLA模型的持续学习系统，能够从部署后的交互中不断改进，同时避免灾难性遗忘。
提示 (Hint)
考虑经验回放、弹性权重巩固(EWC)、或者动态架构扩展。
答案
持续学习系统设计：
1. **数据管理**：
```
经验池 = {
"核心记忆": 关键任务示例（固定）,
"工作记忆": 最近交互（FIFO）,
"情景记忆": 重要新经验（动态选择）
}
```
2. **重要性加权**：
使用Fisher信息矩阵估计参数重要性：
```
F_i = E[(∂log p(y|x,θ)/∂θ_i)²]
```
3. **选择性更新**：
```
L_total = L_new + λΣ_i F_i(θ_i - θ_i^old)²
```
保护重要参数，允许其他参数适应。
4. **动态扩展**：
- 检测新任务：聚类分析识别新模式
- 添加适配器：插入任务特定模块
- 知识蒸馏：从旧模型迁移知识
5. **定期整合**：
```
每N次更新：
1. 评估所有任务性能
2. 识别退化的能力
3. 混合训练恢复性能
4. 更新核心记忆库
```
实现伪代码：
```
class ContinualVLA:
def update(self, new_experience):
# 评估新颖性
novelty = compute_novelty(new_experience)
if novelty > threshold:
# 保存到情景记忆
self.episodic_memory.add(new_experience)
# 可能需要新适配器
if requires_new_adapter(new_experience):
self.add_adapter()
# 混合批次训练
batch = sample_balanced(
self.core_memory,
self.working_memory,
self.episodic_memory,
new_experience
)
# EWC正则化更新
loss = task_loss(batch) + ewc_penalty(self.fisher_info)
self.optimize(loss)
# 性能监控
if performance_degraded():
self.consolidate_knowledge()
```
这个系统能够在保持已学知识的同时适应新任务。
常见陷阱与错误（Gotchas）
1. 序列长度爆炸
问题：将高分辨率图像和长历史序列输入导致内存溢出
解决：
- 使用滑动窗口保留最近k帧
- 降采样或使用关键帧提取
- 实现层次化的注意力机制
2. 动作空间不匹配
问题：训练时使用关节空间，部署时需要笛卡尔空间
解决：
- 统一使用笛卡尔空间+逆运动学
- 训练双头模型同时预测两种空间
- 使用可微分的运动学层
3. 模态对齐失败
问题：视觉和语言特征尺度差异导致一个模态主导
解决：
- 层归一化平衡不同模态
- 自适应权重学习
- 梯度裁剪防止某一模态梯度爆炸
4. 过拟合演示数据
问题：模型记忆特定轨迹而非学习通用策略
解决：
- 强数据增强
- Dropout和权重衰减
- 使用对比学习增强泛化
5. 推理延迟不稳定
问题：自回归生成导致变长延迟
解决：
- 设置最大生成长度
- 使用并行解码技术
- 缓存中间计算结果
6. 幻觉动作生成
问题：模型生成物理不可行的动作序列
解决：
- 加入物理约束层
- 使用安全过滤器
- 训练时加入物理仿真验证
最佳实践检查清单
设计阶段
数据准备
训练优化
部署准备
安全验证
持续改进