Skip to content
←返回论文库

PAPER DEEP DIVE

Bimanual ManipulationHandheld Demonstrations视觉语言动作模型

AIRoA-0:从手持示范学习跨本体长程精细操作

AIRoA-0 用 1.6 万小时双手手持夹爪示范训练 VLA,结合锚定动作、视觉预算与阶段预测,让同一组权重在四类机器人上完成十项任务,平均成功率 78%。

论文:AIRoA-0: Long-Horizon, Precise, Cross-Embodiment Manipulation from Handheld Data

作者:Yueh-Hua Wu、Kei Ota、Hanlong Li、Hayata Yuasa、Jason Wang、Kengo Ikeuchi 等 20 人

机构:AIRoA

版本:arXiv v1,2026 年 11 月 2 日,18 页,cs.RO

原文:https://arxiv.org/abs/2611.03815

项目页:https://a-0.airoa.io

代码:https://github.com/airoa-org/AIRoA-0,Apache-2.0

权重:https://huggingface.co/airoa-org/AIRoA-0

一句话总结

AIRoA-0 用 16,151 小时双手手持夹爪示范建立从数据、预训练、后训练到机器人推理的完整链路,在不采集任何机器人操作数据的前提下,让同一组权重在 Franka、TX-G2、OpenArm 和 UR 上完成长程、精细的双手操作。

1. 研究背景:机器人数据瓶颈不是“缺少模型”这么简单

视觉语言动作模型已经把图像理解、语言指令和连续控制放进同一个系统,但训练数据的增长速度仍受制于机器人本体。传统遥操作要求现场有机器人、熟练操作员和一套可靠的控制接口;数据规模随着可用机器人的数量增长,而不是随着愿意示范任务的人的数量增长。这个差别看似只是采集工具问题,实际上决定了机器人基础模型能否像视觉模型那样依靠大规模数据持续改善。

手持夹爪路线试图拆掉这个限制。示范者双手各握一只带相机的夹爪,直接完成抓取、插入、折叠、装配等动作,不需要机器人参与采集。夹爪之后可以安装到机器人末端,因此采集时的相机位置、工具几何和动作语义能够延续到部署阶段。UMI 首先系统展示了这种迁移思路,YUBI 则把夹爪、腕部相机、六自由度跟踪和双手采集软件做成可复制的开源硬件。AIRoA-0 的核心工作,是在这一数据范式上继续追问:当数据量进入上万小时后,能否训练出一个真正处理长任务、精确接触和跨本体部署的策略,而不是只在短程抓放任务上展示可行性?

这个问题比“把 UMI 数据喂给 VLA”更难。手持数据中的人手动作和人手视觉与机器人并不完全一致;数据里没有机器人执行失败、碰撞恢复或闭环纠错;不同示范者、房间、桌面和物体造成巨大的视觉分布变化。更关键的是,AIRoA-0 刻意只使用两只腕部相机,不用头部相机或全局场景相机。腕部视角在人手持夹爪和机器人夹持夹爪时最容易保持一致,但它看不到完整工作台,单个画面经常无法判断当前任务阶段。

论文把评价条件设得很苛刻:训练数据来自大量普通采集地点,测试则在完全没有采集过数据的站点进行。机器人第一次见到的不是同一张桌子换了物体,而是整个背景、光照、空间布局和相机上下文都可能改变。对腕部视觉策略来说,凡是不属于当前任务的环境细节都可能是干扰,因此“只看局部但又必须理解任务进度”成为全文最重要的技术矛盾。

作者给出的答案不是一个孤立模块,而是四层系统:在数据层,用 YUBI 让人类和机器人共享同一末端接口;在预训练层,用带视觉预算门控的 π0.5 主干从双手腕部画面学习任务和子任务语言;在后训练层,加入阶段预测和本体感受历史,使策略理解长任务处在哪一步;在推理层,用阶段指数平滑和非均匀流式去噪把离散预测变成连续运动。只有把这四层放在一起,手持数据才真正变成可部署的机器人策略。

2. 数据体系:一万六千小时如何保持可直接用于控制

YUBI 是整套系统的物理接口。示范者用手指驱动夹爪开合,夹爪腕部安装相机,外部跟踪系统记录其六自由度位姿。每人同时握两只夹爪执行双手任务,因此一条示范天然包含左右手的空间关系、相互避让、交接和协同。与把人类视频直接映射到机器人相比,YUBI 记录的是夹爪实际位姿、开合量和腕部原视角,传感器与执行接口在采集和部署之间保持一致。

数据集包含 16,151 小时双手示范,覆盖一百多个任务,包括抓放、分类、装配、插入、线缆整理、开合、工具使用和双手交接。数据被切成 1,065 万个平均约 5.5 秒的子任务片段,总计 17.4 亿个 30 Hz 时间步。每个片段同时带任务级指令和子任务级指令:前者描述整个工作,例如更换机器人吸尘器的部件;后者描述当前正在执行的短步骤,例如拆下第一块旧拖布或装回尘盒。运行时只给机器人任务级指令,子任务文本在预训练中提供更细的语言监督。

数据属性论文报告值对方法的意义
双手示范时长16,151 小时规模来自采集者数量,不依赖机器人数量
子任务片段1,065 万段,平均 5.5 秒为细粒度语言监督和阶段划分提供标签
时间步17.4 亿,30 Hz保留精细接触与连续运动信息
视觉输入左右腕部相机采集与部署共用局部视角,但没有全局场景
本体感受两只夹爪位姿与开合量状态 11 维,动作 20 维
语言任务指令与子任务指令支持任务级运行和子任务级表征学习

这些数字本身不能保证策略有效,因为手持数据缺少机器人特有的失败模式。人类示范中通常不会出现电机限位、抓取滑落、控制延迟或碰撞后的恢复动作;模型也没有在采集阶段看到机器人如何修正误差。因此,AIRoA-0 不是在模仿一段包含完整闭环纠错的数据,而是在学习人类通过夹爪表现出的目标导向行为,再依靠部署时的视觉观察和连续推理弥补数据中缺失的机器人反馈。

AIRoA-0 腕部相机中的近距操作画面

图 1:论文 Figure 1 中的一个腕部视角片段。画面只覆盖夹爪和近处物体,这正是 A-0 在采集与部署时共享的全部视觉输入。

腕部视角的优势和代价都来自“局部”。优势是同一只 YUBI 夹爪在人手中和机器人末端时,相机与工具的相对位置不变,训练图像与部署图像不必依赖机器人头部高度或底座位置;代价是画面中没有完整桌面、障碍物全貌和目标容器的全局关系。策略必须从两个局部视图推断任务状态,而不能依赖一个稳定的第三人称观察者。这一约束解释了为什么后文需要视觉证据预算、阶段预测、本体感受记忆和流式解码四个配套机制。

3. 预训练:把人体动作写成机器人也能读的坐标

3.1 锚定动作消除了本体坐标系差异

如果动作定义在机器人底座、关节角或世界坐标系中,人类手持轨迹与不同机器人之间就需要额外的重定向。AIRoA-0 选择直接在夹爪工具中心点上定义状态和动作。设 $T_i\in SE(3)$ 是某只夹爪在时刻 $i$ 的位姿,那么从当前观察预测的第 $k$ 个动作,是未来位姿相对于当前位姿的变换:

$$a_k=T_i^{-1}T_{i+k},\qquad k=1,\dots,H.$$

论文预训练使用 $H=32$,每个动作写成三维平移、六维旋转和夹爪开合命令,共 20 个数;两只手合起来构成 20 维动作。状态则由右夹爪在左夹爪坐标系中的位置与六维旋转,加上两个夹爪开合量组成,共 11 维。这里没有任何量引用机器人底座、关节编号或世界坐标,因此同一条轨迹可以在人手、Franka、TX-G2、OpenArm 和 UR 之间保持相同语义。

每个动作都是相对于当前观察的绝对目标,而不是相对前一动作的增量。这个细节使误差不会沿动作块逐步累积,机器人控制器也可以按自己的频率追随整段动作。它把“模型预测”与“低层执行”解耦:模型输出未来若干时刻的夹爪目标,控制器负责在硬件限制下完成跟踪。

3.2 视觉证据预算让腕部画面只保留任务相关区域

腕部相机看到大量与任务无关的物体、桌面纹理和房间背景。不同采集地点的变化又主要发生在这些无关区域,所以模型若把背景当作稳定线索,跨站点部署会迅速失效。AIRoA-0 采用 See Less, Specify More 思想,在视觉 token 进入语言主干前加入可学习的预算门控。对于图像 token $z_p$ 和提示汇聚向量 $q$,门控网络 $h$ 输出保留概率 $m_p$,再对 token 加权:

$$m_p=\sigma\!\left(h(z_p,q,z_p\odot q)/\tau\right).$$ $$\hat z_p=\left(\gamma+(1-\gamma)m_p\right)z_p.$$

其中 $\tau$ 是温度,$\gamma$ 是保留每个 token 少量信息的下限。门控不是硬裁剪,也不是外部检测框;它输出可微权重,让动作损失直接决定哪些区域值得保留。为了让门控不能简单把所有 token 都置为 1,预算损失把每个视图的平均保留概率约束到目标 $\rho$:

$$\mathcal{L}_{\text{budget}}=\left(\frac{1}{P}\sum_{p=1}^{P}m_p-\rho\right)^2.$$

论文在 25 个子任务上可视化了门控结果,权重集中在夹爪和被操作物体附近,桌面与背景被压低。这一点对 AIRoA-0 特别关键:训练数据来自一百多个任务和大量非受控环境,模型没有视觉分割标签,只能通过控制目标学习“什么与当前动作有关”。视觉预算不是单纯减少计算量;论文明确把它作为选择证据和增强分布外鲁棒性的表征机制。

3.3 两级语言把“做什么”和“做到哪一步”分开

预训练样本随机使用任务指令或子任务指令作为条件,使同一个模型同时具备任务级和步骤级控制能力。任务指令告诉模型整个工作,子任务指令描述当前动作附近的短语义。后者不是部署时必须由人逐步输入的命令,而是预训练中的辅助监督:当输入只有任务级指令时,模型还要从两个腕部视图预测当前子任务文本。

这个辅助损失迫使语言主干把“当前画面像哪一步”编码进共享表征,而动作专家读取的正是同一份表征。论文没有把预测出的子任务直接输入动作专家,因此在预训练阶段,它只改变表征学习,不额外引入一个显式的分层控制器。到了后训练,子任务标签才被聚合为阶段类别,形成真正影响动作推理的阶段预测头。这个从隐式子任务表征到显式阶段控制的过渡,是 AIRoA-0 对长任务处理的核心设计。

AIRoA-0 腕部视角中的绿色零件操作

图 2:论文 Figure 1 中的另一帧腕部视角。绿色零件位于双手夹爪之间,模型必须仅凭近距视图判断抓取对象、左右手分工与下一步动作。

4. 后训练:让策略知道任务进度并记住刚发生什么

4.1 阶段分类把长任务拆成可预测的语义单元

长任务中,两个腕部局部视图可能同时兼容多个阶段。例如分类任务里,夹爪拿起一个绿色零件时,画面无法单独说明它刚从哪个格子取出,也不能仅凭零件颜色判断容器是否已经被人移动。后训练把连续子任务合并为阶段,阶段头从主干表征预测当前阶段编号,再用交叉熵训练:

$$\mathcal{L}_{\text{stage}}=-\frac{1}{B}\sum_{b=1}^{B}\log p_\theta(y_b\mid o_b),$$

其中 $o_b$ 是当前观察和任务指令,$y_b$ 是由子任务标签映射得到的阶段类别。预测出的阶段会转换成语言条件,送入动作专家,形式与预训练时的子任务指令一致。这样,预训练学到的“按步骤语言控制”接口在后训练中被复用,阶段头只需解决分类问题,不需要从零学习一套新的动作条件机制。

论文用零件配餐任务说明三个语言层级:任务指令要求把指定零件放进编号格;阶段描述一组相邻格子,例如第 1 至第 3 格;子任务则逐个指定“拿起指形零件放入第 1 格”。这种组织方式比自由文本子任务更稳定,因为类别数量有限,阶段预测可以形成清晰概率分布,并能在推理时做时间平滑。

4.2 本体感受记忆补上单帧观察缺失的运动历史

单张腕部图像无法说明双臂刚完成了什么动作,也无法区分“正在接近”和“刚刚离开”。AIRoA-0 保留最近十个真实测量的本体感受状态,每个状态带测量时间与年龄。四个可学习查询在当前指令和当前状态条件下关注这段历史,压缩成四个记忆 token 加入提示。

训练时历史按 5、8、10、12、15 Hz 的虚拟查询率采样,因此模型看到的是不同时间间隔下的状态序列,而不是只记住某一种控制频率。它还以四分之一概率完全丢弃历史,迫使策略在记忆缺失时仍能行动;部署时加入历史的状态只来自机器人实际测量,不把模型自己的预测当成过去事实,避免误差在记忆中自我强化。

4.3 视觉预算在后训练中同时作用于嵌入与注意力

后训练没有丢掉视觉门控。门控继续缩放进入主干的图像 token,同时把停止梯度的保留概率投影到预算约束内,再转成动作 token 对图像 token 的注意力先验。设投影后的概率为 $\tilde m_p$,先验为:

$$b_p=\log\!\left(e^{-\kappa}+(1-e^{-\kappa})\tilde m_p\right).$$ $$A=\operatorname{softmax}\!\left(\frac{QK^\top}{\sqrt d}+\beta b\right).$$

这里 $\kappa=4$,先验取值范围约为 $-4$ 到 $0$,$\beta$ 在前 500 步从 0 逐渐升到 1。视觉门控因此出现两次:一次通过嵌入影响动作前向,一次在动作专家读取图像时影响注意力分布。前者保留可微路径,后者提供稳定、受预算约束的选择偏置。公开代码把这两个接口明确分开,避免把同一组 logits 的梯度重复传回。

4.4 一个统一目标和一个统一配方

后训练总损失由流匹配动作损失、视觉预算损失、阶段分类损失和子任务语言损失组成:

$$ \begin{aligned} \mathcal{L}_{\text{post}}={}& \mathcal{L}_{\text{act}}+\lambda_b\mathcal{L}_{\text{budget}} \\ &+\lambda_c\mathcal{L}_{\text{stage}} +\lambda_s\mathcal{L}_{\text{sub}}. \end{aligned} $$

论文配方对十个任务完全相同:20 个 20 Hz 锚定动作,视觉预算均值 0.9,门控温度 0.805,下限从 0.1 降到 0.02,预算权重 0.1,阶段权重 0.1,子任务权重 0.01;训练 20,000 次更新,批大小 64,AdamW,梯度裁剪 1,500 步预热后使用恒定学习率 $5\times10^{-6}$,部署权重采用衰减 0.99 的指数滑动平均。单节点八张 H200 上,一个任务的后训练少于四小时。

项目统一配方方法作用
动作块20 个动作,20 Hz短块降低推理延迟,锚定目标避免增量误差累积
视觉预算均值 0.9,温度 0.805从腕部画面选择任务相关证据
阶段与子任务损失权重 0.1 / 0.01显式建模长任务进度
训练规模20,000 更新,批大小 64每个任务使用同一套超参数
优化AdamW,学习率 $5\times10^{-6}$500 步预热后恒定,EMA 衰减 0.99
硬件八张 H200,少于四小时降低新任务后训练门槛

5. 推理系统:阶段平滑与非均匀流式去噪

5.1 阶段预测为什么不能每次直接切换

机器人每秒查询策略数次,每次都会重新预测阶段。局部腕部画面偶尔会把相邻阶段混淆,如果阶段编号直接传给动作专家,一次误判就可能让后续动作按错误步骤执行。AIRoA-0 对阶段概率做指数移动平均,再选择平均概率最高的阶段。孤立的错误预测不足以改变长期平均,真实的阶段切换会随着连续证据逐渐占据优势。这个滤波器没有依赖固定查询频率,因此控制器改变推理频率时不需要重新调参。

5.2 标准流匹配推理的接缝问题

标准流匹配通常从纯噪声开始,对每个动作块执行十次去噪,再将干净动作块交给控制器。相邻动作块独立生成,执行到下一块时容易出现轨迹接缝;如果只在最新观察上重新生成整块,计算开销又较高。FlashVLA 的流式解码把多个动作块放在不同噪声等级的缓冲区中,让旧块更接近干净动作,新块更接近噪声,并通过跨块因果注意力维持连续性。

AIRoA-0 的改动是非均匀噪声调度。论文使用两个缓冲槽和噪声等级 $(0.1,1)$:新进入的块从 1 大步降到 0.1,即将执行的块只从前一次观察得到的 0.1 小幅修正到 0。训练中,第 $k$ 个槽的噪声时间从其专属区间采样:

$$t_k=\ell_{k-1}+(\ell_k-\ell_{k-1})u.$$ $$u\sim\mathrm{Beta}(1.5,1).$$

Beta(1.5,1) 更偏向较大的 $u$,使训练覆盖流式缓冲区里更靠近噪声端的样本。由于动作是相对于最新观察锚定的,缓冲中的旧动作块还要跟随新测得的夹爪位姿和当前阶段更新。解码器本身不增加参数,噪声等级直接进入动作专家已有的时间条件。

这样,稳态时每个查询只需对动作专家执行两次,而标准解码需要十次;论文报告 H200 上单次查询约 60 毫秒。连续性的来源不是简单重复上一块动作,而是让每个块在多个新观察上被逐步修正,最后一次修正幅度很小,同时最新块仍能从当前视觉证据中获得较大更新。

flowchart LR
    A[双手 YUBI 示范] --> B[腕部图像 夹爪位姿 两级语言]
    B --> C[pi 0.5 视觉语言主干]
    C --> D[视觉证据门控]
    C --> E[子任务辅助预测]
    C --> F[任务后训练]
    F --> G[阶段分类头]
    F --> H[本体感受记忆]
    G --> I[阶段概率平滑]
    H --> J[非均匀流式动作解码]
    I --> J
    J --> K[Franka TX-G2 OpenArm UR]

图 3:A-0 的实际数据流。预训练学习腕部证据和两级语言,后训练加入阶段与记忆,推理层再把阶段概率和流式动作块组合为连续控制。

6. 公开代码对应关系:论文与仓库能核验到哪里

论文同时发布数据、预训练权重和后训练配方。公开仓库 README 明确说明其定位是后训练代码,而不是完整复现预训练数据管线。这个边界必须说清楚:仓库能够验证损失组合、视觉门控、阶段交叉熵和 NUF 时间采样,但不能单独证明 16,151 小时数据的清洗、过滤、重定时和预训练全流程。

第一处核心对应关系在总损失组装。仓库中 src/post_training_losses/objective.py:8 的 post_training_loss() 依次加入动作、预算、锚定、阶段和子任务项,和论文公式 5 的结构一致;默认预算权重 0.1、锚定项权重 0.0175,阶段与子任务项由调用方传入已经加权的标量。

total = action + budget + anchor
total = total + stage
total = total + pa

第二处对应关系在视觉门控。`src/post_training_losses/visual_budget.py:24` 的 `embedding_gates()` 用 sigmoid 计算保留概率,再套下限;同一文件 `project_attention_probabilities()` 使用 25 次 FP32 二分寻找非负 logit 偏移,使每个视图的平均保留概率不超过预算。这里不是把 token 硬删掉,而是产生可微嵌入权重和停止梯度的注意力先验。

gates = jax.nn.sigmoid(logits / tau)
effective = floor + (1.0 - floor) * gates

第三处对应关系在流式动作训练。`src/post_training_losses/nuf.py:80` 的 `training_inputs()` 同时构造均匀冷启动、非均匀时间区间与打包因果注意力;第 99 行使用 Beta(1.5,1),第 126 行保证不同缓冲样本互相隔离、同一缓冲内动作块按时间因果读取。阶段分类则由 `vendor/openpi/src/openpi/models/discrete_stage.py:11` 的 `supervised_loss()` 实现标准交叉熵,并对越界标签直接产生失败,而不是悄悄屏蔽数据错误。

7. 实验结果:十项任务、十五次试验与四种机器人

主实验在未见站点的双手 Franka 上进行,共十项任务。每项任务开始时只给一句指令,每个成功率是 15 次试验的平均值,部分完成可以获得部分分。对比模型为 π0.5、Xiaomi-Robotics-1、GR00T N1.7 和 MolmoAct2,它们都从公开预训练检查点开始,并在相同任务示范上后训练;每个基线在动作时域、动作频率和 6 万至 10 万次更新之间做搜索,报告每项任务的最佳设置。AIRoA-0 没有逐任务调参,十项任务共用一套配方。

任务示范时长A-0π0.5XR-1GR00T N1.7MolmoAct2
折毛巾3.3 小时73222108
字母积木3.4 小时84130240
橙子金字塔3.4 小时902521328
零件配餐4.0 小时833013712
颜色分类4.1 小时9745392019
机器人吸尘器维护5.3 小时7311413
燃油支架6.3 小时9334334711
铅笔盒8.8 小时7336311523
杯子金字塔17.9 小时8071112336
耳机盒25.8 小时301318103
平均7827231614

最醒目的结果是平均值:AIRoA-0 为 78%,最强基线 π0.5 为 27%。但逐任务看,真正有信息量的不是四倍平均差距,而是不同基线的强项并不一致。XR-1 在橙子金字塔达到 52%,π0.5 在杯子金字塔达到 71%,GR00T N1.7 在燃油支架达到 47%。AIRoA-0 在每项任务上都最高,说明它的优势并非只来自某一个简单任务,而是覆盖了折叠、分类、装配、维护和精细插入等不同动作结构。

任务难度与数据量也不是单调关系。耳机盒使用 25.8 小时数据,却是 AIRoA-0 最低的 30%,说明该任务的空间精度、遮挡或物体形变并没有被更多同分布示范解决;燃油支架只用 6.3 小时便达到 93%,表明当任务可由腕部局部证据稳定识别时,较少数据已经足够。作者没有为每项任务调整配方,因此这些差异更能反映任务本身和统一策略的边界。

机器人吸尘器维护任务中的近距接触

图 4:论文 Figure 1 中机器人吸尘器维护场景的腕部片段。更换拖布需要连续拆取、搬运、对准和按压,单帧无法提供完整进度信息。

跨本体实验比平均值更能说明锚定动作接口的作用。A-0 在双手 Franka 上完成十项任务;在 TX-G2 人形机器人上完成杯子金字塔、橙子金字塔、铅笔盒和颜色分类;在 OpenArm 上完成颜色分类、字母积木和铅笔盒;在一对 UR 工业机械臂上完成颜色分类和橙子金字塔。四种机器人共享同一组任务权重,没有针对本体重新训练或调整。

跨本体成立的前提很明确:机器人必须能安装同一只 YUBI 夹爪和同样的腕部相机,工具位姿和视觉几何不能改变。这不是任意机械臂、任意夹爪之间的通用重定向,而是把“末端执行器”作为跨本体的共同坐标系。论文没有证明换一只夹爪、改变相机位置或使用三指灵巧手后策略仍然有效。

动态场景实验提供了闭环行为的定性证据。颜色分类过程中,操作者把箱子推走,使红色箱进入夹爪下方;A-0 没有沿原计划向下放,而是连续移动到新的绿色箱位置。之后绿色和黄色箱再次被交换,模型仍按当前视觉把绿色零件放入正确位置。训练数据中没有机器人遭遇扰动的示范,因此这一结果反映的是视觉条件动作和流式更新在测试时的组合效果,而不是从示范中模仿了恢复动作。

8. 数据规模定律:更多手持数据是否真的有用

作者不只比较最终模型,还用同一架构、批大小和训练计划,在完整预训练数据的 50%、25%、12.5% 和 6.25% 上训练,并在 3,072 个留出动作块上测量动作损失。数据越多,损失越低且持续改善更久;随后各取 10 万步检查点,在相同的 16 个后训练任务集上使用完全相同的后训练设置,发现预训练数据优势没有在任务适配后消失。

作者将后训练最后 1,000 次更新的平均损失拟合为关于预训练数据量 $D$ 的幂律:

$$L=0.063D^{-0.035},\qquad R^2=0.98.$$

在约 1,000 到 16,000 小时范围内,预训练数据每翻一倍,后训练后的动作损失约降低 2.4%。这个指数很小,表示边际收益递减;但它对应的是跨大量任务的平均损失,数据翻倍仍有稳定、可测量的收益。对数据基础设施而言,这意味着扩大手持数据采集不是一次性的规模展示,而是可以持续改善策略的投入。需要注意,损失下降不等于所有任务成功率按同样比例上升,论文也没有声称这条拟合可以直接外推到无限数据。

观察维度论文证据应如何理解
预训练规模6.25% 到 100% 数据,完整数据损失最低规模优势在预训练过程中已经出现
后训练保持性相同任务示范下,更多预训练数据仍占优较少数据预训练不能靠更多后训练追平
幂律拟合$L=0.063D^{-0.035}$,$R^2=0.98$数据翻倍约降 2.4% 动作损失
任务泛化16 个任务集,最少数据组损失最高平均趋势覆盖多个任务,而非单点偶然

9. 方法价值与独立判断

AIRoA-0 最重要的贡献不是某一个网络模块,而是把“可扩展数据接口”与“部署时缺失的信息”逐一对应起来。锚定动作解决人类夹爪轨迹与不同机械臂之间的坐标一致性问题;视觉预算解决局部腕部画面中的环境干扰;两级语言和阶段预测解决单帧画面不能确定任务进度的问题;本体感受记忆补充短时运动上下文;非均匀流式解码解决动作块之间的连续性与响应速度。每个模块都能追溯到数据范式的具体约束,而不是为了堆叠结构。

实验设计也有可称道之处。基线获得逐任务超参数搜索,A-0 十项任务共用一项配方;这使 A-0 的比较更接近“拿到一个预训练模型后,普通团队能否稳定后训练”的问题,而不是展示大量人工调参能力。四类机器人共享权重,进一步证明动作定义在夹爪锚定坐标系中确实减少了本体差异。未见站点、双腕相机和单一任务级指令同时满足,说明结果不是依赖一个容易部署的实验室环境。

也需要保持谨慎。十项任务、每项 15 次试验足以发现大幅差异,但对接近的基线或罕见失败模式仍不够精细。动态扰动只有定性展示,没有报告扰动距离、响应时间、恢复成功率和多种扰动的统计结果。不同任务的数据效率差异很大,耳机盒只有 30%,说明“更多数据”不能替代任务合适的视角、接触策略和失败数据。跨本体只覆盖能安装同一夹爪的机械臂,真正的灵巧手、不同相机安装和不同工具尚未验证。

10. 局限与边界

作者明确承认,A-0 的数据完全由人手操作夹爪采集,因此数据中没有机器人执行、失败和恢复轨迹。模型也没有使用遥操作、强化学习、仿真或在机器人上的纠错。在正常示范分布内,这可能不是问题;但遇到接触力异常、夹爪卡住、物体滑落或控制器跟踪误差时,模型没有直接的机器人失败样本可供学习,部署系统必须依靠视觉闭环和安全控制兜底。

作者还明确把部署范围限制在能够安装相同 YUBI 夹爪和腕部相机的机器人。两只腕部相机提供了采集与部署之间最稳定的共享视角,却缺少全局工作空间信息。对需要长距离导航、双臂大幅避障、依赖桌面全局位置的任务,双腕视图可能不足。论文通过记忆和阶段预测补足时间上下文,但没有补足空间全局上下文。

从独立分析角度看,公开仓库的“可复现性”也有边界。它公开了后训练入口、配置、损失函数、阶段监督和 NUF 训练代码,但 README 明确要求用户提供预训练权重和 LeRobot 数据;完整预训练数据管线、过滤规则、重定时细节以及 30 万步预训练脚本并未作为同一套端到端实现公开。因此,代码最适合用于复现“如何在自有任务上后训练”,而不是从零重建论文的 16,151 小时预训练系统。论文的数据和权重发布仍然重要,但工程复现范围应与论文叙述区分。

最后,结果的平均值可能掩盖部署风险。78% 对四类机器人任务而言是重要进展,但耳机盒仅 30%,机器人吸尘器维护为 73%,折毛巾为 73%;这些任务都涉及较长步骤或精细接触。真正进入生产时,任务成功率还需要与失败后的可恢复性、人工接管成本、节拍和安全性一起评估,不能只看一次试验的平均分。

11. 总结与展望

AIRoA-0 把手持双手示范从“数据采集技巧”推进为一套完整机器人学习系统。它用 16,151 小时数据训练视觉语言动作模型,用夹爪锚定坐标消除本体依赖,用两级语言和阶段预测处理长任务,用本体感受记忆补足单帧信息,再用非均匀流式解码把动作块连接为连续控制。在未见站点、只给一句任务指令、只看两只腕部相机的条件下,同一组策略权重覆盖四种机器人和十项任务,平均成功率达到 78%。

这条路线接下来最值得关注的不是再增加多少小时的同类数据,而是如何补齐机器人失败、接触异常和主动恢复数据,同时保持手持采集的低成本优势;如何在不放弃统一夹爪接口的前提下引入更多传感器和工具;如何把双腕局部视图与轻量全局空间记忆结合;以及如何让后训练配方在更低成本硬件上稳定复现。如果这些问题得到解决,手持数据有机会成为机器人基础模型中真正可持续扩展的数据来源,而不只是实验室里的替代采集方案。

当数据采集不再等待机器人,机器人学习才真正开始等待规模。

相关论文

MABEL:面向遥操作与学习的开源拟人移动双臂平台

MABEL:面向遥操作与学习的开源拟人移动双臂平台

面向机器人学习的任务正在从桌面走向移动与双手操作,但兼具移动、可调高度、主动感知和灵巧操作的平台通常价格高昂。作者提出 MABEL,一套 56 自由度、约 8,056 美元零件成本的开源拟人移动双臂机器人。它集成两条 7 自由度手臂、17 自由度灵巧手、俯仰躯干、升降柱、3 自由度颈部和全向底盘,指尖可达地面至 2.23 米。双臂与躯干可反驱,支持柔顺接触;头颈与躯干运动把建模相机覆盖范围扩大到躯干固定相机的约三倍。系统仅凭 Apple Vision Pro 的头手追踪即可完成全身遥操作,在机器人热点连接下实现平均 137 毫秒的端到端立体视频时延。遥操作、仿真和 ACT 策略共享同一条全身控制链路,打通了从示范采集到策略部署的完整模仿学习流程。

Qilong Cheng, Rooholla Khorrambakht, Mohamed Yassine Kabouri · 117次阅读 · 2026年11月2日
Robot Platform移动操作
2026年11月2日
Fast-VLA:机器人操作只需一次思考

Fast-VLA:机器人操作只需一次思考

冻结的 4B 视觉语言模型仅在每次任务开始时构建多层 KV 记忆,在线轻量动作器持续读取实时视觉、机械臂状态和历史视角生成动作。Fast-VLA 在 RoboTwin 达到 92.43%,并将摊销推理加速 10.9–17.1 倍。

Kehong Gong, Guanli Hou, Xiaoxu Zheng · 198次阅读 · 2026年10月15日
视觉语言动作模型机器人操控
2026年10月15日
面向稳健机器人部署的自适应视觉语言动作模型

面向稳健机器人部署的自适应视觉语言动作模型

提出部署后训练方法,把硬件偏移下的自身轨迹压缩为上下文令牌,经轻量编码器和自适应层归一化迭代校正视觉语言动作策略,在四类操作任务中恢复逾 80% 的基础性能。

Hongxin Zhang, Chunru Lin, Tsun-Hsuan Wang · 206次阅读 · 2026年9月24日
视觉语言动作模型Test-Time Adaptation
2026年9月24日
DONIC:从人类演示学双手灵巧跟踪

DONIC:从人类演示学双手灵巧跟踪

DONIC 是首个跨操作类别与人类动作数据源联合训练的通用双手跟踪器;配套 BiHOI 多视角数据集含 1575 段序列、229 个物体,强调持续双手接触。方法以物体为中心的逐手奖励与 Clip-Centered Advantages 支撑 PPO 加行为克隆的闭环,单个检查点在未见轨迹与未见物体上分别取得 86.79% 与 57.32% 的成功率,无需任何微调。

Mingze Sun, Ziang Cao, Yuan Fei · 250次阅读 · 2026年10月21日
灵巧操作Bimanual Manipulation
2026年10月21日

本站含 CakeGrowth 联盟推广链接,我们可能从符合条件的购买中获得佣金。