智能AI
morning
登顶RoboChallenge Table30!LoopWAM开源,与pi的部署自进化理念不谋而合
摘要
项目主页: https://loop-wam.github.io 论文原文: https://arxiv.org/abs/2610.18873 开源代码: https://github.com/loop-wam/LoopWAM 近日,由 清华大学、原力灵机与 极寰时代 联合研发的世界动作模型LoopWAM,登顶真机评测榜单RoboChallenge Table30 V2,成功率与过程分双双位列榜首...
https
Table30
成功率
过程分
loop
wam
github
API
RoboChallenge
项目主页
2026-10-20
1 阅读
约10分钟阅读
机器之心
字号:
项目主页: https://loop-wam.github.io 论文原文: https://arxiv.org/abs/2610.18873 开源代码: https://github.com/loop-wam/LoopWAM 近日,由 清华大学、原力灵机与 极寰时代 联合研发的世界动作模型LoopWAM,登顶真机评测榜单RoboChallenge Table30 V2,成功率与过程分双双位列榜首,成绩超过VLA-DM0.5等同期方案。同时,LoopWAM在仿真榜单RoboTwin 2.0和RoboCasa365上同样取得SOTA表现。 LoopWAM在所有榜单评测中使用的模型,均由 国产卡阿里云 PPU-810E 训练, 非NVIDIA 系列卡。 这一成绩背后,是一条从真实部署中持续学习的技术路线:让成功、次优和失败经验共同拓展世界模型的学习范围,增强对任务过程和动作后果的理解,再通过质量引导提升动作生成,使机器人在下一轮部署时做得更好。 从仅使用专家演示训练的初始模型出发,经过三轮部署与训练,LoopWAM的整体成功率提高了约19.7个百分点,相对提升 约83% ,过程分也从36.10提升至 56.80 。 让真实部署经验成为下一轮进步的起点,是LoopWAM此次登顶的关键。 这种从真实部署反馈中持续迭代的思路,与Physical Intelligence近日发布的PI API workflow不谋而合:通过“数据上传—模型微调—机器人部署—评估与数据收集”的循环推进能力提升。LoopWAM则在部署数据的利用上更进一步:闭环更新无需额外采集专家演示,也无需引入强化学习,而是发挥世界模型从动作与环境变化中学习的特点,将成功、次优和失败的rollout轨迹全部纳入视频预测训练,再通过质量steering与加权动作监督提升动作生成质量,让部署经验本身成为持续自提升的来源。 图1 PI API (来源:Physical Intelligence) 01 30项真机任务检验综合能力 RoboChallenge Table30 V2覆盖ALOHA、DOS-W1、ARX5和UR5四种机器人本体,包含物品整理、工具使用、精细操作和双臂协同等多类任务。 图2 RoboChallenge 多任务可视化 真实操作中的挑战,存在于每一次接触与运动之中:能否选对目标,能否稳定抓取,能否把工具用到位,又能否连续完成多个操作步骤。Table30 V2通过成功率和过程分,分别衡量任务完成情况与执行过程的完成质量。 在本次评测中,LoopWAM在11项任务上的成功率达到 60% 及以上,9项任务过程分达到80分及以上。几组具体成绩,让模型能力更加直观: 整理水果、物品分类、取出绿色积木:成功率均为 100% 。 用小勺舀取物体:成功率 90% ,过程分 92 。 按下按钮:成功率 80% ,过程分 92.5 。 堆叠碗具:成功率 80% ,过程分 89 。 从辨认目标、完成分类,到操作工具、推进多阶段任务,高分表现分布在不同本体和任务类型上,共同支撑了LoopWAM的综合成绩。 02 让成功与失败经验进入学习闭环 登顶背后,LoopWAM关注的是一个直接影响机器人持续进步的问题:真实部署中积累的经验,怎样才能被用好? 专家演示为机器人提供了优质的学习起点。但进入真实环境后,机器人会遇到演示之外的状态:抓取发生偏移、物体意外滑落、工具接触不充分,或者任务只完成了一部分。 这些部署轨迹包含了丰富的物理交互信息,也混杂着质量不同的动作。把所有动作都当作模仿目标,可能强化不理想的行为;只保留成功轨迹,又会丢掉大量关于动作及其后果的经验。 LoopWAM由此提出一种闭环世界动作模型:把成功、次优与失败经验纳入统一训练,用更广泛的真实交互增强世界建模,再通过质量引导和动作监督加权,让策略吸收经验的同时保持对高质量行为的偏向。 图3 LoopWAM闭环自提升 这项工作的完整名称是LoopWAM: Closed-Loop Generalist Policy Improvement from Deployment Rollouts。贯穿其中的流程可以概括为: 部署 → 收集成功、次优与失败轨迹 → 质量感知训练 → 再部署。 每一轮新经验都会与专家演示和此前积累的轨迹共同进入训练,形成持续迭代的闭环。 03 支撑闭环自提升的关键技术 LoopWAM围绕一个目标展开:充分利用真实部署中的各种经验,增强世界模型对任务与物理交互的理解,并将这种理解转化为更高质量的动作。为此,它把数据分布扩展、动作条件世界建模、视频与动作联合生成,以及质量感知学习结合起来。LoopWAM以Wan2.2-TI2V-5B预训练视频模型为基础,构建视频与动作双分支架构,联合预测同一时间范围内的未来画面与机器人动作。 图4 LoopWAM方法 吸收更多真实部署数据,拓展世界模型的学习范围 专家演示提供完成任务的优质路径,真实部署则带来更广泛的状态、动作及其结果。LoopWAM将成功、次优和失败轨迹都纳入训练,保留所有质量轨迹的视频预测监督。更丰富的交互过程由此成为世界模型的学习材料,拓展其对环境变化和物理交互的表征能力。 强化ACWM,让模型学清动作带来的后果 LoopWAM在同一世界动作模型中强化动作条件世界建模(Action-Conditioned World Modeling,ACWM):利用已执行的动作,预测它们对应的视觉结果。其关键是来源相关的噪声采样,分别控制视频与动作在训练中的噪声水平。 对于专家演示,模型从较强噪声中恢复专家执行对应的未来画面,同时学习动作生成,让模型能够学到如何完成任务。对于部署轨迹,则对动作施加较小的噪声,保留更多动作信息,让视频分支据此学习动作会引起的环境变化。即使任务没有完成,动作与结果之间的联系仍能用于训练,促进预测视频与生成动作在行为及结果上的一致性。 让世界建模直接参与动作生成 在同一次联合去噪过程中,视频与动作信息通过每一层的双向注意力持续交互。丰富的视频预测监督帮助模型学到更好的物理世界表征和动作后果知识,二者共同支持动作生成:模型既学习“任务怎样最优完成”,也学习“生成的动作会怎样改变环境”,让世界模型更充分地支持机器人控制。 区分数据质量,引导生成高质量动作 为了让模型在吸收更多经验的同时清楚行为优劣,LoopWAM为轨迹赋予质量分数,并将质量条件加入任务指令,通过质量steering的方式驱动视频与动作分支。训练时,模型学习同一任务下不同质量的行为分布;真实部署时,指定专家质量条件,将生成引导到高质量行为分布。 质量条件之外,LoopWAM还根据轨迹质量调整动作监督的权重。在所有轨迹都保留完整视频预测监督的同时: 专家轨迹提供完整的动作监督。 次优轨迹按质量加权,降低对较差动作的模仿强度。 失败轨迹的直接动作监督权重设为零,其真实交互后果仍用于世界建模。 质量steering负责区分不同的行为分布,监督权重决定各类动作被模仿的程度。二者共同作用,让模型从更广泛的经验中学习世界,并引导动作生成偏向高质量行为,支持真实部署的闭环自提升。 图5 四项任务的视频预测 上面的动图展示了整理水果、收纳笔、堆叠碗具和滚筒除尘
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱