你让机器人把积木插进窄槽,它第一次没对准。传统做法往往是重新训练操控模型;HexaShell想试另一条路:让AI像修程序一样,读失败日志、找原因、写个小工具,然后再试一次。区别在于,程序报错最多让测试变红,机器人代码却会变成真实动作。这项工作值得关注,正因为它在追问:一套通用的视觉语言模型,加上一层很薄的控制脚手架,能不能挑战专门训练的机器人策略?
本文数据与结论均来自HexaShell论文;尚无独立复现或第三方交叉验证,论文所称“新纪录”也应按作者报告理解。
把命令行接到机器人身上
HexaShell是一套轻量脚手架(harness)——包在模型外面的工具与规则层。它不替AI判断该抓什么、往哪里放,只把命令翻译成双臂机器人的运动。智能体面对的是一个名为robo的命令行、三台RGB相机的画面和标定参数,以及约60行的接口说明。
视觉语言模型(VLM)能同时理解图片和文字,在这里负责观察与决策。实验使用Codex with GPT-6-Astra,推理强度设为medium。需要提醒的是,这一模型名称及其外部可获得性,目前只有论文自身材料可供核对。
系统把同一模型分成两个角色。执行智能体操作机器人;失败后,优化智能体读取动作记录、相机画面和现有代码,诊断问题,再新增或修改一个小型工具。工具带有单元测试,并会留到后续任务布局继续使用。换句话说,AI积累的不是一段模糊“经验”,而是可以再次运行的代码。
这和电脑上的代码智能体很像:运行测试,看到错误,修改程序,再运行一次。HexaShell只是把“测试结果”换成了机械臂有没有完成任务。论文报告,一轮失败后的修复耗时中位数为6.3分钟,不需要训练模型,也不需要改动模型本身。
先解决“它到底在哪儿”
机器人控制的难点,不只是看懂画面。模型还要把画面里的一个像素,换算成现实空间中的位置。相机标定提供每台相机的位置、朝向和成像参数,但单个像素只能确定一条从相机出发的射线,不能直接告诉机器人目标离它多远。
HexaShell主要用三种办法补上这条信息。若物体位于桌面或另一个已知高度的平面,就计算射线与平面的交点;若两台相机同时看到同一点,就用两条射线交会来估计三维位置;视角不够时,机器人会移动腕部相机,再看一次。这叫主动感知——不是站着猜,而是换个角度确认。
论文称,单目深度模型Depth Anything V2在这些场景中,即使利用桌面修正尺度,头部相机的物体像素深度误差中位数仍为41毫米,腕部相机约为100毫米,而抓取和放置通常需要约一厘米的精度。在相同模型、脚手架和布局下,三角测量的排行榜成功分高出8.7个百分点;逐布局比较,它把57个深度模型失败的布局变成成功,同时在23个布局上落后。
换视角也有成本。RoboDojo会限制机器人实际执行的动作步数。论文统计,三角测量至少把3.6%的执行步数花在观察动作上,43%的回合移动过相机。不过,在发生观察动作的180个布局中,三角测量方案成功39次,深度模型成功22次。至少在这组实验里,多看一眼通常值得。
成绩说明了什么
RoboDojo包含42项双臂机器人任务。HexaShell只用每项任务同一seed下的10个布局开发工具,最多对每个布局修改五轮;随后冻结工具,在同一seed的另外10个新布局上测试。这里的seed可以理解为一套固定的场景生成规则,新布局会改变物体位置等细节,但不等于跨物体、跨任务或跨真实环境泛化。
按论文采用的排行榜平均方式,HexaShell取得39.7%的成功率和48.0的进度分。作者将其称为RoboDojo的新state of the art。论文列出的对照中,世界动作模型VPP2为32.3%和39.3%,PhysicalRSI为31.4%和36.3%;同一基础模型在没有自建工具、只使用基准固定接口时为22.48%和28.97%。这些结果说明,能把失败沉淀成工具代码,至少在该测试设置下带来了明显收益。
更有意思的是能力分布。HexaShell在推动、滑动和按压类任务上成功率达到92.5%,记忆任务为65.0%;但需要毫米级或精细角度控制的紧密插入只有8.3%,12个相关变体中有7个完全没有成功。学习型策略VPP2在精密和长程任务上反而更强。
作者据此认为,当前主要瓶颈是接触操作,而不是推理:机器人经常知道自己失败了,也会不断重试,却无法把动作真正做准。420个开发布局复测回合中有268个失败;排除工具报错后,57%的失败耗尽了动作预算。这个现象支持作者的判断,但还不能排除感知误差、工具实现、控制精度和实验设计共同造成影响。
为什么值得继续看
HexaShell没有证明通用智能体已经可以取代机器人策略。它展示的是一种不同的进步路径:不必把所有能力都压进模型参数,也可以让模型把失败改写成可检查、可复用的小程序。论文最终留下327个任务命令,代码约7.8万行,并公开了演化出的工具。
这也让机器人的学习过程更容易追踪。一次失败究竟来自看错、算错,还是动作做不到,可以沿着日志、工具代码和测试逐步检查。相比一个直接输出动作的黑箱策略,这种形式更接近软件工程,也更方便定位能力边界。
局限与未知
- 所有主要数字、排行榜比较和“新纪录”结论都来自同一篇论文;尚缺官方榜单交叉核对、独立复现和真实机器人验证。
- 开发与测试使用同一seed,只更换布局。“只用10个布局开发”也不等于只交互10次:每个布局可经历多轮尝试与工具修改。
- 8.3%的紧密插入成功率说明,代码式纠错仍难以补上精细接触控制。现有证据不足以把这一差距单独归因于“动作而非推理”。