让机器人看到杯子后伸手去拿,关键不只是“认得准”,还得及时给出下一步动作。视觉—语言—动作模型(VLA)把摄像头画面和文字指令转成动作;它若直接跑在机器人随身设备上,算力和显存有限,一次计算拖太久,就会拉长“观察—行动—再观察”的纠偏周期。
VLA-HWBench没有只看参数量,而是把一次推理拆成七段,包括 CPU 预处理、图像编码和动作生成等。作者在 NVIDIA Jetson AGX Thor 与 AMD Ryzen AI Max+ PRO 395 上测试了 18 个开放模型。其报告称,Jetson 上 19 种配置的延迟从 77 毫秒跨到 6.3 秒,其中 14 种最耗时的是动作生成;参数量最多只能解释 15% 的延迟差异。真正关键的是动作如何生成:少数几步就产出一串动作的模型更容易跟上控制,逐个生成动作 token(模型内部使用的离散符号)的方式则较慢。换句话说,缩小模型未必能让机器人反应更快;设计者还得减少连续生成步骤,并检查推理后端与 CPU 预处理这些容易被忽略的账目。