你还没说完“帮我查周五去上海、预算两千以内的航班”,语音助手就可以先准备查询,不必等整句话结束才开工。Heartbeat Thinking瞄准的正是这段体感等待:让实时语音智能体在听取请求时同步推理,并提前调用工具——即把任务和完整参数交给搜索等外部程序。
它的关键设计是定时启动多个 Thinker。新语音到来时,正在生成的工具调用不会被打断;后续 Thinker 还能接着利用已经完成的推理和查询结果。用户说完后,独立的 Responder 会按完整请求核对这些准备,只复用仍然适用的结果,并取消未完成的任务。论文作者报告,在 FDBench v3 上,可复用的提前工具调用覆盖率从对照方法的 34.67% 升至 50.67%,平均最终响应延迟从 6.90 秒降至 4.39 秒。不过,更多提前准备并不总能提高答题质量:另外两个基准上的最终表现略有下降,说明“先查到”仍不等于“最后用对”。