让 AI Agent 一边解题、一边搜索或执行代码,通常要把每一步思考都写成文字。这像是做题时必须把所有草稿逐字念出来:方便检查和调用工具,却慢,也消耗更多 token——模型处理文字的基本单位。HybridAgent 想把草稿留在“脑内”,只在需要与外部交互时开口。
它把两种推理放进同一套生成流程:内部思考可进入潜空间——模型用数字向量表示信息、但人不能直接读懂的内部空间;调用工具时则切回文字,给出明确、可执行的请求。一个轻量组件 HybridLink 负责切换模式,连续工作记忆则保留多轮上下文。训练分两步:HybridSFT 先教模型协调两种模式,HybridRL 再让它学习何时潜在思考、何时用文字行动。
作者在三个模型规模、11项数学、科学、医学、搜索及 Agent 推理基准上测试,称相较所选前沿 Agent 与框架,性能平均提高10.4%,token 减少35.5%至54.7%,推理速度达到1.8至2.6倍,成本降至约原来的1/2.7至1/3.7。值得关注的是,它不只追求“少说”,而是尝试保住工具能力;不过这些效果目前均为论文作者自述。