你开会时想要实时字幕，最麻烦的不是“AI 能不能听懂”，而是整条语音链路要怎么跑起来。过去很多本地语音识别仍绕不开 Python 服务；audio.cpp 这次更新的看点，是把 ASR/STT——也就是把语音转文字——继续往本地 C++/GGML 栈里搬。C++ 本地栈更像一个可编译进应用的底座，GGML 则是 llama.cpp 生态常用的轻量本地推理库。说白了，语音识别离“装进本机应用”又近了一步。
据作者在 Reddit 介绍，audio.cpp 新增了 4 个 ASR/STT 模型支持：Nemotron 3.5 ASR、Higgs Audio STT、VibeVoice ASR 和 Hviske ASR（仅 da）。同时，流式识别也开始落地：流式就是边听边出文字，而不是等整段录音结束。当前 Nemotron ASR 可通过 SSE 输出流式识别结果，VoxCPM2 可增量接收文本并返回音频块；Higgs Audio STT 的流式路径还被作者视为实验性。
最值得盯的是 Nemotron。作者自测称，在 RTX5090 上，它离线转写 327.6 秒音频只用了 2.17 秒，WER（词错误率）为 3.18%；SSE 流式路径得到相同 WER，首字延迟约 308ms，峰值显存更低。不过这些数字来自作者单次发布说明，摘要也明确说服务级流式、分块调度和更低 TTFT 仍待改进。