给一小时会议录音做文字稿,模型既要听准多人发言,又不能每生成一个词都把整套“大脑”运转一遍。英伟达的 NVIDIA Nemotron 3.5 Transcribe 选择了 MoE(混合专家)路线:模型像一组分工不同的专家,每次只请其中一部分处理当前内容,在保留较大容量的同时控制实际计算量。
它虽以“30B-A4B”命名,但据英伟达模型卡,连同音频编码器共有约 340 亿参数,每次主要激活约 43 亿。模型开放权重,可离线处理最长一小时的录音,覆盖 40 种语言,并支持转写、翻译、说话人标注和时间戳等任务;开发者也能通过 NeMo——英伟达的语音与生成式 AI 开发框架——调用。官方给出的部署规格是单张 H100 80GB,说明“只激活一部分”不等于普通电脑即可轻松运行。真正值得关注的是路线变化:稀疏模型不再只用于文字生成,英伟达正把它扩展到语音识别。