像给一位反应很快的助手换上真正练过的“抢答模块”:Ornith-1.5-35B-A3B 此前被怀疑带着未经正确训练的 MTP 头,如今社区用户 frankentriple 找到一份训练过的版本,并将它拼接到 Ornith1.5 的 APEX requant 检查点上。MTP(多词元预测)会提前猜后续多个词元;猜得准,模型就能减少逐个生成的等待。
作者自述,在同一组无线电任务测试中,平均生成速度从每秒 60 个词元升至 64 个,但完成任务的总耗时从 21 秒降到 14 秒,减少约三分之一。这个结果值得注意:每秒生成量只小幅变化,实际等待时间却明显缩短,也补上了上一期争议中缺失的“修复后测速”。不过,这仍是社区单人测试;材料未披露更广泛任务、硬件控制或独立复现结果,且标题所称“+3% TPS”与正文的 60→64 t/s 并不完全一致。