Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.051 — 2026-08-24
NEWS 约 1 分钟

Ornith的MTP头被社区修好了

社区替换 Ornith 的 MTP 预测头后,实测任务耗时从 21 秒降至 14 秒。

像给一位反应很快的助手换上真正练过的“抢答模块”:Ornith-1.5-35B-A3B 此前被怀疑带着未经正确训练的 MTP 头,如今社区用户 frankentriple 找到一份训练过的版本,并将它拼接到 Ornith1.5 的 APEX requant 检查点上。MTP(多词元预测)会提前猜后续多个词元;猜得准,模型就能减少逐个生成的等待。

作者自述,在同一组无线电任务测试中,平均生成速度从每秒 60 个词元升至 64 个,但完成任务的总耗时从 21 秒降到 14 秒,减少约三分之一。这个结果值得注意:每秒生成量只小幅变化,实际等待时间却明显缩短,也补上了上一期争议中缺失的“修复后测速”。不过,这仍是社区单人测试;材料未披露更广泛任务、硬件控制或独立复现结果,且标题所称“+3% TPS”与正文的 60→64 t/s 并不完全一致。


供稿材料 SOURCES — 1

← 返回 2026-08-24 · 开源板块