本地跑大模型，常见难题不只是“装不装得下”，还有“回答要等多久”。Hy3 的两条新进展正好分别处理这两个问题：llama.cpp 的 PR #25395 加入 Hy3 与 MTP（多 token 预测）支持，让模型先猜出接下来的几个 token，再用推测式解码减少逐字生成的等待；Colibri 的 Hy3 移植则采用流式装载，按需把模型权重从系统内存送进 GPU，降低常驻显存压力。
据 PR 作者测试，Hy3 299B-A15B 的 IQ1_M 量化版在 RTX 5090 上生成 300 token 时，MTP 草稿接受率为 85.8%，速度从 7.89 提升到 8.81 token/s，约快 11.7%；该结果来自单一配置，且当时仍以 PR 形式推进。另一边，Colibri 移植作者称 Hy3 可在不超过 10GB 的（显）存条件下运行，并建议显存不充裕时主要使用 RAM（系统内存）。代价也很直白：权重来回搬运通常会限制速度，内存越多才越快。相比 7 月 12 日仍依赖专用分支、约 128GB 容量的路线，这次更新把工具链和低门槛方案都向前推了一步。