给 AI 一段较长的材料，它要先把内容读完，才能开始回答。这个“先读”的阶段叫预填充；llama.cpp 此次为 AMD 服务器 CPU 增加了一条 ZenDNN 专用路径，让 Q8_0 量化模型更快处理输入。ZenDNN 是 AMD 针对 Zen 架构优化的深度学习加速库，Q8_0 则把模型权重压缩为约 8 位整数，以较小的精度代价换取更低的内存占用。
PR 作者给出的 96 线程测试显示，Llama-3.1-8B-Instruct 在 256 个提示词 token 下，处理速度从 472.28 提升到 730.87 token/s，增幅 54.75%；输入增至 768 个 token 时，增幅达到 93.49%。不过，随后逐字生成内容的“解码”阶段几乎没变：tg128 测试仅提升 0.18%。换句话说，这项改动主要缩短 AI 阅读提示词的时间，并不会明显加快回答逐字出现的速度。上述结果来自 PR 作者自测，且明确仅面向 AMD EPYC CPU。