本地跑大模型时，回答常像“逐字挤出来”。这次 llama.cpp 重构了 Intel GPU 的一条关键计算路径：让 XMX——专门加速矩阵乘法的硬件单元——更充分地参与推测解码。推测解码会先让小模型批量猜词，再由主模型统一核验；核验越快，整体等待越短。
据测试者 nickm_27 自述，在 Intel B70 上通过 SYCL——让 C++ 程序调用不同加速器的开放标准——运行 30B 参数的 Muse Glimmer Q6_K，九项任务总耗时从 46.86 秒降至 26.68 秒，约缩短 43%。各任务速度从原先每秒 36.2 至 53.2 个 token，提高到 53.6 至 87.7 个。
有意思的是，候选词接受率反而从 78.45%降至 36.3%。原因是核验变便宜后，测试者调高了单次猜测上限：即使猜错更多，多猜、多验仍能换来更高吞吐。这组结果来自单一硬件与特定模型配置，材料未披露其他 Intel GPU 上的表现。