给本地大模型“瘦身”，通常像把整箱行李统一换成小包装：内存省了，重要物品也可能受损。Dynamic Quantiser 想做得更细。它读取 GGUF——本地大模型常用的模型文件格式，为不同张量（存放模型权重的数据块）分别选择量化精度，把有限空间优先留给更怕压缩的部分。制作者只需提供 GGUF 文件和 llama.cpp 工具链，不必准备校准数据，也能指定目标文件大小。
它最值得注意的一点，是把选择精度变成了一个全模型优化问题：逐个比较张量在不同量化等级下的影响，尽量降低余弦偏差——量化前后模型数值方向的变化。作者称，这一指标与 KLD（衡量两种输出概率分布差异的方法）的 Pearson 相关系数达到 0.99；初始表格建好后，寻找方案只需数秒。工具免费开源，也允许手动指定不同层或分组的精度。
作者自述，其结果明显优于标准 Qx_K_M 量化；纯文本任务仍不及 Unsloth，在混合输入或代码上可能接近。不过帖子没有披露完整测试设置与逐项成绩，这些质量判断仍需独立实测。