把模型权重压到两比特，像把调色盘缩成四种颜色：文件小了，细节也容易丢。对会写很长推理过程的模型，这件事尤其重要。模型每生成一个 Token（文字片段），都要从显存搬运权重；权重越小，越能缓解内存带宽瓶颈。但只看压缩后的文本预测是否流畅，未必能发现解题能力已经受损。
ThinkBit的做法不只是压权重。它先按敏感程度给不同层分配精度，再搜索量化码——权重可选的整数档位；随后固定量化码，重校共享尺度，也就是把这些档位放大回合适范围的系数。最后，它让两个阶段的版本直接做推理题，留下表现更好的一个。
论文作者称，在Qwen3-1.7B上，一些删减版的普通问答平均分仍只相差1.5分，但MATH-500准确率会从43.0降到28.4—37.0。按约0.5 GB的相近体积比较，ThinkBit重校版得分46.7，EfficientQAT为30.0。关键提醒很朴素：两比特模型若为推理而压缩，就该用推理表现验收，不能只看困惑度——模型预测下一个Token有多拿不准。