把模型参数压成负、零、正三档,就像把细腻的音量旋钮改成三个挡位:文件更小、运算更省,但“听起来还顺”不代表内容没丢。困惑度——模型预测下一个词时有多犹豫——主要衡量语言流畅性,未必能反映事实记忆和任务能力。RoleQ关注的正是这道裂缝。
常见量化方式按权重矩阵的行列设置缩放尺度,也就是决定每一档对应多大的实际数值。RoleQ则按参数在 Transformer 中的功能分工来分:从残差流读取信息的向量按输出单元设尺度,写回信息的向量按输入单元设尺度。作者报告,在14B模型上,常规的逐输出通道尺度让MMLU成绩降至接近随机水平的25.4分;RoleQ把它提高到38.5分。它提醒我们:三元模型“压得动”只是第一关,评估时还得同时检查知识与任务能力,而不能只盯着困惑度。