模型写得快,不等于能把程序修好。就像维修工很快开出工具清单,却未必找得到真正的故障。FeydRowan 这次不再只比 tok/s——模型每秒生成多少内容的速度指标,而是从自研 C++/CUDA 引擎的私有历史中取出九个真实回归缺陷,也就是代码改动后重新出现的问题,让本地量化模型与 Claude 分别寻找原因并提交补丁。
测试只提供症状、数字和日志,不提示该查哪里;问题包括性能骤降、数值偏移,以及仅在 WSL2 双显卡环境出现的故障。每个模型对每题运行三次,最多行动 80 步,而且不能联网、编译或实际运行代码,只能阅读代码推理。补丁随后由隐藏的真实修复规则自动评分,并交给 Claude Opus 5 盲评;作者称,两套分数按补丁计算的相关系数为 0.79,模型排序也一致。它比单看速度更接近日常开发,但九题规模有限,两类模型还使用了各自表现更好的不同工具框架,因此结果适合作为部署取舍的质量证据,不宜视为严格排名。