给模型换掉“遇到危险问题就拒答”的习惯,通常要提前加工模型;这个项目则像加了一个随用随开的内部开关。AbliteratedOutTheBox 是 llama.cpp——一种本地运行大模型的工具——的分支,能在推理时临时执行 Abliteration,也就是削弱模型内部与拒答相关的信号,而不永久改写磁盘上的原始权重。
据项目官方 README,它会从当前提示构造“服从—拒绝”和“直接回答—免责声明”两个方向,再判断是否需要介入;触发后,系统用编辑过的内部状态重新读取一次提示。作者称,这不需要微调、额外权重文件或更多显存,逐字生成速度也不变,但会增加一次提示预处理。
最值得注意的不是“去审查”本身,而是安全边界变得更直白:能接触模型内部计算的人,可以在加载阶段绕过拒答。作者在 Qwen3-8B 上自测称,有害提示拒答率从 96.3% 降至 7.9%;不过结果来自项目方自建探针和人工核读,尚非独立复现。Abliteration 也只是在拆除拒答机制,并不会让回答更准确、可靠或安全。