Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.112 — 2026-10-24
NEWS 约 1 分钟

加载模型时就能现场去审查

这个 llama.cpp 分支让模型在加载后临时削弱拒答机制,无需微调,但安全影响仍待独立验证。

给模型换掉“遇到危险问题就拒答”的习惯,通常要提前加工模型;这个项目则像加了一个随用随开的内部开关。AbliteratedOutTheBox 是 llama.cpp——一种本地运行大模型的工具——的分支,能在推理时临时执行 Abliteration,也就是削弱模型内部与拒答相关的信号,而不永久改写磁盘上的原始权重。

据项目官方 README,它会从当前提示构造“服从—拒绝”和“直接回答—免责声明”两个方向,再判断是否需要介入;触发后,系统用编辑过的内部状态重新读取一次提示。作者称,这不需要微调、额外权重文件或更多显存,逐字生成速度也不变,但会增加一次提示预处理。

最值得注意的不是“去审查”本身,而是安全边界变得更直白:能接触模型内部计算的人,可以在加载阶段绕过拒答。作者在 Qwen3-8B 上自测称,有害提示拒答率从 96.3% 降至 7.9%;不过结果来自项目方自建探针和人工核读,尚非独立复现。Abliteration 也只是在拆除拒答机制,并不会让回答更准确、可靠或安全。


供稿材料 SOURCES — 1
01
Inference time abliteration r/LocalLLaMA 日榜 · NEWS
原文 ↗

← 返回 2026-10-24 · 开源板块