你在电脑上运行一个本地模型，过去通常只能看到它输入了什么、回答了什么。现在，社区工具开始尝试打开模型的“机舱盖”：一边生成，一边观察内部信号，甚至当场改变它的行为。这就是 Jacobian Lens 闯入 GGUF 值得关注的原因。它把一种研究模型内部活动的方法，接到了普通本地推理工具的工作流中。
Anthropic 此前发布了 Jacobian Lens 的研究介绍、论文和代码。我们在 7 月 9 日的 A332 中也介绍过它，以及 Global Workspace 和它在 Gemma、Qwen 上作为错答分流信号的初步实验。这一次的变化不在新论文，而在社区实现：观察开始走向实时干预和模型导出。相关具体功能目前主要来自两位项目作者的自述，尚无独立测试或定量评测。
从研究仪器接到本地模型
先解释两个名字。GGUF 是 ggml 生态常用的模型文件格式，把模型权重、量化信息和元数据装在一起，方便本地推理工具直接加载。llama.cpp 则是一个以 C/C++ 为主的本地大模型推理项目，尤其常用于消费级硬件和量化模型。
Reddit 用户 Responsible_Fig_1271 发布的 jlens-gguf，正是把 Jacobian Lens 接到这套环境中。按作者介绍，它内置了一个与 llama.cpp closely aligned、并保持 Git 同步的原生 GGUF server。用户可以在其中观察模型，也可以进行 J-space swapping、steering 和作者所称的“abliteration”。
J-Space 可以先理解为 Jacobian Lens 所呈现、可供观察和调整的内部信号空间。Steering 是人为把模型内部表示推向某个方向；ablation 则是移除或压制部分信号，看看它们对行为有什么作用。二者都不只是“看仪表”，而是在动控制杆。“abliteration”是项目作者自己的用语，目前不宜把它当成已经确立、效果明确的标准能力。
jlens-gguf 还有另一种工作方式：连接一个已经运行的 llama-server，对其中的模型进行观察。但按作者说明，这种外接模式不能实施干预。要实时 steering，需要使用项目自带的原生 GGUF server。
大模型也能装上这副镜片，但并不免费
作者称，jlens-gguf 同时支持 dense 和 MoE GGUF 模型。dense 模型会较普遍地调用整套参数；MoE，即“混合专家”模型，则会按输入选择部分内部模块参与计算。
这副“镜片”还要额外占内存。作者给出的经验值约为模型大小的八分之一。例如，约 160 GB 的 Qwen3.5-397B UD-Q3_K_XL，需要再准备约 20 GB RAM。这个数字说明，工具虽然进入了本地推理生态，却不等于没有硬件门槛。作者表示自己做过代码审查和几轮测试，但兼容范围与内存开销目前都缺少独立验证。
更值得警惕的是“改完再带走”
另一位 Reddit 用户 Extraaltodeus 展示了不同方向的工具。它同样基于 Jacobian Lens，但不能拿来佐证 jlens-gguf 的功能。作者称，该工具可以修改 J-Space，再把结果导出为模型文件，并放出了 Nikusui-v1 的若干 GGUF 量化版本。
模型导出，就是把内存中的修改结果写成以后还能加载的文件。实时 steering 像在模型运行时扶着方向盘；导出则试图把调整固化下来，让下一次加载时仍保留变化。作者宣称导出的模型可以维持调整后的行为，但没有给出评测指标或复现实验。因此，目前可以确认的是“工具声称具备导出能力”，不能确认行为变化能否稳定保留。
这也解释了它为何既有趣又危险。模型内部观测原本更像诊断仪器，用来研究模型为什么这样回答。一旦它进入 GGUF 和 llama.cpp，观测、干预、保存便可能连成一条本地工作流。它可以帮助人检查内部信号，也可以被用来有意改变模型行为。工具作者用“super harmful”“pretty pervy”等戏谑说法宣传实验，但这些标签没有测量标准，不能当成已经证实的能力。
局限与未知
- 两个项目都没有提供定量 steering 效果、模型质量损失、安全影响或跨模型稳定性证据。
- jlens-gguf 的 dense/MoE 兼容性、约八分之一的额外内存需求和测试完成情况，均来自作者自述。
- 另一工具导出后能否稳定保留行为变化仍不确定；“first of its kind”等说法也没有独立依据。
眼下真正发生的进展，不是社区已经掌握了可靠的“模型性格编辑器”，而是 Jacobian Lens 正从研究信号变成可以嵌入本地模型工作流的工具。能力是否稳定尚待验证，但观察与操纵之间的距离，确实缩短了。