深度专题 FEATURES — 2
CLI-Anything:让所有软件听懂Agent
它给传统软件补上命令行入口,试图解决 Agent 落地最琐碎的工具适配问题。
SGLang-Omni补齐全模态服务
SGLang-Omni把对话、识别和语音生成接进同一服务栈,减少多模态应用拼装后端的麻烦。
速览 BRIEFS — 8
NEWS
一篇Mac本地推理现状手记
作者实测两周发现,Mac 本地跑新模型的瓶颈更多在工具链,而非芯片。
NEWS
3.3GB量化模型找回推理能力
同为约3.3GB的IQ2模型,精度分配不同,推理得分可从28.9升至69.5。
NEWS
ThoughtDAG让对话上下文可编辑
ThoughtDAG把聊天记录画成可编辑的图,让模型下一轮该读什么一目了然。
REPO
DeepSeek Harness接上视觉证据
ModLens把截图拆成文字、布局与语义证据,让纯文本Agent也能处理视觉任务。
NEWS
新模型靠llama.cpp分叉落地GGUF
社区为 G9v3-39A5B 补齐 GGUF 与 llama.cpp 支持,让新架构走向本地运行。
NEWS
llama.cpp在Windows有了管理器
把 llama.cpp 的安装、切换与多服务管理,收进一个 Windows 图形界面。
REPO
OpenBiliClaw做私有内容雷达
把跨平台推荐和兴趣画像搬回本机,让用户自己掌握内容发现的方向。
REPO
Rust漫画翻译器瞄准本地流水线
Koharu用Rust串起漫画识别、翻译与修图,并把隐私敏感步骤留在本机。