深度专题 FEATURES — 1
ExLlamaV3 1.0:本地推理引擎交卷
ExLlamaV3 交出首个生产版:重做 GPU 底层加速,瞄准更快、更省显存的本地推理。
速览 BRIEFS — 9
NEWS
35B模型开始替人训练小模型
35B Agent 自写训练环境、奖励与配置,并用真实 GPU 培养小模型。
REPO
26M小模型也能专职工具调用
Needle把工具调用压到2600万参数,让手机、手表也有机会本地运行专用Agent。
NEWS
老显卡补上MTP解码
llama.cpp 修补精度误判,让老款 NVIDIA 显卡也能尝试 MTP 加速。
REPO
编码Agent的工具输出可少98%
Context Mode先筛工具输出再交给编码Agent,自述可节省98%上下文。
REPO
Agent代理层继续独立成栈
Agentgateway把安全、路由与监控集中到独立代理层,Agent基础设施正加速分层。
NEWS
NVIDIA更新1B与8B嵌入模型
NVIDIA推出1B与8B嵌入模型,为自建RAG提供轻重两档新选择。
REPO
OpenSpec押注规格驱动开发
OpenSpec先把需求和验收依据写清,再让不同编码助手照同一份规格动手。
REPO
React Doctor专查Agent烂代码
React Doctor把常见框架误用变成固定规则,专查编码 Agent 生成的 React 代码。
NEWS
Juggler把编码Agent搬进GUI
JUCE 作者推出开源 GUI 编码 Agent,让 AI 的操作可检查、可分支、可干预。