深度专题 FEATURES — 2
tandem.cpp:CPU与GPU合跑MoE
让CPU接手冷门专家、GPU专攻热门专家,tandem.cpp把超显存MoE推理提速至最高3.3倍。
谁来审计替你办事的Agent
iFixAi给办事型Agent加一道独立审计:先在模拟业务里测试它会不会越权、误操作或隐瞒失败。
速览 BRIEFS — 9
NEWS
Drex Max不聊天,只做决定
27B开放权重模型跳过文本生成,直接为候选答案打分,最长可处理262K上下文。
REPO
百美元训练一台迷你ChatGPT
把训练聊天模型的全流程压进一套小代码,约48美元即可复现GPT-2级能力。
REPO
编码Agent开始压缩工具回显
context-mode把工具回显挡在上下文外,并为17种编码Agent保留工作线索。
REPO
一个端点接入1400种模型
OmniRoute用一个端点汇集380家提供方、1475种聊天模型,方便工具切换后端。
NEWS
Rust做出懂内容的Git Diff
OmniDiff先识别文件类型,再用专门方法比较代码、图片和归档文件。
NEWS
18M参数TTS也能演情绪
18M级轻量TTS新增情绪与音效控制,作者称CPU生成约20倍实时。
NEWS
80MHz老iPod跑起语言模型
开发者把语言模型塞进2006款iPod,用整数运算挑战80MHz与64MB内存的极限。
NEWS
4B模型直接生成游戏3D资产
4B代码模型把文字需求写成可导入Godot的3D资产初稿,让代码生成走进游戏内容制作。
REPO
多Agent终端变成无限画布
把多个编码 Agent 摊在一张可缩放画布上,比层层标签页更容易看清谁在做什么。