深度专题 FEATURES — 1
纯C跑BitNet:CPU推理做到36 tok/s
一个面向三值模型的轻量 C 引擎,作者称在 Xeon 上跑到 36.25 tok/s,亮点是让压缩权重直接进入 CPU 整数计算。
速览 BRIEFS — 9
REPO
SIE想统一Agent的模型服务
SIE想用一个自托管集群统一承接Agent调用的百余种模型,减少多套服务的接入与运维负担。
NEWS
消费级英伟达多卡还有P2P红利
实测显示,消费级 NVIDIA 多卡开启 PCIe P2P 后,vLLM 数据搬运效率仍有明显提升空间。
NEWS
小MoE本地写代码快近四倍
本地代码测试中,Qwen 小 MoE 快约 3.9 倍,常规任务表现却接近稠密版。
REPO
Pocket TTS把语音合成塞进CPU
Pocket TTS让普通电脑用CPU本地生成语音,约200毫秒即可开始播放。
REPO
Claude Code开始直接看视频
插件把视频拆成画面与带时间戳的对白,让 Claude Code 也能“看”教程和故障录像。
REPO
Claude代码审查接入安全流水线
Anthropic把Claude漏洞审查做成GitHub Action,让安全检查随PR自动运行。
REPO
fff给Agent补一把高速文件搜索
fff 把本地文件搜索做成可嵌入工具,让 Agent 少走 grep 回头路。
REPO
法律Agent也有了专门考场
Harvey 开源法律 Agent 专业评测,用真实任务和统一标准检验实务能力。
NEWS
LongCat-Flash开始接入llama.cpp
LongCat-Flash适配代码进入llama.cpp测试阶段,本地运行路径正在打通