Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.109 — 2026-10-21
NEWS 约 1 分钟

Kapitsa为苹果芯片重做推理引擎

Kapitsa用专用Metal优化,让Qwen与Nemotron在Mac断网运行时多一个性能导向选择。

IMAGE — r/LocalLLaMA 日榜

在公司内网断网、云端模型又过时时,Mac上的编码Agent——能自行拆解并执行编程任务的AI工具——往往只能依靠本机模型。Nace.ai为此开源了Kapitsa:一款采用Apache 2.0许可证、专门面向Apple Silicon的推理引擎。推理引擎就是加载模型并完成生成计算的软件;它通过Metal——苹果调用GPU的底层接口——加速运行。

Kapitsa的取舍很直接:目前只支持Qwen与NVIDIA Nemotron两个模型家族,用较窄的兼容范围,换取为不同模型定制Metal计算内核的空间。作者公布的测试中,在配备48GB内存的M4 Pro MacBook Pro上,Qwen3.8 27B达到每秒63个token——token可粗略理解为模型生成文字时处理的小片段;同表中的mlx-serve为54、Ollama为32。作者也明确提醒不要轻信这些跑分,并提供kapitsa bench命令让用户自行复测。换句话说,它值得关注的不是已经证明“最快”,而是给断网、隐私敏感或受企业网络限制的Mac用户,增加了一个性能导向、可自行验证的本地推理选项。


供稿材料 SOURCES — 1

← 返回 2026-10-21 · 开源板块