想在便宜、安静的小电脑上离线用 AI 写代码,通常先卡在速度:没有独立显卡,模型往往要靠 CPU 慢慢生成。一名 Reddit 用户测试了售价 £299.99、功耗35瓦的 Lenovo IdeaCentre Mini。机器搭载 Snapdragon X1-26-100 和32GB内存,GPU与NPU均未参与;用 llama.cpp 运行 Qwen3.6 35B A3B coder,在512 token 输入、8线程下,普通生成速度为24.5 token/s,启用 MTP 后达到29—33 token/s。token/s 是每秒生成的文本片段数;MTP 即多Token预测,会一次提出多个后续片段,再由配套机制验证,以减少逐字等待。
更值得注意的是内存边界。作者把 Janas 适配到 ARM——一种强调能效、常见于手机和部分电脑的处理器架构——让模型的一部分数据留在内存,其余从 NVMe 存储读取。由此,一款 llama.cpp 无法在该机内存中载入的 Qwen3-Next 80B A3B,也以17—18 token/s 生成。上述数据均为作者自测,尚无独立复现;不同模型和设置的 token/s 也不能直接横比,但它至少说明,低功耗纯 CPU 本地开发机开始有了可用的现实轮廓。