在地库、隧道或乡间没信号时,车里的 AI 还能不能回答问题?开源项目 CarWatch 给出了一种低成本做法:把 Raspberry Pi 5——低功耗的单板计算机——放进车内,让 Qwen 模型和语音识别都在本地运行。这样既不依赖云端订阅,行程与语音数据也能留在车里。
这套实作使用约 300 欧元、16 GB 内存的硬件,运行经过量化的 Qwen3.6-35B-A3B;量化就是降低模型的数值精度,以换取更小的内存占用。项目作者称,14.3 GB 的模型在实机上可达到每秒生成 3.5 个 token——token 是模型处理文字的基本单位——持续运行温度约 65°C。它还能检索存于 SD 卡的 745 页车主手册,回答时标注页码;若手册没有答案,系统会拒绝猜测。
它也会读取设备温度、风扇、内存和网络状态,通过本地麦克风接收语音,并向手机或手表发送出发、到达及行程摘要等消息。代码把车辆接口设计成厂商无关的适配层,不过目前材料只提到 Mercedes 是首个适配对象。上述性能与功能均来自项目作者自述,摘要未提供独立测试或不同车型上的验证结果。