Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.114 — 2026-10-26
NEWS 约 1 分钟

三模型挤过一条PCIe x1

四张新旧 AMD/NVIDIA 显卡挤在狭窄通道上,同时跑起 27B、9B 和 2B 模型。

IMAGE — r/LocalLLaMA 日榜

把几张不同年代、不同厂商的旧显卡拼在一起跑 AI,难点不只是“能不能插上”:模型计算产生的中间数据——激活值——还要在显卡之间来回搬运。PCIe 就是这条运输通道,而 x1 的带宽远低于显卡常用的 x16,像让多路货物挤过一条窄道。

FieldMouse-AI 展示的备用节点混用了两张 AMD 和两张 NVIDIA 显卡,其中两张只接 PCIe x1,另一张接 x2。作者用自制的 Slipstream 调度引擎和混合厂商 Vulkan 后端,同时服务 Qwen3.8:27b-vision、Qwen3.5:9b-vision 与 Qwen3.5:2b-vision;27B、9B、2B 指模型规模等级。作者自报三者速度分别为每秒 3.82、4.75 和 12.47 个 token——token 是模型生成文字时处理的基本片段——并称都能处理 OCR(从图片中识别文字)和复杂视觉解析。

真正值得注意的不是它跑得多快,而是 27B 模型能在异构 GPU 和低带宽连接下保持稳定,同时另外两个模型也在工作。这为利用闲置显存搭建本地多模型节点提供了罕见实测。不过材料未给出功耗、延迟、测试样本或对照结果,上述性能与稳定性均为作者自述。


供稿材料 SOURCES — 1

← 返回 2026-10-26 · 开源板块