新显卡装上了,旧显卡还够用,却塞不进同一台电脑:两张卡几乎贴在一起,散热也让人担心。Reddit 用户 krumpstead 的办法,是把旧 RTX 4070 Ti 搬到机箱外,通过 OCuLink 接回装有 RTX 5070 Ti 的主机,继续为本地运行 Qwen 3.8 27B 出力。OCuLink 是传输 PCIe 信号的连接方式,比常见的 Thunderbolt 外接显卡少一层协议转换,更接近显卡直连主板。
据作者自述,这套临时搭建的 eGPU(机箱外独立显卡)方案“超出预期”:在完整上下文和 q8_0 KV cache 下,很快恢复到每秒约 50 个 token。KV cache 是模型保存已读内容中间结果的“草稿纸”,q8_0 则用量化压缩它的显存占用;配置中上下文长度设为 262144。实践也暴露了多卡软件的琐碎之处:作者需要反转 tensor-split 的显存分配顺序,当前构建还未启用 NCCL 多卡通信优化。它不是严谨测评,却具体展示了一种现实取舍:用线缆和外置空间换取旧卡复用,同时绕开机箱拥挤与散热压力。