给旧显卡“松绑”,听起来像一次免费升级,但这次进展要拆开看:RTX 30 系确实出现了更多型号和软件环境的兼容报告;至于 RTX 40 系已覆盖、Prefill——大模型先读完输入并建立内部状态的阶段——最高提速两倍,目前证据还不够扎实。
据 Zagitta/gpu-unlock GitHub,工具会在 Linux 启动早期改写显卡设置,再交给原版 NVIDIA 驱动,当前明确作用于 GA102、GA104。双 RTX 3080 20GB 的社区测试显示,vLLM 长上下文 Prefill 提升约33%至36%,Strata 在 32K 和 128K 输入下仅提升约12%至13%,逐字生成答案的 Decode 阶段都没有明显改善。RTX 3070 Ti 另有 Windows UEFI 移植报告,其特定矩阵乘法测试接近翻倍,但没有验证 Linux 模块或其他型号。
Wccftech 将其概括为 RTX 30、40 系扩围,不过有关 40 系的正文依据只是社交媒体说法,项目 README 尚未把 RTX 40 列为目标。“两倍”也来自特定矩阵运算测试,不能直接等同于整个模型或 Prefill 翻倍;安装还受驱动加载顺序影响,门槛和风险都高于普通应用。