Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.048 — 2026-08-21
NEWS H 61 约 1 分钟

本地模型开始比每瓦智能

一项研究把本地模型的能力与用电合并衡量,让选型不再只看跑分和速度。

IMAGE — r/LocalLLaMA 日榜

同一台电脑上,模型答得快,不等于更省电:它可能瞬时功率更高,也可能因为更早完成任务而少耗电。这项研究提出“每瓦智能”(Intelligence per Watt,IPW),把任务准确率与功率放进同一指标,用来比较模型与硬件的组合,而不再只问谁答得好、谁跑得快。

作者测试了 20 多个本地模型、8 种本地及云端加速器,并使用 100 万条真实的单轮聊天和推理问题。所谓本地模型,是直接在个人电脑或边缘设备上运行、无需每次请求云端的模型。论文自述,这些模型能成功回答 88.7% 的测试问题;从 2023 到 2025 年,IPW 提升了 5.3 倍,可由本地模型处理的问题覆盖率也从 23.2% 升至 71.3%。这组数字的意义不只是“模型更强了”,而是同样有限的设备电力正在换来更多可用能力。不过,IPW 同时受任务、硬件、功率和运行时间影响,不能脱离具体测试条件当作一张通用排行榜。


供稿材料 SOURCES — 1

← 返回 2026-08-21 · 开源板块