Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.048 — 2026-08-21
NEWS 约 1 分钟

长上下文能否替代RAG

同模型、同问题盲测整包上下文与 RAG,但现有材料尚未给出胜负结果。

IMAGE — Towards Data Science

把公司资料全塞给 AI,是否就不用再搭检索系统了?Sarah Schürch 做了一次小型受控实验:她把自己写的 33 篇文章合成约 12.7 万 token——token 是模型处理文字的基本单位——让 Kimi K3 分别用两条路径回答同样的 12 个问题。一条整包读取全文;另一条采用 RAG(检索增强生成),先找出五段相关文字再回答。

两边使用相同的系统指令、模型和生成设置,唯一主要差别是输入材料。作者还把成对答案打乱成 X、Y 后盲评,尽量避免知道答案来源影响打分。这个设计的价值,在于把“资料放得进上下文窗口”和“回答得更好”拆开,并准备同时比较质量、延迟与成本:长上下文省去分块和检索维护,却要反复读取约 12.7 万 token;RAG 输入更短,但要承担建索引和检索的费用。遗憾的是,现有供稿截取到实验设置为止,未披露最终数字,因此还不能据此宣布长上下文已经替代 RAG。


供稿材料 SOURCES — 1

← 返回 2026-08-21 · 数据板块