Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.034 — 2026-08-07
PAPER H 2 约 1 分钟

Agent上下文压缩有了理论账本

把 Agent 的历史压缩写成可计算问题:压掉多少信息,会怎样限制后续能力。

长时间工作的 Agent,像一张越写越满的办公桌:对话、文件和工具结果不断堆积,但上下文窗口——模型一次能读入的信息上限——不会跟着变大。系统只好压缩旧记录。问题在于,摘要一旦漏掉关键事实,Agent 后面就可能失去完成某类任务的能力。这篇论文尝试给这种取舍建立一套理论账本。

作者把常见压缩分成两种“博弈”——即规定能看到什么、怎样算输赢的抽象测试:一种从原记录中挑选内容保留,另一种生成一段有长度限制的新摘要。论文最关键的结果是,后一种方式所需的最小篇幅,等同于“单向通信复杂度”:可以把它想成一方只能给另一方递一次纸条,要让对方以指定错误率回答问题,这张纸条至少得多长。于是,通信理论里已有的上下界,可以直接用来判断压缩预算是否够用。作者还证明,对某些问题,重新生成摘要确实能比单纯摘录更省空间。

论文用“某个元素是否在集合中”做案例,并将 Anthropic 的压缩接口与同等大小的 Bloom filter——一种用少量空间判断元素是否可能存在的数据结构——比较。作者自述,前者的错误率显著更高,接近随机猜测;控制实验把问题指向压缩时的信息丢失。这不是一套通用压缩配方,但它提供了一个更硬的追问方式:别只看摘要像不像原文,还要问它保住了哪些后续能力。


供稿材料 SOURCES — 1
01
Context Compaction Theory arXiv (cs.AI+cs.LG+cs.CL+cs.CV+stat.ML) · PAPER
原文 ↗

← 返回 2026-08-07 · 学术板块