让 AI 连续办一件很长的事，显存就像逐渐塞满的桌面：系统规章、当前计划、工具回执和临时草稿全堆在一起。空间不够时，若只按新旧清理，重要指令也可能被扔掉。MemDecay 改写了这套规则：它按内容所属区域决定保留多久。
KV Cache 是模型保存已读文本中间计算结果的“草稿纸”，能避免重复计算，却会随任务增长而占满显存。MemDecay 不训练模型，而是给系统指令、计划、工具输出和推理草稿等区域设置不同的基础优先级与衰减速度；内容再次受到注意时，保留期限会刷新。实验中，系统指令的半衰期为 148—189 个生成步，推理草稿仅 14—16 步，相差约一个数量级。
最明确的收益来自“钉住”系统指令：在论文测试的所有设置中，它都达到完整缓存的保留水平，而各基线最多保住 24 项中的 13 项。不过，对未钉住的内容，累积注意力基线反而胜出。作者据此认为，注意力项仍需做数值尺度归一化；换句话说，这项工作的强项是保护长期规章，还不是全面取代现有淘汰策略。