AI Agent 一边查资料、一边调用工具，再根据返回结果继续回答，像在不断增页的工作簿上做事。对常见的推测解码来说，这很麻烦：小型草稿模型先猜一串 token（模型生成文字时使用的基本单位），大模型再统一验收；但对话越长、内容变化越频繁，草稿越难猜准，保存历史计算结果的 KV cache（避免反复重算全文的缓存）也越来越重。DLite 想做的，就是让草稿侧甩掉这本越来越厚的旧账。
它没有让草稿模型长期维护完整历史，而是直接复用主模型当前上下文的隐藏状态——也就是主模型理解文本后留下的内部表示——在局部预测接下来的内容；再用一个轻量的顺序预测头，补回同一批候选词之间的先后依赖。主模型仍会依据完整上下文验证，因此“无历史”只针对草稿侧。作者称，现有草稿模型在 Agent 场景中的连续接受长度最多会下降 80%；DLite 在通用、长上下文和 Agent 任务中可达到 2—6 个 token 的接受长度，并最多领先 DSpark 70%。这些效果目前均来自作者实验。