你打开短租平台，系统在两套房源中选了一套给你看，你最后下了单。我们能否因此判断，“房间更多”提高了预订意愿？不能。系统可能本来就把大房子推荐给更可能预订的用户。房间数与下单同时出现，不等于前者造成了后者。
一篇由 Susan Athey、Guido Imbens 和 Zoe Ji 合著、以 arXiv:2607.05792 发布的论文，尝试利用推荐系统和聊天机器人本来就有的随机性，回答这类因果问题。它的核心想法很朴素：系统每次随机选出内容时，其实都在进行一次只有一名参与者的微型实验。只要额外记下“另一个本来可能展示的内容”和两者的相对展示概率，这些日常日志就可能成为因果证据。
相关，不等于有效
因果效应问的是：改变某个内容特征，会让结果变化多少。比如，聊天机器人的回复更友好，是否会提高用户继续对话的意愿；商品图片中的服务者微笑，是否会增加互动；短租房源的卧室数，是否会改变预订结果。
难点在于，同一个用户、同一个时刻只能看到一个版本。更麻烦的是，推荐内容通常经过个性化选择。爱问作业的用户可能更常收到事实密集的回答，也可能本来就更愿意继续交流。于是，“事实更多”和“互动更高”之间的相关性，夹带了用户类型的影响。这种第三方因素叫作混杂。
内容还不只在一个维度上变化。一条更友好的回复，可能同时更长、更具体，也可能带有不同的语气。即使观察到互动上升，也很难把效果单独归给“友好”二字。
把每次随机选择看成一场微型实验
论文关注的系统不是每次都给定唯一答案，而是会随机选择内容。随机性可能来自生成模型本身，也可能来自推荐系统中的实验、bandit 算法——一种在尝试新选项和利用已有经验之间动态取舍的机制——以及其他运行过程。
作者把一次互动称为“微型实验”：系统为某名用户考虑了若干内容，最终随机展示其中一个。其他内容没有被展示，但它们并非凭空假设的替代品，而是当时确实可能被选中的候选项。
论文提出的 logged counterfactual exposures，简称 LCE，可以译作“记录下来的反事实曝光”。在基础情形中，每次互动除了常规记录，还要保存两样东西：
- 至少一个可能展示、但最终没有展示的内容；
- 这个未展示内容与实际展示内容的曝光概率之比的估计值。
例如，聊天机器人生成两条可能的回复，只把其中一条发给用户。日志同时留下另一条回复，并记录两条回复被选中的相对机会。用户对未展示回复会有什么反应仍然不可见，但这对候选回复及其随机选择概率，为比较提供了结构。
如果系统没有直接提供相对概率，论文还讨论了另一种做法：针对同一用户情境和问题，多采样一小组未展示内容，再据此估计某类特征被展示的概率。对聊天系统而言，第二次生成可以离线完成，不必拖慢用户眼前的回答；代价是增加调用和记录成本。
关键不只是“记下概率”
已有的逆概率加权方法，会让较少被系统选中的展示获得更大权重，以校正不同内容获得展示机会的不均衡。但当内容库巨大，甚至每条 AI 回复都独一无二时，某个具体内容的概率可能极小，权重也会变得很大，估计因此不稳定。
这篇论文换了比较单位。它不要求为整个近乎无限的内容空间建立完整的分配模型，而是利用某个已展示内容与某个未展示候选内容之间的相对概率。作者称，这种数据及其加权、平均方式不同于既有方法。
作者进一步证明，在论文设定的随机化和记录条件下，即使存在未观测混杂因素，同时影响用户偏好以及算法为其考虑的候选内容，内容特征的因果效应仍然可以识别。这里的“识别”是因果推断术语，意思是：在假设成立时，目标效应能够由观察到的数据确定，而不是说任何混杂都被自动消除了。
它估计的究竟是什么效果？
论文很谨慎地限定了问题。它并不一定能回答“只改变友好程度、其他字词全部不动会怎样”。真实系统生成的两条回复，往往在许多已知和未知维度上同时不同。
作者提出 conditional treatment-averaged causal effects，简称 C-TACE。它先比较同一名用户可能收到的那对内容，再对用户以及算法生成的内容对进行平均。得到的是：按照当前部署算法实际生成内容的方式，高特征内容相对于低特征内容，平均会带来什么变化。
换句话说，如果“更友好”的回复在这个系统里通常也更详细，C-TACE 衡量的是算法实际产出的这组联合变化，而不是实验室里把其他一切锁死后的纯粹“友好效应”。这限制了结论的含义，却也让它更贴近一个现实决策：平台若引导现有算法更多地产生这类内容，结果可能怎样。
为什么值得关注
这项工作的吸引力，在于它没有把算法随机性只当作噪声。推荐和生成系统每天都在反复做选择；若日志保留了当时差点出现的选项及其相对机会，原本散落在生产流量中的随机选择，就可能被组织成大量微型实验。
它也改变了数据工程上的关注点。常规日志往往只关心“展示了什么、用户做了什么”。论文提醒，未展示但确实可能展示的候选项，也可能具有研究价值。相比重新设计覆盖大量内容组合的实验，补充这类日志或许更贴近日常系统运行。不过，论文并未证明所有现有系统都已经具备这些记录条件。
局限与未知
- 全部效果论断来自论文自身。材料未提供实验数据、样本规模、基准方法、误差指标或真实系统效果数字，因此目前不能说该方法已经在生产环境中得到验证，或优于既有方案。
- 方法依赖算法确实包含可利用的随机性，还要求候选内容、相对曝光概率等信息完整且足够准确。普通生产日志未必保存这些数据；概率很小造成的估计不稳定问题也不能仅靠“有随机性”解决。
- C-TACE 衡量的是现有算法生成方式下，目标特征连同其他伴随变化的平均效果。它不必然等于单独修改该特征、保持其他内容完全不变的效果，也不能直接外推到另一套生成或推荐算法。