想象三个自动交易程序盯着同一块行情屏幕:一个见到价差就调整仓位,一个偏爱快速倒手,一个看到上涨便追进去。它们各自可能都在“合理”执行目标,但如果同时行动,市场会不会像拥挤出口一样,因彼此反应而放大压力?这是《Agentic AI in Automated Markets》试图回答的问题。
论文把三种动机写进学习型交易代理,再观察它们留下怎样的风险足迹。结果很有启发性:跟风代理的压力事件最频繁,却通常很短;操纵型代理触发的事件最少,但一旦出现便持续更久;所谓理性代理的风险调整后表现较稳定,收益本身却更易波动。
不过,最关键的边界也要先说清:三类代理实际上在彼此分离的环境中训练,还是不影响价格的“价格接受者”。因此,这项研究尚未展示它们与自动做市商共同运行时的真实互动。现有结论来自 AAVE、ETC、SUI 三种加密资产、每种约 1,750 小时数据的试点,而且主要依据单次训练和滚动指标的目视比较。它更像一组待检验的假设,不是已经确认的市场规律。
不替代理写策略,只给它一个目的
自主交易代理,是能够读取市场状态、选择交易动作,再根据结果调整策略的软件。论文没有手工规定“看到上涨就买”之类的固定规则,而是通过奖励函数定义三类目标,让代理自己学出行动方式。
这有点像只给三名司机不同的计分标准:一人按平稳和效率得分,一人因频繁变道得分,另一人跟紧车流便有奖励。研究者不直接规定路线,但评分标准会塑造最后的驾驶风格。
三类行为原型分别是:
- 理性套利者(rational arbitrageur):追求风险调整后的收益,同时因实际波动和频繁交易受罚,因此倾向在风险上升时降低敞口。
- 操纵者(manipulator):论文用它近似表达抢先交易和虚假交易等行为。奖励鼓励换手,并偏重短期收益,因此容易快速切换仓位。
- 散户羊群追随者(retail herd-follower):持仓方向若与近期动量一致便获得奖励。动量就是价格近期延续原方向的趋势,直观说就是“涨了继续追,跌了继续退”。
代理每一步只能把敞口增加、减少或保持不变,仓位限制在空仓、半仓和全额做多之间,不能做空。基础奖励考虑下一期收益、交易成本、近期波动和市场压力;三种原型再在这个共同框架上增加各自的奖惩。
论文分别使用 DQN 和带学习基线的 REINFORCE 训练每类代理。两者都属于强化学习——让模型从行动后的奖励与惩罚中学习。DQN 用神经网络估计每个动作的长期价值;REINFORCE 则直接学习采取各动作的概率,“基线”用于减少训练中的随机波动。
两种方法也表现出不同脾气。DQN 会在探索时突然切换动作,但能重复利用过去经验,单个样本学得更快。REINFORCE 的探索更平滑,多数设置下换手不那么跳跃,却更容易发生“策略坍缩”:在 AAVE 和 SUI 上,理性型 REINFORCE 代理最终选择始终空仓,收益和波动都变成零。作者把它视为强波动惩罚下的退化解,而不是理性的证据。
三类目标,三种压力形状
试点使用 AAVE、ETC、SUI 的小时级加密货币数据。论文观察四项策略层指标:24 小时窗口内的压力事件频率、事件持续时间、滚动 7 日 Sharpe ratio,以及滚动 24 小时收益波动。
Sharpe ratio 衡量每承担一单位波动获得多少收益,可粗略理解为“收益是否值得所冒的风险”。在试点中,三类代理的滚动 Sharpe ratio 都大幅摆动。理性代理只要没有坍缩为空仓,表现相对稳定;操纵型代理在有利环境中会突然走高,随后又迅速恶化;跟风代理则容易在行情反转时受损,论文举出的例子是 ETC 约第 300 至 800 小时。
压力事件呈现另一种排序。跟风代理出现得最频繁,但持续时间最短。作者把它解释为追逐动量过度后形成的浅度回撤。操纵型代理的事件最少,却延续最久,在约第 1,450 至 1,500 小时附近的主要下跌阶段尤其明显。理性代理居中,受控仓位限制了事件的出现和持续时间。
波动也不等于压力。活跃的理性代理——AAVE 上的 DQN 和 ETC 上的 REINFORCE——反而具有最高的基础收益波动,论文认为这反映了持续调整敞口。操纵型代理平时波动较低,压力期却会出现尖峰,在 SUI 上约达 0.02;跟风代理位于两者之间。至少在这次试点里,最波动的策略并不是回撤最持久的策略。
模型到底在看什么
研究还使用 SHAP 分析代理决策。SHAP 是一种归因工具,用来估计各项输入对模型输出的关联贡献;它能说明模型依赖哪些信号,却不能证明这些信号造成了压力或波动。
归因结果与研究者预设的角色大致一致。理性套利者最看重 7 日回撤、跨资产收益和时段;操纵者主要依赖短期波动、时段和当前仓位;跟风者则集中看 24 小时动量、4 小时动量和时段。时段进入了每类代理的前三项特征,作者认为这可能反映加密市场流动性和波动的日内周期。
这里也藏着一个方法上的循环:研究者先用奖励函数定义“理性”“操纵”和“跟风”,再检查学出的策略是否使用符合这些标签的信号。SHAP 可以帮助确认代理学到了什么,却不能反过来证明这三种标签完整对应现实中的交易者。
监管不该只盯着波动率
论文最值得关注的判断,是相似的表面指标可能对应完全不同的风险结构。高波动可能来自理性代理不断调整仓位;频繁的短压力可能来自追涨杀跌;平时安静、偶尔持久的压力则可能与高换手策略相伴。若监管只设统一的波动率或换手率门槛,就可能把这些行为混在一起。
作者因此主张按行为类型设计措施:若后续检验证实跟风强度会增加短促压力,可考虑交易时风险披露、散户杠杆和保证金限制,以及个股价格波动控制;若操纵型强度与持久压力相关,监控应优先识别异常换手、订单循环,并考虑按订单成交比或撤单比调整费用。对于理性型代理,作者提醒,单凭波动率触发限制,可能压制有助于价格保持信息性的仓位调整。
这套思路的价值,不在于已经给出监管答案,而在于把问题从“机器交易是否危险”推进到“什么目标函数会学出哪类危险”。自主代理越能自行寻找策略,监管越不能只检查开发者写下的显式规则,也要观察奖励目标最终诱导出的行为。
局限与未知
- 论文标题讨论自动化市场,也假定交易由确定性的自动做市商(AMM)撮合。AMM 是按照预设公式、根据资金池状态自动报价的机制。但试点没有模拟代理对价格和资金池的冲击,也没有让三类代理共同交易,所以无法回答异质行为是否会形成反馈循环。
- 试点规模有限:仅覆盖三种加密资产、每种约 1,750 小时,并以单次训练和目视比较为主。论文未给出足以支持正式统计检验的效应大小和显著性,也不能将排序外推到股票、期货、外汇或真实 AMM 市场。
- 三类原型由奖励函数预设,行动空间又只有三档多头敞口。它们既不代表现实主体的完整行为,也未覆盖做空和更细的仓位变化。论文提出的行为型监管因而仍是政策假设,需要在包含价格冲击、代理互动和多次随机训练的环境中继续检验。