你让 AI 帮你整理邮件、任务和会议记录,起初只需写个规则文件;用着顺手,又接上更多工具和资料。很快,这套流程已经影响每天的安排,你却说不清它为什么这样运行,更不敢随便改。NN/g 的 Tanner Kohler 指出,这正是 AI 代理系统正在重演的老问题。
Agentic AI system(代理式 AI 系统)不是一次问答,而是让模型读取上下文、调用工具并分多步行动。搭建成本下降后,非工程背景的使用者也能不断加代理、提示词和资料库。研究参与者常独自搭建,由 AI 和 X、Reddit 帖子指导;有人先用 rules.md 约束代理,文件未经充分规划或测试,却逐渐成了工作流不可缺少的依赖。
这类系统被称为 Big Ball of Mud(“大泥球”):临时补丁和隐性依赖越积越多,眼下仍能工作,日后却难以指挥、排错或重建。说白了,便宜的是把东西接起来,不一定是长期维护。文章未披露研究样本规模,因此更适合把这些发现看作值得警惕的设计模式,而非普遍发生率。