当一个AI不仅能回答问题,还能读取公司资料、调用软件并执行操作,它就更像一名拿到内部账号的员工。微软如今警告,企业不能因为Agent来自知名供应商,就默认它值得信任。据 TechCrunch 报道,微软安全业务负责人 Hayete Gallot称,前沿模型并非一定恶意或容易被攻破,而是行为难以预测:它们被训练来完成任务,却未必理解公司的规则与判断标准。
微软为此推出 Guardian Agents——一层专门监督其他Agent的安全机制,检查其权限使用和行为。Microsoft Defender还可识别员工带入公司的最多60类Agent,包括 Claude Code、Codex 和 OpenClaw;企业也能按任务动态收紧权限,并在系统判断操作有风险时要求人工批准。说白了,微软建议把Agent按“内部威胁”管理:只给完成当前任务所需的最小权限,并让独立系统持续盯着它。
这套主张也服务于微软自己的安全产品生意,但核心判断值得注意:提供模型的一方,不应同时独占监督模型的权力。