Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.089 — 2026-10-01
NEWS 约 1 分钟

OpenAI为失控Agent加决策闸门

OpenAI用廉价判断层给Agent逐步把关,试图降低大规模监控成本。

IMAGE — TechCrunch · AI

一群Agent同时替你办事,麻烦不只是偶尔犯错:如果每执行一步,都请最强模型复核,费用和等待时间也会迅速累积。OpenAI在Dev Day上披露的Decisions API,想加一道更轻的“决策闸门”——不让模型自由写长答案,而是从预设选项中选择,并返回各选项的概率,用来决定放行、暂停或转交人工。

据TechCrunch报道,Sam Altman称,缩小到选择任务后,这套API可以提速,同时保留图像理解、多语言和安全能力。更具体的成本参照来自类似产品Jev:安全公司QueryStory做的一项演示会逐次检查Agent动作,高置信度的坏动作直接拦截,其余放行或送审;报道给出的监控成本为2.94美元,而使用前沿大模型需372美元。

这条路线的价值,在于它可能便宜到覆盖每一次动作,而非事后抽查。不过Decisions API目前只是有限预览,TechCrunch尚未看到开发者实测;它的概率是否贴近真实风险,仍是关键未知数。


供稿材料 SOURCES — 1

← 返回 2026-10-01 · 科技板块