Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.114 — 2026-10-26
REPO 107 STARS 约 1 分钟

Bend 2用证明拦截AI犯错

Bend 2让AI为代码附上数学证明,在提交前拦住违反规则的改动。

IMAGE — GitHub Trending(TypeScript·日榜)

让 AI 改游戏规则,看似只是“让地图首尾相连”,却可能顺手造出一条意外通关路线。常见做法是改完再跑测试,但测试只能覆盖预先想到的情形。Bend 2 给出的路线更强硬:先把不能破坏的要求写进 LAWS.bend,再要求 AI 为每次修改提交正确性证明。

形式化证明,是用严格的数学规则证明程序始终满足某项明确性质,而非只试几个例子。项目展示的规则是“玩家不可能获胜”:没有证明约束时,AI 的改动带着漏洞合入;启用约束后,编译器拒绝改动,AI 必须重试。作者还举出“余额总和必须为零”“排序结果必须升序”等可表达的规则。

这值得关注,因为它把可靠性检查从“出错后发现”推向“无法证明就不放行”。不过,保证只覆盖事先准确写下的规则;规则是否完整、示例能否代表真实项目,材料没有给出独立验证。项目自己也提醒,Bend 仍很年轻。


供稿材料 SOURCES — 1
01
bendlang/bend GitHub Trending(TypeScript·日榜) · REPO
原文 ↗

← 返回 2026-10-26 · 开源板块