如果你不愿把公司代码上传云端,又想让 AI 随时帮忙写程序,选择并不多:模型既要能在笔记本上跑,又不能小到不好用。Recursive 发布的免费编程模型 Flint,正是冲着这个矛盾来的。它可离线运行,代码留在本机,也不产生按文本用量计算的云服务费用。
Flint 采用混合专家模型(MoE)——模型内部有多个“专家”子网络,每次只调用一部分。它共有 400 亿参数,但一次任务只激活 25 亿,因此降低了实际计算量。据 TechCrunch 报道,Recursive 称其 Eureka Machine 自动研究系统参与了从预训练、后训练到推理优化的几乎每一步;其中,低比特训练让模型缩小 71%,质量几乎没有损失。一个小团队由此在不到四个月内从零完成 Flint。
这让 Flint 成为“AI 帮助造 AI”的可下载样品,但还不是能自主无限升级的系统:Eureka Machine 会提出想法、运行实验并决定下一步,过程仍由人监督。公司也承认,Flint 比大型付费编程助手更需要用户拆分任务、逐步指导。