你想把大模型放进公司自己的服务器,让它读内部代码、调用工具,还能按业务继续训练。难点是:模型越大,通常越难装下,也越贵。Beam给出的办法,是让一个拥有5010亿参数的模型,每次处理一个 token——可以理解为一小段文字——只动用其中230亿参数。它因此值得关注,但“少算一些”不等于“便宜部署”。
本刊10月6日报道Beam时,权重和完整技术细节尚未公开。现在模型正式开放,讨论重点也从发布宣称转向三个更实际的问题:能不能部署、要花多少资源、究竟开放了什么。本文所有Beam规格与能力描述均来自Hugging Face发布的单一信源,尚无独立交叉验证。
5010亿参数,为什么只用230亿?
Beam是一款纯文本模型,面向编程、智能体任务和长上下文推理。所谓智能体,是让模型不只回答问题,还能调用工具并连续完成多步任务。
它采用稀疏MoE(Mixture of Experts,混合专家)架构。可以把模型想成一家有256名专科医生的医院:每遇到一个问题,路由器只挑8名最相关的医生会诊,而不是让所有人同时工作。Beam共有52层,其中49层使用MoE;这些专家占模型参数的98.4%。因此,每个token约激活230亿参数。
这降低的是单次计算量,不是存储门槛。全部256个专家仍须留在内存中。材料称,BF16——一种常见的16位数值格式——版本约为1TB。Beam还提供FP8和NVFP4版本,用更低精度存储参数;后者主要面向NVIDIA Blackwell GPU,部分参数仍保留BF16以维持准确度。具体需要多少GPU、吞吐量和总成本,材料没有给出。
百万上下文怎样控制“草稿纸”?
Beam声称支持100万token的上下文窗口,也就是一次可接收的文本长度。长文本推理会产生KV Cache——模型为了避免反复重算而保存的中间结果,像一叠随阅读不断增厚的草稿纸。
Beam用两种注意力层控制这叠草稿纸:43层只回看最近512个token,另外9层查看完整上下文。材料称,如果52层都保存全部内容,缓存每个token会增加208 KiB;采用这种混合设计后,增量降至36 KiB,约为朴素方案的六分之一。不过,窗口达到100万token,只代表接口和结构支持这一长度,不等于已经证明模型能在完整窗口内稳定检索和推理。
开放的不只是一个权重文件
Beam采用Apache 2.0许可证,并获得transformers、SGLang和vLLM三种常用推理工具的首日支持。它还提供推理、SFT和RL配方。SFT是用示范答案继续训练;RL是用奖励信号调整模型行为。团队也发布了基于Rust的定制推理框架,用来调度计算、内存和请求,并支持通过Miles进行全参数RL。
面向智能体使用,Beam提供专用语法约束的工具调用、跨轮保留推理内容的preserve_thinking,以及从low到max的五档推理设置。另有采用DFlash2的推测解码小模型:先快速起草,再由主模型检查,以尝试加快生成。Reflection还将向优秀项目发放价值1万美元的Hugging Face Hub credits,这是平台额度,不是现金奖金。
为什么值得关注?
Beam把“大容量”和“每步少计算”放在同一个开放权重模型里,也把部署、微调和强化学习工具一并交给使用者。对希望把模型留在自有硬件或云环境中的机构,这比只能调用远程接口多了定制和控制空间。
但参数规模不能单独证明能力。发布材料使用了“以更小模型的速度运行”“最佳性能”等表述,却没有给出benchmark、硬件配置或对照模型。现阶段更准确的说法是:Beam展示了一套面向私有化和二次训练的大模型方案,其真实能力与性价比仍待外部测试。
局限与未知
- 公开材料没有提供可比较的编程、智能体或长上下文测试成绩,也没有披露实际吞吐量与部署成本。
- “开放”目前能明确确认的是模型权重与Apache 2.0许可证;材料不足以证明训练数据、训练代码和完整训练过程均已开放。
- 低精度版本、百万token上下文和推测解码在不同硬件上的准确度与稳定性,仍需独立验证。