你让 AI 帮公司处理一套内部流程,它或许很聪明,却未必懂那些写不进通用手册的经验:什么情况需要升级审批,哪类客户要换一种说法,哪些看似异常的数据其实符合业务惯例。Thinking Machines Lab 推出的 Inkling,想解决的正是这种“模型会做题,但不够像你的人”的问题。它不是一款直接争夺榜首的成品,而是一个允许企业下载、修改和继续训练的模型底座。对 Mira Murati 创办的这家公司来说,这是首个公开发布的自研模型,也让外界第一次较完整地看到它的技术路线。
本文的模型规格主要来自公司披露及 Hugging Face 技术文章;性能数字尚缺少独立复现,视频能力的公开表述也存在出入。
一个可以继续改造的起点
Inkling 是开放权重模型。所谓开放权重,是指外部团队可以下载模型已经训练好的参数,自行部署或修改;这不等于训练数据、训练代码和许可证都完全开源。
这一区别很重要。OpenAI、Anthropic 等前沿实验室主导的市场,通常把通用模型作为服务交给客户。Thinking Machines 的选择则是把一套可改造的“半成品”交出去,让企业根据自己的知识和工作方式继续训练。公司把 Inkling 定位为通过 Tinker 平台进行微调的起点。微调就是用更聚焦的数据继续训练模型,让它适应某个行业、组织或任务。
这也解释了一个看似反常的表态:Thinking Machines 明确说,Inkling 不是目前最强的开放或闭源模型。它要证明的不是“默认状态下谁分数最高”,而是模型交到用户手里之后,能否更容易变成合用的工具。
975B 参数,不等于每次全开
Inkling 采用 Mixture of Experts(MoE,混合专家)架构。可以把它理解成一家公司里有许多专业小组,遇到具体任务时只叫其中几组参加,而不是每次召集全员。
据公司披露、并获外部技术文章复述,Inkling 总共有 975B,也就是 9750 亿个参数,但每次运行只激活约 41B。参数是模型在训练中学到的内部数值;数量能反映规模,却不能直接等同于效果。MoE 的意义在于扩大模型的总容量,同时把单次计算控制在较低水平。
Inkling 用文本、图像、音频和视频合计 45 trillion tokens 训练。Token 是模型处理信息时切分出的基本单位,并不简单等同于一个字或一个词。它原生接收文本、图像和音频输入,目前只生成文本,包括代码和结构化数据。
视频能力要谨慎看。TechCrunch 根据公司材料称它能跨四种模态推理;Hugging Face 的技术文章则只明确列出文本、图像和音频输入,并称视频的开箱即用表现尚未评估。因此,更稳妥的说法是:视频进入了训练数据,相关输入结构也有所准备,但模型现阶段能否稳定理解视频仍待确认。
长上下文与更低精度版本
据 Hugging Face 技术文章,Inkling 支持 1M context window,也就是 100 万 token 的上下文窗口。上下文窗口是模型一次能够读取和参考的信息容量。窗口更长,适合容纳长文档或漫长任务,但不保证模型能同样准确地利用每一处内容。
Inkling 提供 BF16 和 NVFP4 两种版本。两者使用不同的数值精度保存参数:较低精度通常能减少运行所需的硬件资源。文章称,BF16 检查点需要约 2 TB 显存,NVFP4 版本需要约 600 GB。即使压缩后,它也远非普通电脑可以轻松运行的模型。
该文还称,Inkling 发布当天便获得 transformers、SGLang、vLLM 等工具支持,并带有用于加快生成的 speculative MTP layers。它也允许用户调节 thinking effort,在回答速度与推理投入之间取舍。公司称模型能标示自身的不确定性,但目前材料没有给出足够测试,无法判断这种校准在不同任务中有多可靠。
它争的不是一次榜单
Thinking Machines 进入的是一个矛盾越来越明显的市场:最先进的通用模型集中在少数公司手中,但企业真正想自动化的工作,往往依赖自己的数据、规则和隐性经验。Inkling 的产品判断是,与其把所有知识都塞进一款统一模型,不如提供一个能力较完整、又能继续定制的底座。
公司还称,在一项未具名的编码基准中,Inkling 达到 Nvidia Nemotron 3 Ultra 相同表现时,只用了后者三分之一的 token。不过测试名称、设置和第三方复现都未披露。这个数字只能视为公司对单项效率的展示,不能推导出 Inkling 普遍更强。
它真正值得关注的地方,是把“可定制”放到了模型发布的中心,而不是作为附加功能。开放权重让企业获得更多部署和修改空间,也把更多责任交给企业:团队不仅要有足够的机器学习人才,还要自行判断定制后的模型是否安全、稳定。
局限与未知
- Inkling 的核心规格已有公司材料和外部文章交叉复述,但原始证据可能同源;目前没有独立评测证明其综合能力。
- 视频理解仍待确认,1M 上下文、代理式能力和不确定性校准也缺少公开的系统测试。
- 模型规模依然庞大。开放权重降低了控制门槛,却没有消除算力、工程人才和安全评估成本。
Inkling 因此更像一份路线声明,而不是冠军宣言。Murati 交出的第一个公开模型没有声称击败巨头;它提出的是另一个问题:在通用模型越来越强之后,下一轮竞争会不会转向谁更容易被企业改造成“自己的模型”。