如果一家公司想让 AI 长期帮忙处理合同、理赔或财务材料,难题不只是模型够不够聪明。数据要不要交给云端?模型能否装进自己的服务器?它是否跑得够快、成本可控?英伟达这次给出的答案,是把模型直接送进企业数据中心、工作站和 PC。
据 TechCrunch 报道,英伟达周四发布了一批面向常驻智能体和边缘计算的开放权重模型。所谓开放权重,是用户可以取得模型训练后的参数,自行部署或继续训练;这不等于训练数据、代码和许可证全部开放。边缘计算则是让任务在本地设备完成,而非一律送往云端。值得关注的不是又多了几个模型名字,而是英伟达正从提供 GPU 算力,进一步进入智能体所使用的模型层。
一头进企业,一头进 PC
这批产品分成两端。
面向企业的是 Nemotron 3.5 Super VL,一款拥有 1200 亿参数的大模型。参数可以理解为模型训练后形成的大量数值权重,数量常用来描述规模,却不能单独代表质量或速度。英伟达称,Super VL 的参数少于 Nemotron 3 Ultra,但在指令遵循和工具使用任务上能达到相近准确率。这个比较目前只有英伟达一方说法,材料没有给出测试配置和第三方复现。
Super VL 瞄准的不是普通聊天,而是文档智能、财务会计、科学实验、医疗保险理赔和安全攻击韧性等企业任务。机构可以用自有数据对它做“后训练”——即在基础训练完成后,再针对特定业务继续调整——并部署在自己的基础设施上。这样一来,企业不必把全部数据和推理过程交给外部云服务。推理,就是模型训练完成后,根据新输入生成结果的过程。
另一端是两款更轻的 Bolt 模型。Nemotron 3.5 Bolt 74B-A9B 24GB 有 740 亿参数,面向多步推理、工具调用和网页浏览等本地智能体任务;更小的 Bolt E4B 面向对话智能体。英伟达称,前者与 Super VL 已经推出,Bolt E4B 将在本月晚些时候到来。
这些 Bolt 模型计划运行在搭载所谓 Nvidia RTX Spark 芯片的 AI PC,以及配备 DGX Spark 的工作站上。相关 PC 正通过 Microsoft、Dell 等合作伙伴进入市场。不过,现有材料对产品命名和设备关系交代得不够完整,因此更稳妥的理解是:英伟达正在推动智能体从云端走到本地设备,而不是据此判断某一种具体硬件配置已经成为标准。
模型也是芯片生态的入口
英伟达原本处在 AI 产业链的算力核心。现在,它把 Nemotron 扩展到多模态、推理、编程、数学和企业自动化,等于开始提供运行在算力之上的“现成大脑”。
这条路径与它二十多年前建设 CUDA 生态有相似之处。据 The Atlantic 与 NVIDIA 的相关材料,斯坦福博士生 Ian Buck 曾参与开发让 GPU 用于通用计算的 Brook,后来加入英伟达并参与创建 CUDA。今天,开放模型同样可以成为入口:开发者先采用模型和工具,后续的部署需求再被引向英伟达芯片与企业平台。
这也会改变英伟达与云厂商、模型公司的关系。专有前沿模型公司既是其客户和投资对象,也在寻找 AWS Trainium、Cerebras 等其他算力方案,或开发自有芯片。英伟达推出可自行部署的模型,既是在扩大 GPU 的使用场景,也开始触及这些合作伙伴原本占据的模型与服务层。竞合边界因此变得更模糊。
本地智能体则打开另一种可能:让 AI 接触家庭、健康或财务信息时,工作负载不必上传云端。对常驻智能体来说,本地运行还可能降低延迟,加强数据控制。但它最终是否好用,仍取决于设备上的速度、内存占用和成本,不能只看参数量。
局限与未知
- 全部信息来自 TechCrunch 的单篇报道,关键性能与采用情况又源于英伟达,尚无独立交叉验证。
- 英伟达称 Super VL 经特定任务后训练后,完成任务快于若干 Anthropic 和 OpenAI 模型,但材料没有披露评分、延迟口径、硬件环境或训练数据;“更快”也不等于准确率或综合能力更强。报道中的部分对手型号名称与版本状态同样含糊。
- 英伟达称 Skydance、EY、Ramp、CrowdStrike、Perplexity 和 Salesforce 正在使用 Super VL,但没有说明这是生产部署、试用、评测还是合作展示,不能据此判断已经规模化采用。