整理一套塞满长文、图表、录音和视频的笔记时,模型既要“看得多”,又不能每次回答都动用全部能力。dots3-note preview给出的办法是稀疏MoE——把模型分成许多“专家”模块,每次只调用一部分。它共有280B参数,但处理每个token时只激活16B;这里的token可粗略理解为模型切分文本后的基本单位。
这一区分很关键:16B激活意味着单步计算只动用部分参数,不代表机器只需存放16B。完整权重仍有280B,实际内存还会受量化、权重卸载等方式影响。模型页面称,其上下文最长可达512K tokens,也就是一次能参考的信息上限更大,适合大型笔记库、长文档和多步Agent工作流;Agent指能调用工具、分步骤执行任务的AI系统。
它还能理解文字、图像、视频和音频,并输出文字。dots3-note preview是dots3家族首个开放权重模型,也是该系列定位最轻量的成员。不过,目前材料只给出能力范围与规格,未披露基准测试或实际部署成本,效果仍需后续验证。