Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.042 — 2026-08-15
NEWS 约 1 分钟

280B总量、16B激活的笔记模型

dots3-note用280B总参数、16B激活的稀疏MoE,换取最长512K上下文与多模态能力。

IMAGE — r/LocalLLaMA 日榜

整理一套塞满长文、图表、录音和视频的笔记时,模型既要“看得多”,又不能每次回答都动用全部能力。dots3-note preview给出的办法是稀疏MoE——把模型分成许多“专家”模块,每次只调用一部分。它共有280B参数,但处理每个token时只激活16B;这里的token可粗略理解为模型切分文本后的基本单位。

这一区分很关键:16B激活意味着单步计算只动用部分参数,不代表机器只需存放16B。完整权重仍有280B,实际内存还会受量化、权重卸载等方式影响。模型页面称,其上下文最长可达512K tokens,也就是一次能参考的信息上限更大,适合大型笔记库、长文档和多步Agent工作流;Agent指能调用工具、分步骤执行任务的AI系统。

它还能理解文字、图像、视频和音频,并输出文字。dots3-note preview是dots3家族首个开放权重模型,也是该系列定位最轻量的成员。不过,目前材料只给出能力范围与规格,未披露基准测试或实际部署成本,效果仍需后续验证。


供稿材料 SOURCES — 1

← 返回 2026-08-15 · 开源板块