你想让 AI 在自己的机器上改代码、查资料、调用工具，难点不只是模型够不够聪明。模型越大，通常越吃显存；压得太小，又可能损失能力。Poolside 新发布的 Laguna S 2.1，正试图在这两头之间找平衡：它有 1180 亿总参数，却只在处理每个 token——模型读写文本时使用的基本单位——时激活约 80 亿参数。权重、官方量化和第三方 GGUF 已经陆续开放，首轮本地实测也随之出现。
这让 Laguna S 2.1 不只是一次模型预告，而是一个已经可以下载、部署和检验的完整发布事件。不过，性能数字一部分来自 Poolside，一部分来自单名用户的私有评测，不能直接当成行业定论。
大模型，但不是每次都全员上场
Laguna S 2.1 是一款 118B-A8B 的稀疏 MoE 模型。MoE 即“混合专家”：模型内部有多组专家网络，每次只请其中一部分参与计算。可以把它想成一家有很多专科医生的医院，病人进门后不需要所有医生同时会诊，只调度最相关的几位。
因此，118B 描述的是需要存放的总参数规模，A8B 则表示每次计算大约激活 80 亿参数。后者更接近实际计算量，前者仍然决定了模型有多占空间。官方模型页称，它共有 256 个路由专家和一个共享专家，每次选择其中 10 个；模型包含 48 层，并把全局注意力与滑动窗口注意力交错安排。后者只查看附近一段文本，类似阅读长文时先盯住当前几页，以减少计算。官方给出的上下文窗口上限为 1,048,576 tokens。
Poolside 把它定位为面向 agentic coding 和 long-horizon work 的模型。前者不是只让 AI 补几行代码，而是让它像一个编码 Agent——能分步骤完成任务、调用外部工具，并根据工具返回的结果继续行动。模型还支持在多次工具调用之间保留推理过程，并可按请求控制是否开启思考。
“能下载”之后，还要看“能不能跑”
这次发布的实际意义，很大一部分来自部署链条已经接上。官方权重托管在 Hugging Face，并提供 FP8、NVFP4、INT4 和 GGUF 等版本。量化就是用更低精度保存权重，以减少文件大小和内存需求；代价通常是要在速度、资源占用和输出质量之间取舍。
GGUF 则是 llama.cpp 生态常用的模型文件格式，它把权重与运行所需的元数据装在一起，方便本地加载和分发。除 Poolside 的版本外，Unsloth 也发布了第三方 GGUF 量化，其中包括 UD-Q4_K_M。模型可通过 Transformers、vLLM、SGLang 和 llama.cpp 等工具运行。
但“本地模型”不等于“普通电脑轻松运行”。官方材料称，BF16 权重约需 236GB，必须使用多张 GPU。更低精度能显著降低门槛，却没有把 1180 亿参数变没。一名用户使用三张 AMD V620、合计 96GB 显存运行 Q4_K_M，在 256K 上下文和 F16 KV cache 条件下，测得预填充约 400至600 tok/s、生成约 16至20 tok/s。KV cache 是模型处理长文本时保存的中间结果，像一张避免反复重算的草稿纸；上下文越长，它通常越占显存。该测试尚未启用官方提供的 DFlash 推测解码模型。
首轮实测：工具调用强，事实可靠性仍有缺口
另一名用户在单张 RTX Pro 6000 Blackwell 96GB 上，用官方 NVFP4 和 256K 上下文运行 Laguna S 2.1。在其私有测试中，单路生成速度为 109 tok/s；同一环境下，Qwen3.5-122B 为 103 tok/s，Nemotron 3 Super 为 94.5 tok/s。这个结果只能说明它在该硬件、量化和软件配置下有竞争力，不能与三张 AMD V620 上的 GGUF 数据直接横比。
更值得看的是 Agent 测试。该作者用 160 项任务、每项重复三次的私有评测检查参数选择、多步工具链、严格 JSON 输出和“无结果时是否编造”等行为。Laguna S 2.1 的工具调用参数通过率为 0.89，略高于 Qwen3.5-122B 的 0.86；工具链 smoke test——用于快速检查基本流程能否跑通的测试——走到 6 层，Qwen 为 4 层。作者还称，Laguna 在全部探针中没有出现 JSON、流式输出或消息封装错误，并能在工具验证失败后首次重试时恢复。
问题也很具体：同一评测发现，当提示持续施压时，Laguna 会捏造事实。作者因此给出的判断并非简单的“新王登基”，而是工具调用突出、事实可靠性仍有明显风险。更何况，这套框架原本围绕 Qwen 模型建立；作者明确提醒，非 Qwen 模型的分数可能受到偏差影响。
为什么值得关注
Laguna S 2.1 的看点，不是单项榜单第一，而是把三个原本互相牵制的目标放到了一起：用稀疏架构控制单次计算量，面向编码 Agent 强化工具调用，再通过多种量化格式争取本地部署空间。Poolside 公布的基准中，它在 Terminal-Bench 2.1、SWE-bench Multilingual 和 SWE-Bench Pro 公开数据集上分别取得 70.2%、78.5% 和 59.4%。这些数字显示出它的编码取向，但不同模型的部分成绩来自第三方，且并非每款模型都参加了全部测试，不适合据此排出简单总榜。
真正值得继续观察的是：在可下载模型里，118B-A8B 这种“存得下大模型、每次只算一小部分”的路线，能否稳定提供长任务所需的工具调用与事实约束。首轮结果已经证明它可以跑，也跑得不慢；但距离“可以放心把复杂任务交给它”，仍差可靠性这一关。
局限与未知
- “比 DeepSeek v4 Flash 更便宜、优于 V4 Pro”的说法缺少价格、基准和测试方法支持，现阶段不能视为确定结论。
- 速度与 Agent 数据均来自单名用户的特定硬件和私有评测，尚不能泛化到其他设备、量化版本或任务。
- 现有材料没有给出不同量化版本相对原始权重的质量损失，也没有说明普通消费级硬件上的可用边界。