Agora：把大模型预训练搬出数据中心

Agora 让公网中的异构 GPU 合作预训练大模型，挑战训练必须依赖数据中心集群的前提。

深度专题 FEATURES — 3

PAPER H 5

同样一笔RL后训练算力，放大模型、多做尝试、加强学习还是改善反馈，并没有固定答案。

PAPER H 2 · HF 27

这篇论文主张：世界模型不能只会续画面，还要像游戏引擎一样记状态、守规则、及时响应。

PAPER H 6

KV 缓存按注意力删旧记忆，可能留下 JSON 骨架、删掉答案；这篇论文尝试按词元角色纠偏。

速览 BRIEFS — 8

PAPER

GFlowRL按奖励保留多种好解法，并用批内估计解决大模型训练不稳。

H 13

PAPER

学生边生成边学教师，并不天然稳定：教师错配和长度漏洞都可能把训练带偏。

HF 17

PAPER

审计20个视频模型：答题正确率高，不等于答案真的依赖画面。

H 10

PAPER

TRACE把任务终局成败拆回每轮工具交互，让长任务Agent更容易学会哪一步真正有用。

H 1

PAPER

两种“语义锚定”方案，让机器人学新动作时别忘了原本看懂和听懂的能力。

H 13 · 2 信源

PAPER

机器人不再一次建完整地图，而是随任务唤醒局部细节，减轻长期运行的感知与记忆负担。

H 2

PAPER

进程明明被终止，Agent 的交接摘要却可能把半截输出写成已验证结果。

H 2

PAPER

Kaleido利用视频潜空间的重复信息，让算法与芯片配合跳过冗余计算。