深度专题 FEATURES — 2
Nemotron 3.5押注混合架构
NVIDIA 把 MoE、Mamba 与 Transformer 装进同一模型,想用更少计算扛住长文本、推理和智能体任务。
自蒸馏热潮:老师何时该出手
五项同期研究追问同一件事:自蒸馏的老师该看什么、何时介入,又该何时闭嘴。
速览 BRIEFS — 8
PAPER
世界动作模型开始追问因果
CausalWAM给动作通路加上稀疏约束,试着把真正影响动作的因素从背景中分离出来。
PAPER
冻结模型也能自己改造思考路径
SelfMorph让冻结LLM按题目选择内部计算路线,把测试时扩展从“算多少”推进到“怎么算”。
PAPER
KV缓存尝试无损压缩
GAAC无损压缩KV缓存,减少长对话的数据搬运,并在个人设备上加快推理。
PAPER
CPU也来分担智能体长上下文
多智能体挤满 GPU 时,CACPU 用缓存与任务调度让 CPU 接手长上下文预填充。
PAPER
推理集群不该只看吞吐量
GAUSS把真实请求、延迟承诺和硬件容量放进同一套模拟,不再只看吞吐量。
PAPER
机器人靠相对功劳逃出局部最优
给同一状态下的动作排相对功劳,帮助PPO跳出“差不多就行”的操作策略。
PAPER
提示注入的位置决定破坏力
同一句恶意指令,藏在 README 里可能比放进代码或数据文件更危险。
PAPER
AI研究论文的数字会张冠李戴
AI 论文里的数字可能是真的,却被安在错误实验头上,审计不能只查“有没有”。