显存装不下大型 MoE 时，好比厨房放不下所有厨师：缺哪位，就得临时把人请来，或把订单送去外场。MoE（混合专家模型）每次只调用少数“专家”，计算不多，但全部专家参数仍占内存。传统卸载要么经 PCIe 把缺失专家搬到 GPU，耗在传输；要么留给较慢的 CPU 计算，GPU 又得等结果。
Apex 的关键观察是，同一批输入分给各专家的 token 数量并不均匀。专家参数的搬运量基本不变，但处理的 token 越多，计算量越大。因此，它把高负载专家搬到 GPU，让并行计算抵消传输成本；低负载专家则留在 CPU，避免为少量工作搬运整套参数。系统还会动态调节分配，使 CPU 计算与 GPU 的“传输加计算”两条并行路径尽量同时结束。
作者在三种 MoE 大模型上的实验称，相比最强基线，Apex 最高将预填充速度提升 51.9%，将逐字生成阶段的吞吐量提升 39.5%；平均提升分别为 31.2% 和 31.1%。这条路线的价值不在增加显存，而在于根据当下负载决定专家放在哪里执行。