大模型在本地运行，难点不只是“算得快”，还要能不断把模型参数送到处理器。像厨师手再快，如果食材总堵在仓库门口，也只能干等。内存带宽——处理器每秒能与存储器交换的数据量——因此格外关键。
据 IT之家报道，小米在 8 月 24 日展示了 Xiaomi AI Cube Prototype 工程版迷你主机，内部组合玄戒 O3、O100 和 D100 三颗芯片。其中 O100 采用 6nm 3D 晶圆级堆叠，让芯片层垂直连接、缩短数据路径；小米宣称其近存计算通道带宽达到 1.22TB/s。近存计算就是把计算单元放到更靠近存储器的位置，少让数据来回奔波。
据安兔兔报道，公开原型配有 80GB 统一内存，小米称其可在本地部署 120B 大参数模型与 3B 端侧模型，并支持 150W 持续性能释放。不过，1.22TB/s 指的是 O100 的近存计算带宽，不能直接当作整机内存的持续带宽；设备仍是 Prototype，实际模型速度和稳定性还要等独立测试。