像在一台电脑里再模拟一台电脑,QwenPU这次把一个小型语言模型放进了另一个大模型的权重里运行。继此前将32位RISC-V处理器规则编码进Qwen3.5-4B后,开发者又把NPU——专门处理神经网络运算的处理器结构——编入同一模型的权重,让它执行Karpathy的stories260K。
这里并没有一块真实芯片藏在模型中。所谓NPU,是由神经网络运算构造出的虚拟处理器。作者称,它能逐比特一致地完成矩阵乘法、softmax和Attention;后两者分别负责把数值转换为概率,以及判断序列中不同位置的关联。stories260K本身是C程序,其模型权重也放在Qwen自己的内存中,不依赖外部工具。
这让“权重里的计算机”从运行普通程序,走到了执行另一个语言模型。不过完整技术文章仍在撰写,速度优化和体积缩减也尚未完成,因此目前更适合看作概念演示,而非成熟方案。