把一个原本跑在 GPU 上的 PyTorch 模型搬到 TPU，过去往往不只是“换块芯片”：团队还得适应不同的编程和编译方式。Google 与 Meta 合作推出的开源项目 TorchTPU，想把这件事变成接近切换设备选项——TPU 成为 PyTorch 的原生后端，也就是框架正式理解的执行目标，而非要求用户重写整套程序。
它最关键的设计，是把即时执行和编译执行接到同一后端。即时执行像逐条照着菜谱做，方便调试和临时修改；torch.compile 编译执行则先统筹一批操作再运行，更适合追求性能。论文称，现有程序原则上只需把设备从 cuda 改为 tpu 就能先跑起来；项目已支持 450 个 ATen 操作——即 PyTorch 的底层基础运算，并验证了 Hugging Face 下载量最高的 5000 个模型可直接执行。
这不等于“一行改动即可获得最佳性能”：作者明确提醒，模型形状、任务切分和运算仍可能偏向 GPU，需要继续调优。真正值得关注的是，TorchTPU 先把迁移门槛从“改用另一套开发方式”降到了“沿用熟悉的 PyTorch，再逐步优化”。