昂贵的GPU跑不快，问题常常不是“算得太慢”，而是数据来回搬得太多。一个正在建设中的免费公开课程，试图把这件事从头讲透：课程计划用44节代码优先的内容，从朴素GEMM——神经网络中常见的通用矩阵乘法——一路讲到H100、Blackwell和FlashAttention。每节课都按“概念、现场写代码、性能分析、与基线比较”的流程展开。
这套路线最值得关注的，是它把“数据搬运”作为贯穿主线。课程会用Roofline模型判断程序受算力还是内存带宽限制，并现场构建FlashAttention。后者计算的注意力结果与标准实现相同，但通过分块处理，避免把完整的注意力分数矩阵写入高带宽显存，从而减少读写。后续还计划覆盖Tensor Cores、PyTorch集成、Triton、FP8量化和多GPU基础。需要注意的是，目前发布的是导论与路线图，课程仍在制作中；作者也明确表示，Blackwell和NVFP4等后期内容可能随工具变化而调整。