Wavefront与AMD-GPU
HIP 语法虽然像 CUDA,但底层是 AMD 的硬件。你写的 kernel 最终在 AMD GPU 上跑,你就得了解 AMD GPU 长什么样。这一章讲清楚 AMD GPU 的核心执行单元——Wavefront、Compute Unit(CU)、以及 CDNA/RDNA 架构的区别。
1. 从 SM 到 CU
NVIDIA 用"SM"(Streaming Multiprocessor),AMD 用**"CU"(Compute Unit)**。它们是同一类东西——GPU 上一个个"计算集群",里面有一批 SIMD 单元、寄存器、共享内存。
一个 GPU 里通常有几十上百个 CU:
- MI100 (CDNA1):120 CU;
- MI250X (CDNA2):220 CU(每个 GCD 110 CU × 2 GCD);
- MI300X (CDNA3):304 CU;
- RX 7900 XTX (RDNA3):96 CU。
每个 CU 内部:
- 4 个 SIMD 单元(宽度 16);
- 约 65K 个向量寄存器;
- 64KB LDS(Local Data Share,相当于 shared memory);
- 共享 L1 cache、纹理单元、指令 fetch。
2. Wavefront:AMD 的调度单位
Wavefront 就是 AMD 版的 warp——一组同步执行的线程。
- CDNA 架构:wavefront = 64;
- RDNA 架构:wavefront = 32 或 64(可选,wave32 模式或 wave64 模式);
- 一个 CU 上多个 wavefront 并发。
为什么是 64(而不是 32)?历史选择。AMD 一直用 64 从 GCN 时代到 CDNA。RDNA 引入 wave32 是为了给消费卡(游戏)更细粒度调度。数据中心 GPU(CDNA)依然是 wave64。
wave64 vs wave32 的影响:
- wave64 优势:更好的算力密度(一次调度多干 2 倍活)、更少的调度开销;
- wave32 优势:divergence 影响小(一个 warp 里只 32 线程,同类分支更容易一致);
- 对代码的影响:warp-level 归约、shuffle 的写法要用
warpSize而不是硬编码 32。
3. CU 的 SIMD 结构
一个 CU 内部有 4 个 SIMD 单元,每个 宽度 16。
一个 wavefront(64 线程)在一个 SIMD 单元上分 4 个 cycle 完成——每个 cycle 处理 16 线程。也就是说:
Wavefront 64 threads
│
├─ cycle 0: lanes 0-15
├─ cycle 1: lanes 16-31
├─ cycle 2: lanes 32-47
└─ cycle 3: lanes 48-63