HIP与ROCm
前面十章讲了 CUDA——NVIDIA GPU 编程的事实标准。但世界上不只有 NVIDIA。这一章开始我们进入 HIP 的世界——AMD 的 GPU 编程接口。
HIP 和 CUDA 长得极像——这是刻意为之。理解它,你能低成本地把 CUDA 知识迁移到 AMD 硬件上,甚至写一份代码同时跑在两家 GPU 上。
1. 为什么要学 HIP
AMD 也在做 GPU。而且随着以下三件事,AMD 的 GPU 越来越值得关注:
第一,AI 硬件多样化。这几年数据中心 AI 训练也在往 AMD MI250/MI300 迁移——它的显存大(MI300X 有 192GB)、FP8 峰值不输 H100、价格相对便宜。
第二,Meta / Microsoft / OpenAI 都在部署 AMD GPU。PyTorch、vLLM、SGLang 官方都支持 ROCm 后端。生态越来越完整。
第三,避免供应商锁定。写一份能跑在 CUDA 和 ROCm 上的代码,比只能跑在一家硬件上更值钱。
HIP 就是让这件事变可能的接口。
2. HIP 是什么
HIP(Heterogeneous-computing Interface for Portability) 是 AMD 提出的**"和 CUDA 长得几乎一样"的 GPU 编程接口**。
它的设计目标非常明确——让你能把 CUDA 代码几乎无痛地迁移到 AMD 硬件上。
看一段 HIP 代码:
#include <hip/hip_runtime.h>
__global__ void add(int *a, int *b, int *c) {
*c = *a + *b;
}
int main() {
int *d_a, *d_b, *d_c;
hipMalloc(&d_a, sizeof(int));
hipMalloc(&d_b, sizeof(int));
hipMalloc(&d_c, sizeof(int));
add<<<1, 1>>>(d_a, d_b, d_c);
hipDeviceSynchronize();
hipFree(d_a); hipFree(d_b); hipFree(d_c);
return 0;
}
和 CUDA 对比一下:几乎所有 cuda* 前缀换成 hip*。__global__、__shared__、<<<>>> 语法一模一样。
这不是巧合——HIP 就是把 CUDA 的 API 一个个对应过来的。学过 CUDA 你就已经会 90% 的 HIP 了。
3. HIP 是可以跑在两家硬件上的
HIP 是"跨平台"接口:
- 在 AMD GPU 上:HIP → 直接编译到 AMD 硬件(用 amdgcn LLVM);
- 在 NVIDIA GPU 上:HIP → 底层调用 CUDA 运行时(相当于 CUDA 的一层薄封装)。
同一份 HIP 代码可以跑在两家 GPU 上。这就是"portability"的含义。
编译命令:
hipcc your_program.cpp -o your_program
hipcc 会自动检测 目标平台——NVIDIA 上编译成 CUDA、AMD 上编译成 amdgcn。代码一份、平台两个。
4. ROCm 是什么
ROCm(Radeon Open Compute) 是 AMD 的整个 GPU 计算软件栈。类比一下:
- NVIDIA:CUDA Toolkit(编译器、库、工具)+ CUDA driver + cuBLAS/cuDNN/TensorRT/Nsight……
- AMD:ROCm 平台(编译器、库、工具)+ ROCm driver + rocBLAS/MIOpen/hipBLASLt/rocprof……
ROCm 包含:
- HIP:编程接口;
- HIPCC:编译器;
- hip-runtime:运行时;
- rocBLAS:BLAS 库(对应 cuBLAS);
- MIOpen:深度学习原语库(对应 cuDNN);
- rocFFT / rocSPARSE / rocRAND:其他数学库;
- rocprof / rocm-smi:性能分析和监控;
- hipify:CUDA 代码转 HIP 的工具。
ROCm 是 AMD 的整个"CUDA 平台等价物"。
5. HIP 和 CUDA 的关系
一句话解释:HIP 是"精心设计的 CUDA API 复制品"。
- 90%+ 的 CUDA API 都有一对一的 HIP 对应;
- 名字规则简单:
cuda*→hip*(cudaMalloc→hipMalloc); - 部分不能直接对应的会有"HIP 特有"或者"CUDA 特有"标记,需要条件编译;
- CUDA 的
<<<>>>语法、__global__等关键字 HIP 都完全支持。
这个设计的意义:AMD 承认 CUDA 的语法优势,不搞发明创造,直接抄——但保留自己的硬件优化空间。这让CUDA 用户的迁移成本极低。
(对比一下 OpenCL——它试图和 CUDA "彻底不同",语法结构完全另起炉灶。结果是学习成本高、生态弱、最终没竞争过 CUDA。HIP 的"贴近 CUDA"是聪明的。)
6. AMD GPU 的硬件差异
虽然 HIP 语法像 CUDA,但底层硬件不一样。写 HIP 代码要意识到几个关键差异:
Wavefront 大小:AMD 的 wavefront(对应 NVIDIA 的 warp)传统上是 64(不是 32)。
- CDNA 系列(数据中心):还是 64;
- RDNA 系列(消费级):可选 32 或 64;
- 一个 warp = 32、一个 wavefront = 64——很多 warp-level 代码需要调整。
共享内存布局:Bank 数量、bank 冲突规则和 NVIDIA 略有不同。
Tensor Core → Matrix Core:AMD 在 CDNA 上叫 Matrix Core,功能类似 NVIDIA 的 Tensor Core,但指令是 mfma(Matrix Fused Multiply-Add)系列。
内存层次:整体架构类似,但 L2 cache 大小、shared memory 大小等具体数 字不同。
指令 ISA:AMD 用 amdgcn ISA,SASS 之类的分析工具不通用。
这些差异不会让 HIP 代码"跑不了",但要达到峰值性能需要针对性优化。
7. HIP 和 ROCm 的现状
成熟度:CUDA 已经十几年了,生态完善。ROCm 起步晚(2016 左右),但这几年成熟很快。
深度学习支持:
- PyTorch:官方支持 ROCm,能直接跑在 MI250/MI300 上;
- TensorFlow:支持;
- JAX:支持;
- vLLM / SGLang / TGI:都已经支持 ROCm;
- 绝大多数模型无需修改代码,切换后端就能跑。
硬件支持:
- 数据中心:MI200 系列、MI300X、MI300A——主战场;
- 消费级:Radeon RX 7000 系列部分支持 ROCm,一直有些问题;
- 旧型号:早期 Vega 之类支持有限。
驱动质量:ROCm 5.x 之后驱动稳定性大幅提升。MI300 上现在能跑得很稳定。
性能:MI300X vs H100 在很多深度学习负载上五五开,甚至部分场景(大内存、大 batch)反超。FP8 支持已经上线。