算力版本号是什么
算力(Compute Capability)用主次版本号标记 GPU 的指令集能力,例如 8.0、8.9、9.0。它决定了能运行哪些预编译的算子内核:框架发布时通常按算力家族打包,老卡遇到「没有可用内核」的报错,几乎都是算力不在构建目标内。装框架、选量化内核与判断能否使用某些加速特性,第一步都要核对算力。
常见算力对照
| 算力 | 代表型号 | 架构 |
|---|---|---|
| 7.0 | V100 | Volta |
| 7.5 | T4 | Turing |
| 8.0 | A100 | Ampere |
| 8.6 | A10、RTX 3090 | Ampere |
| 8.9 | L4、L40S、RTX 4090 | Ada |
| 9.0 | H100、H200 | Hopper |
算力影响什么
| 场景 | 为什么要看算力 | 不看会怎样 |
|---|---|---|
| 安装框架 | 预编译内核按算力家族发布 | 安装成功但运行时报找不到内核 |
| 选择量化内核 | 部分量化格式对算力有最低要求 | 加载失败或回退到慢速实现 |
| 启用加速特性 | 低精度计算与注意力优化分架构支持 | 配置写了但不生效,性能没有提升 |
| 采购与混部 | 新旧卡混用时性能与支持度不一致 | 同一配置在新卡正常、老卡报错 |
查询本机算力
查询本机算力
# 驱动侧查询(部分版本支持该字段)
nvidia-smi --query-gpu=name,compute_cap --format=csv
# 框架侧查询:返回主次版本号元组
python -c "import torch; print(torch.cuda.get_device_capability())"
# 与前两项联合核对,确认卡型、驱动与框架支持范围一致
nvidia-smi --query-gpu=name,driver_version --format=csv典型使用场景
- 部署前核对:确认目标卡算力在框架与量化内核的支持范围内
- 排查内核不可用:报错指向内核缺失时,先比对本机算力与构建目标
- 老卡续用评估:判断还能不能升到新版本框架,或需要停在某个版本
- 混部规划:同一批任务尽量使用同算力家族的卡,减少配置分支
- 备件核对:换卡时确认备件算力不低于原卡,避免能力回退
不同来源的算力对照表更新节奏不一致:以本机查询结果为准,型号列表只用于粗筛。
算力不同的卡混在同一并行组里,会以最弱的一张卡为准:混部时把老卡单独成组,或直接避免混用。