GPU 架构代号与差异
架构代际决定了可用特性：Ampere 引入 BF16 张量核，Ada 增强 FP8 支持并提升能效，Hopper 面向大模型做了专门优化。选卡与选量化方案前先确认架构：量化格式与架构强相关，某些格式只有在较新的架构上才有硬件加速，老架构上只能走较慢的回退路径。
基本信息
| 常见架构 | Turing、Ampere、Ada、Hopper（按计算能力区分） |
|---|---|
| 关键特性 | BF16、FP8、面向大模型的算子优化 |
| 确认方式 | 查询设备名称与计算能力字段 |
| 对推理的影响 | 决定可用的量化格式与算子加速路径 |
| 采购关注点 | 显存容量、显存带宽与架构特性三者一起看 |
典型使用场景
- 选卡：按业务需要的量化格式与带宽水平匹配架构代际
- 选量化方案：确认目标格式在本代架构上是否有硬件加速
- 排查算子报错：遇到「没有可用内核」类报错时先看架构支持
- 采购评估：把架构特性纳入选型，而不是只看显存大小
- 老卡降级方案：为旧架构准备兼容的量化档位与参数
确认架构
确认架构
# 计算能力字段能直接反映架构代际
nvidia-smi --query-gpu=name,compute_cap --format=csv
# 结合驱动文档核对本代支持的量化与算子特性架构要点
| 架构 | 代际特性 | 对推理的影响 |
|---|---|---|
| Turing | 有 FP16 张量核，不支持 BF16 | 量化选择受限，新格式多为回退路径 |
| Ampere | BF16、TF32 张量核 | BF16 推理的主流起点 |
| Ada | FP8 支持，能效比高 | FP8 量化部署的可选项 |
| Hopper | FP8 与面向大模型的算子优化 | 大模型高吞吐场景常用 |
量化方案与架构强相关：某些低位格式在较新架构上才有硬件加速，老卡上会回退到软件路径，速度优势可能完全消失。
产品名不一定直观反映架构代际：以计算能力字段确认更可靠，尤其在采购二手卡或混用多代卡的环境里。