首页/AI/大模型部署与运维速查/驱动与 CUDA 版本的关系
推理环境与 GPU50 条

驱动与 CUDA 版本的关系

两处版本号含义不同:nvidia-smi 显示的 CUDA Version 是「驱动支持的上限运行时版本」,nvcc --version 是「实际安装的工具箱版本」;工具箱版本不能超过驱动上限。

查看位置对照

命令显示内容含义
nvidia-smiCUDA Version: xx.y该驱动支持到的 CUDA 运行时上限
nvcc --versionrelease xx.y本机安装的 CUDA 工具箱版本
python -c torch…torch.version.cudaPyTorch 编译时使用的 CUDA 版本

三步核对

三步核对
nvidia-smi | head -5
nvcc --version
python -c "import torch; print(torch.version.cuda)"
容器内看到的 Toolkit 版本来自镜像,与宿主机 nvcc 无关;判断容器能否用 GPU 要看驱动与容器 CUDA 运行时的兼容关系。

易错点

  • 把 nvidia-smi 的 CUDA Version 当成已装版本:它只是驱动能力上限,宿主机可能根本没装 toolkit

数据来源与参考

  • NVIDIA CUDA 兼容性文档(docs.nvidia.com/cuda)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌