查看与启用(A100 等示例)
查看与启用(A100 等示例)
nvidia-smi -i 0 --query-gpu=mig.mode.current --format=csv
sudo nvidia-smi mig -lgip # 列出可用的实例档位
sudo nvidia-smi mig -cgi 1g.10gb -C # 按档位创建实例(档位以 -lgip 输出为准)| 适用 | A100/H100 等数据中心卡 |
|---|---|
| 收益 | 实例间显存与故障隔离 |
| 代价 | 单实例算力按切分缩水、配置复杂度上升 |
MIG 实例在容器与 K8s 中可作为独立 GPU 资源申请,适合「小模型多租户」场景。