MIG 把整卡切成固定规格的实例
多实例 GPU（MIG）在硬件层面把一张卡切分成若干独立切片，每个切片有固定的显存容量与算力份额，彼此之间隔离。切片的显存是硬隔离的：某个切片里的任务无法使用其他切片的显存，也不会被邻居的显存压力影响。代价是弹性差——切片规格在创建时确定，不能像软件比例那样随意调整，且整卡被切片后无法再被当作一张完整卡使用。
基本信息
| 适用硬件 | 支持 MIG 的数据中心 GPU，具体档位以型号与驱动版本为准 |
|---|---|
| 切分粒度 | 按预定义规格创建，如 1g.10gb 量级的档位 |
| 隔离程度 | 显存与算力硬隔离，优于软件比例切分 |
| 查看与创建 | 通过 nvidia-smi 的 mig 子命令，细节以官方文档为准 |
| 弹性 | 规格创建后固定，调整需要重建 |
典型使用场景
- 多租户硬隔离：不同团队或客户共享同一台机器，需要互不可见的资源边界
- 小模型多实例：每个切片承载一个小模型，规格与模型需求匹配
- 开发与生产共存：把测试切片与生产切片放在同一张卡上，但保持隔离
- 资源配额交付：按切片规格承诺固定算力，便于计量与结算
- 故障隔离：单个切片内的任务异常不会影响邻居的状态
查看与创建
查看与创建
nvidia-smi -L # 确认硬件是否支持 MIG
nvidia-smi mig -lgip # 列出可用切片规格与显存容量
nvidia-smi mig -cgi <规格标识> # 创建指定规格（细节以官方文档为准）
nvidia-smi -L # 复查已创建的切片
# 在切片内启动服务：显存与算力预算按该切片规格重新计算切分方式对比
| 方式 | 隔离强度 | 弹性 |
|---|---|---|
| MIG 切片 | 硬隔离，显存与算力独立 | 规格固定，调整需重建 |
| 比例切分 | 软隔离，共享同一显存池 | 比例可灵活设置，但会互相影响 |
| 整卡独占 | 完全独占 | 无共享，利用率取决于单任务 |
| 跨机部署 | 物理隔离 | 需要更多机器与网络 |
切片内并发要按切片显存重新估算：窗口长度与批处理参数都要随之下调，直接沿用整卡参数会立刻触发显存不足。
适用判断：多租户硬隔离或小模型多实例时值得用切片；单个大模型场景优先整卡方案，切片会带来不必要的容量浪费。