组合启动（示意）
组合启动（示意）
vllm serve <模型路径> --pipeline-parallel-size 2 --tensor-parallel-size 4
# 总卡数 = 2 × 4 = 8单机内优先用 TP 吃 NVLink；需要跨机扩展时再叠加 PP 承担节点维度。
流水并行：按层分段跨卡
把不同层段放到不同卡（或节点）：通信量小于 TP，适合跨机扩展；代价是流水气泡，需要足够批次填充才能打满算力。
易错点
- 低并发下开 PP：气泡填不满，利用率下降、延迟变差，先看流量形态再定
数据来源与参考
- vLLM 官方文档：并行与分布式（docs.vllm.ai）