配置交换空间（vLLM 示意）
配置交换空间（vLLM 示意）
vllm serve <模型路径> --swap-space 8 # 单位 GiB，按机器内存与负载评估换入换出会引入延迟抖动：出现频繁抢占时优先扩卡、降低并发或缩短窗口。
本包目录（267 条）
部署形态与选型43 条推理环境与 GPU50 条
推理参数与优化50 条
- temperature：控制输出随机性
- top_p：核采样阈值
- max_tokens：限制生成长度
- KV 缓存是什么：显存的主要变量
- top_k：固定候选数量截断
- 量化总览：位宽、对象与格式
- repetition_penalty：重复惩罚
- prefill 与 decode：两阶段性能特征
- 连续批处理（continuous batching）
- stream：流式返回（SSE）
- stop：停止序列
- 受约束解码：JSON/Schema/正则
- seed：可复现性的边界
- chat template：消息到 prompt 的渲染
- 前缀缓存：复用相同前缀的 KV
- min_p：按峰值比例过滤候选
- presence/frequency penalty：出现次数惩罚
- chunked prefill：长输入分块执行
- FP16 与 BF16 的选择
- generation_config.json：默认采样参数的来源
- 工具调用：服务端解析与启用
- KV 缓存精度：fp8 选项
- GPTQ：4 位权重量化
- GGUF 量化档位与选择
- 采样参数的作用顺序
- token 计数：预算与截断的基准
- PagedAttention：KV 分页管理
- 推测解码：用小模型加速生成
- FP8 量化：新代 GPU 的加速选项
- AWQ：激活感知的 4 位量化
- bitsandbytes：即用量化（int8/NF4）
- 推理模型输出：分离思维过程
- 离线批推理：吞吐优先的跑法
- 超窗请求的处理策略
- 注意力头结构：KV 规模的关键变量
- logprobs：输出置信度观测
- KV swap：用 CPU 内存做缓冲
- 长上下文部署的三个关注点
- AWQ 与 GPTQ 的取舍对照
- MoE 模型推理：激活与驻留
- n 与 best_of：多候选生成
- tokenizer 版本与一致性
- CUDA Graphs：降低解码步启动开销
- 采样与束搜索：解码策略取舍
- 量化效果评估：质量与性能一起看
- logit_bias：按 token 施加偏置
- 权重卸载：部分层放 CPU 内存
- 服务端 INT8（W8A8）路径
- RoPE 位置缩放：扩展上下文窗口
- Prefill/Decode 分离部署
KV swap：用 CPU 内存做缓冲
KV 显存不足时把被抢占请求的 KV 换出到 CPU 内存，需要时再换回：vLLM 提供 swap-space 配置交换空间大小，属于缓冲手段而非常态扩容方案。
易错点
- 把 swap 当扩容用：反复换入换出拉高尾延迟，表现为周期性变慢
数据来源与参考
- vLLM 官方文档：Engine 参数与优化（docs.vllm.ai）