启用与调块（vLLM 示意）
启用与调块（vLLM 示意）
vllm serve <模型路径> --enable-chunked-prefill --max-num-batched-tokens 8192
# 各版本默认行为不同，以所用版本文档为准分块大小是延迟与吞吐的拨杆：块调小改善尾延迟，但调度开销占比上升，需要按场景压测取舍。
本包目录（267 条）
部署形态与选型43 条推理环境与 GPU50 条
推理参数与优化50 条
- temperature：控制输出随机性
- top_p：核采样阈值
- max_tokens：限制生成长度
- KV 缓存是什么：显存的主要变量
- top_k：固定候选数量截断
- 量化总览：位宽、对象与格式
- repetition_penalty：重复惩罚
- prefill 与 decode：两阶段性能特征
- 连续批处理（continuous batching）
- stream：流式返回（SSE）
- stop：停止序列
- 受约束解码：JSON/Schema/正则
- seed：可复现性的边界
- chat template：消息到 prompt 的渲染
- 前缀缓存：复用相同前缀的 KV
- min_p：按峰值比例过滤候选
- presence/frequency penalty：出现次数惩罚
- chunked prefill：长输入分块执行
- FP16 与 BF16 的选择
- generation_config.json：默认采样参数的来源
- 工具调用：服务端解析与启用
- KV 缓存精度：fp8 选项
- GPTQ：4 位权重量化
- GGUF 量化档位与选择
- 采样参数的作用顺序
- token 计数：预算与截断的基准
- PagedAttention：KV 分页管理
- 推测解码：用小模型加速生成
- FP8 量化：新代 GPU 的加速选项
- AWQ：激活感知的 4 位量化
- bitsandbytes：即用量化（int8/NF4）
- 推理模型输出：分离思维过程
- 离线批推理：吞吐优先的跑法
- 超窗请求的处理策略
- 注意力头结构：KV 规模的关键变量
- logprobs：输出置信度观测
- KV swap：用 CPU 内存做缓冲
- 长上下文部署的三个关注点
- AWQ 与 GPTQ 的取舍对照
- MoE 模型推理：激活与驻留
- n 与 best_of：多候选生成
- tokenizer 版本与一致性
- CUDA Graphs：降低解码步启动开销
- 采样与束搜索：解码策略取舍
- 量化效果评估：质量与性能一起看
- logit_bias：按 token 施加偏置
- 权重卸载：部分层放 CPU 内存
- 服务端 INT8（W8A8）路径
- RoPE 位置缩放：扩展上下文窗口
- Prefill/Decode 分离部署
chunked prefill：长输入分块执行
把长输入的 prefill 切块，与 decode 步骤交错执行：避免长请求独占一步、阻塞其他请求的解码，降低尾延迟；由 enable_chunked_prefill 与 max_num_batched_tokens 等参数控制。
易错点
- 只奔着吞吐调大：长输入排队把 P99 拉高，交互场景体感明显变差
数据来源与参考
- vLLM 官方文档：优化与调优（docs.vllm.ai）