量级直觉
量级直觉
KV 显存 ≈ 2 × 层数 × KV头数 × 头维度 × 序列长度 × 并发序列数 × 精度字节
# GQA 模型的 KV头数 小于注意力头数，按 KV头数计算详细公式与算例见「显存与并发估算」分组；这里记住四个驱动变量：序列长度、并发数、精度、模型结构。
本包目录（267 条）
部署形态与选型43 条推理环境与 GPU50 条
推理参数与优化50 条
- temperature：控制输出随机性
- top_p：核采样阈值
- max_tokens：限制生成长度
- KV 缓存是什么：显存的主要变量
- top_k：固定候选数量截断
- 量化总览：位宽、对象与格式
- repetition_penalty：重复惩罚
- prefill 与 decode：两阶段性能特征
- 连续批处理（continuous batching）
- stream：流式返回（SSE）
- stop：停止序列
- 受约束解码：JSON/Schema/正则
- seed：可复现性的边界
- chat template：消息到 prompt 的渲染
- 前缀缓存：复用相同前缀的 KV
- min_p：按峰值比例过滤候选
- presence/frequency penalty：出现次数惩罚
- chunked prefill：长输入分块执行
- FP16 与 BF16 的选择
- generation_config.json：默认采样参数的来源
- 工具调用：服务端解析与启用
- KV 缓存精度：fp8 选项
- GPTQ：4 位权重量化
- GGUF 量化档位与选择
- 采样参数的作用顺序
- token 计数：预算与截断的基准
- PagedAttention：KV 分页管理
- 推测解码：用小模型加速生成
- FP8 量化：新代 GPU 的加速选项
- AWQ：激活感知的 4 位量化
- bitsandbytes：即用量化（int8/NF4）
- 推理模型输出：分离思维过程
- 离线批推理：吞吐优先的跑法
- 超窗请求的处理策略
- 注意力头结构：KV 规模的关键变量
- logprobs：输出置信度观测
- KV swap：用 CPU 内存做缓冲
- 长上下文部署的三个关注点
- AWQ 与 GPTQ 的取舍对照
- MoE 模型推理：激活与驻留
- n 与 best_of：多候选生成
- tokenizer 版本与一致性
- CUDA Graphs：降低解码步启动开销
- 采样与束搜索：解码策略取舍
- 量化效果评估：质量与性能一起看
- logit_bias：按 token 施加偏置
- 权重卸载：部分层放 CPU 内存
- 服务端 INT8（W8A8）路径
- RoPE 位置缩放：扩展上下文窗口
- Prefill/Decode 分离部署
KV 缓存是什么：显存的主要变量
KV 缓存保存每层注意力已生成 token 的 Key/Value 张量，避免重复计算：随序列长度、层数、KV 头数、精度与批大小线性增长，显存规划必须单独为它留空间。
易错点
- 只按权重估显存：长上下文与高并发下 KV 缓存可以超过权重占用，是线上 OOM 的常见来源
数据来源与参考
- vLLM 官方文档：PagedAttention 与 KV 管理（docs.vllm.ai）
- Hugging Face 文档：KV cache（huggingface.co/docs）