经典流水线示意
经典流水线示意
logits
→ repetition / presence / frequency 惩罚
→ temperature 缩放
→ top_k 截断
→ top_p 核采样
→ 按概率采样一个 token排参策略：固定其他项、只动一个并记录指标；跨框架迁移时优先重跑评估，而不是照搬数值。
本包目录（267 条）
部署形态与选型43 条推理环境与 GPU50 条
推理参数与优化50 条
- temperature：控制输出随机性
- top_p：核采样阈值
- max_tokens：限制生成长度
- KV 缓存是什么：显存的主要变量
- top_k：固定候选数量截断
- 量化总览：位宽、对象与格式
- repetition_penalty：重复惩罚
- prefill 与 decode：两阶段性能特征
- 连续批处理（continuous batching）
- stream：流式返回（SSE）
- stop：停止序列
- 受约束解码：JSON/Schema/正则
- seed：可复现性的边界
- chat template：消息到 prompt 的渲染
- 前缀缓存：复用相同前缀的 KV
- min_p：按峰值比例过滤候选
- presence/frequency penalty：出现次数惩罚
- chunked prefill：长输入分块执行
- FP16 与 BF16 的选择
- generation_config.json：默认采样参数的来源
- 工具调用：服务端解析与启用
- KV 缓存精度：fp8 选项
- GPTQ：4 位权重量化
- GGUF 量化档位与选择
- 采样参数的作用顺序
- token 计数：预算与截断的基准
- PagedAttention：KV 分页管理
- 推测解码：用小模型加速生成
- FP8 量化：新代 GPU 的加速选项
- AWQ：激活感知的 4 位量化
- bitsandbytes：即用量化（int8/NF4）
- 推理模型输出：分离思维过程
- 离线批推理：吞吐优先的跑法
- 超窗请求的处理策略
- 注意力头结构：KV 规模的关键变量
- logprobs：输出置信度观测
- KV swap：用 CPU 内存做缓冲
- 长上下文部署的三个关注点
- AWQ 与 GPTQ 的取舍对照
- MoE 模型推理：激活与驻留
- n 与 best_of：多候选生成
- tokenizer 版本与一致性
- CUDA Graphs：降低解码步启动开销
- 采样与束搜索：解码策略取舍
- 量化效果评估：质量与性能一起看
- logit_bias：按 token 施加偏置
- 权重卸载：部分层放 CPU 内存
- 服务端 INT8（W8A8）路径
- RoPE 位置缩放：扩展上下文窗口
- Prefill/Decode 分离部署
采样参数的作用顺序
采样参数并非各自独立生效：经典流水线顺序为 logits 惩罚（repetition 类）→ temperature 缩放 → top_k → top_p，最后才做采样；顺序决定叠加后的真实候选集。
易错点
- 同时大改多个采样参数：效果无法归因，实验记录失去对比价值
数据来源与参考
- Hugging Face 博客：How to generate text（huggingface.co/blog）
- Hugging Face 文本生成文档（huggingface.co/docs/transformers）