top_p：核采样阈值

按概率从高到低累积到阈值 p，只在集合内采样：p=1 相当于不裁剪，p 越小候选越窄；常见取值 0.9~0.95。

大模型部署与运维速查AI更新于 2026-10-12

vLLM 离线调用

from vllm import LLM, SamplingParams
sp = SamplingParams(temperature=0.7, top_p=0.9, max_tokens=256)
llm = LLM(model="<模型路径>")
out = llm.generate(["用一句话解释什么是 KV 缓存"], sp)
print(out[0].outputs[0].text)

top_p 0.9 与 temperature 0.7 的组合是常见起点；两个参数同时大改会导致效果无法归因。

易错点

top_p 调得过小：候选集合过窄会把低概率 token 变相放大，容易出现重复与语句崩坏

数据来源与参考

Hugging Face 文本生成文档：top_p 采样（huggingface.co/docs/transformers）
vLLM 官方文档：SamplingParams（docs.vllm.ai）

继续搜索

常用关键词：3389 traceroute iptables 子网掩码 docker

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌