采样参数是什么
模型每生成一个 token 都要按概率分布抽样，采样参数就是控制这个抽样过程的旋钮：temperature 调整整体随机程度，top_p 只从累计概率最高的一部分候选里挑，frequency 与 presence 两类惩罚分别抑制重复词和鼓励引入新话题。经验法则是：一次只明显调整一个旋钮，事实型任务压低随机性，创意型任务适度放开，改动前后都跑同一套评测。
基本信息
| temperature | 控制随机性，取值越低越确定、越高越发散 |
|---|---|
| top_p | 核采样，只保留累计概率靠前的一部分候选词 |
| frequency_penalty | 按词出现次数施加惩罚，抑制重复用词 |
| presence_penalty | 按词是否已出现施加惩罚，鼓励引入新话题 |
| seed | 部分接口支持固定随机种子，用于提高可复现性 |
| 默认策略 | 多数场景保持默认，只按任务需要微调其中一个 |
参数速查与建议
| 参数 | 作用 | 取值思路 |
|---|---|---|
| temperature | 控制输出随机程度 | 抽取、分类、事实问答取低值；创意写作取中高值 |
| top_p | 限制候选词范围 | 通常保持默认，需要时与温度二选一调整 |
| frequency_penalty | 降低重复用词概率 | 轻微正值改善啰嗦，过高会让表达生硬 |
| presence_penalty | 鼓励覆盖新话题 | 创意与头脑风暴可小幅正值，过高容易跑题 |
| seed | 固定随机序列 | 评测对比时使用，跨版本仍不保证完全一致 |
| max_tokens | 限制输出长度 | 按需求设置，过小会在句子中间截断 |
典型使用场景
- 事实问答与抽取：压低随机性，减少自由发挥带来的编造
- 文案与创意写作：适度提高随机性，获得更多表达变体
- 批量生成候选：同一提示词多次采样，再人工或程序筛选
- 评测与回归：固定种子与参数，保证不同版本可对比
- 长文生成：配合频率惩罚，减少重复句式与口头禅
参数怎么写进请求
参数怎么写进请求
curl -s https://api.openai.com/v1/chat/completions -H "Authorization: Bearer $OPENAI_API_KEY" -H "Content-Type: application/json" -d '{"model":"gpt-4o","temperature":0,"messages":[{"role":"user","content":"从这句话里抽出公司名"}]}' # 事实任务取低温度
# 创意任务可写 temperature 0.7 到 1 之间，同一提示多跑几次比较效果
# 一般不要同时大幅调整 temperature 与 top_p，两个旋钮会互相干扰
# 参数含义与取值范围以对应模型文档为准，推理类模型多有限制按现象调参
| 现象 | 可能原因 | 调整方向 |
|---|---|---|
| 同样输入结果差异大 | 随机性过高 | 降低温度并固定种子 |
| 事实问答出现编造 | 随机性或任务定位不匹配 | 压低温度，并在提示里要求依据不足时说明 |
| 回答啰嗦重复 | 缺少重复惩罚 | 小幅提高频率惩罚 |
| 内容发散跑题 | 随机性高或提示约束不足 | 压低温度并补上明确的输出要求 |
| 结果无法复现 | 未固定种子或模型版本漂移 | 固定种子并把模型锁定到具体版本 |
温度调到最低也不等于完全确定：不同批次、不同硬件与模型版本仍可能带来细微差异，关键业务要用评测集验收，而不是指望靠参数设置来保证结果稳定。
推理类模型常对采样参数有限制，部分只接受默认值；给这类模型强行传温度可能直接报错，调用前先查模型支持列表。
把参数当成质量问题的万能解药是常见误区：提示词含糊、上下文缺失、任务超出模型能力时，调参数几乎不解决问题。