generation_config.json：默认采样参数的来源

模型目录里的 generation_config.json 记录作者设定的默认采样参数；请求未显式指定时，实际生效值由服务端默认与模型生成配置共同决定，可能与模型卡推荐不一致。

查看模型自带默认值

cat <模型目录>/generation_config.json | head -30

r = client.chat.completions.create(
    model="<模型名>",
    messages=[{"role": "user", "content": "你好"}],
    temperature=0.6,
    top_p=0.9,
)

上线前用最小请求确认实际生效的 temperature/top_p：默认值链路（服务端 → 模型配置 → 请求）容易想当然。

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌