logit_bias：按 token 施加偏置

对指定 token 的 logits 加固定偏置：正值提升、负值抑制，-100 常用来硬性排除特定 token；字段为 token id 到偏置值的映射。

大模型部署与运维速查AI更新于 2026-10-12

请求片段

# 排除某个 token（id 需按目标模型 tokenizer 查询）
client.chat.completions.create(
    model="<模型名>",
    messages=[{"role": "user", "content": "输出一个城市的名字"}],
    logit_bias={"12345": -100},
)

token id 与具体分词器绑定：换模型必须重新映射；取值范围与上限以服务实现为准。

易错点

跨模型复用同一份 logit_bias：token id 语义错位，偏置对象与预期不符

数据来源与参考

OpenAI API 参考：logit_bias（platform.openai.com/docs）
vLLM 官方文档：SamplingParams（docs.vllm.ai）

继续搜索

常用关键词：3389 traceroute iptables 子网掩码 docker

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌