服务端启用(示意)
服务端启用(示意)
vllm serve <推理模型路径> --reasoning-parser deepseek_r1
# 解析器名称按模型族选择,以版本文档为准响应字段
响应字段
# message.reasoning_content 思维过程(若启用解析)
# message.content 最终回答未启用解析时思维链会混在 content 中:前端展示与 push 通知、token 统计都会受影响。
带思维链输出的推理模型需要把思维过程与最终回答分开:vLLM 用 --reasoning-parser 按模型族解析,响应中 reasoning_content 与 content 分字段返回。
vllm serve <推理模型路径> --reasoning-parser deepseek_r1
# 解析器名称按模型族选择,以版本文档为准# message.reasoning_content 思维过程(若启用解析)
# message.content 最终回答