最小请求
最小请求
curl http://127.0.0.1:8000/v1/chat/completions -H 'Content-Type: application/json' -d '{
"model": "<模型名>",
"messages": [
{"role": "system", "content": "你是简洁的助手"},
{"role": "user", "content": "一句话介绍 KV 缓存"}
],
"temperature": 0.3,
"max_tokens": 128
}'多轮对话把历史消息按顺序放回数组:服务端会用模板重新渲染,不要自己拼角色标记。