首页/AI/大模型部署与运维速查/日志关联:用请求 ID 串起全链路
本包目录(267 条)
部署形态与选型43 条推理环境与 GPU50 条推理参数与优化50 条显存与并发估算40 条服务化与网关34 条
运维监控与排障50 条

日志关联:用请求 ID 串起全链路

网关生成请求 ID 并通过头透传,访问日志与引擎日志都带上它;排障时用一个 ID 就能拉出全链路记录,不再靠时间猜对应关系。

nginx:生成并透传请求 ID

nginx:生成并透传请求 ID
log_format llm '$remote_addr [$time_local] rid=$request_id '
                '$status rt=$request_time urt=$upstream_response_time';
proxy_set_header X-Request-Id $request_id;

排障时按 ID 拉全链路

排障时按 ID 拉全链路
grep 'rid=abc123' <nginx访问日志>
grep 'abc123' <引擎日志> | head -20
$request_id 由 nginx 生成;上游引擎的日志字段以实际版本为准,能记录请求标识的格式优先启用。

易错点

  • 各层各自生成 ID:网关、引擎、应用三份 ID 互不相干,关联时依旧靠猜

数据来源与参考

  • nginx 官方文档:ngx_http_core_module($request_id,nginx.org)
  • vLLM 官方文档:日志与请求记录(docs.vllm.ai)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌