首页/AI/大模型部署与运维速查/网关日志:元数据与内容分级

网关日志:元数据与内容分级

日志分两级:元数据(请求 ID、模型、token 用量、延迟、状态码)默认记录;对话内容默认不落盘,需要排查时临时开启并配套脱敏与留存策略。

Nginx 日志片段(示意)

Nginx 日志片段(示意)
log_format llm '$remote_addr $request_id $status $request_time $upstream_response_time';
access_log /var/log/nginx/llm.log llm;
内容级日志开关集中管理并留审计:默认关闭、限时开启、到期清理。

易错点

  • 默认记录完整对话:磁盘快速膨胀,数据暴露面增大,先定脱敏与留存策略

数据来源与参考

  • Nginx 官方文档:log_format 与 request_id(nginx.org/en/docs)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌