首页/AI/大模型部署与运维速查/日志采集:三类分开
运维监控与排障50 条

日志采集:三类分开

三类日志分开收:引擎应用日志、网关访问日志、系统内核/驱动日志(dmesg/journal);统一打标(实例、版本、时间)集中检索,保留周期按磁盘与合规要求定。

日志要分三类收

推理服务的日志至少分三类:引擎应用日志、网关访问日志、系统内核与驱动日志。三类统一打上实例、版本与时间标签后集中检索,保留周期按磁盘容量与合规要求分别设定。少收一类,出事时就会缺关键证据。

基本信息

第一类引擎应用日志
第二类网关访问日志
第三类系统内核与驱动日志
统一标签实例、版本、时间
保留策略按类型分别设定

典型使用场景

  • 排查推理失败时需要关联引擎与应用两侧
  • 确认流量形态靠访问日志
  • 查硬件事件必须看内核日志
  • 合规审计要求访问日志按周期保留
  • 把日志检索入口写进值班手册,出事时不用现找
  • 定期抽样检查采集完整性,确认三类日志都在进来

系统侧常用命令

系统侧常用命令
journalctl -u <服务名> -n 100 --no-pager
dmesg -T | tail -50
# 采集管道不要把内核日志里的驱动报错行过滤掉

三类日志各管什么

类型主要内容典型用途
应用日志请求处理与异常栈定位业务失败
访问日志状态码与耗时流量与错误统计
内核日志驱动与硬件事件GPU 故障取证
内核日志里的驱动报错行是 GPU 故障的关键证据:采集管道别把它过滤掉,出事后也无法补采。
保留策略按类型区分:错误与告警长留,访问日志按合规周期滚动,避免全量长期堆积拖垮检索性能。
日志里避免记录完整提示词与用户内容:既要考虑隐私与合规,也要控制体积,通常只记标识与长度。
多机部署要集中采集:在多实例环境下逐台翻日志效率极低,先集中再检索。
关键字段尽量固定下来:字段一改,跨版本、跨实例的对比就全部失效,需要重新对齐口径。

易错点

  • 只收应用日志:掉卡与驱动的证据在内核日志里,事后无法补采
  • 三类日志不打统一标签:关联分析只能靠人工对时间,效率极低
  • 全量长期保留访问日志:存储与检索成本上升,关键信息反而更难找
  • 多机时钟不同步:跨机排查时因果顺序判断容易出错
  • 日志级别长期开着调试模式:磁盘被快速写满,真正有用的记录反而被冲掉

数据来源与参考

  • systemd journalctl 手册(freedesktop.org)
  • NVIDIA Xid 文档(docs.nvidia.com/deploy/xid-errors)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌