首页/数据/数仓建模速查/日志解析成结构化事实
维度与事实设计149 条

日志解析成结构化事实

日志入仓先解析为结构化列并保留原始定位(文件路径 + 偏移或对象键):解析规则版本化,回溯时可重新解析。

数仓建模速查数据更新于 2026-10-12
解析正则/JSON 提取字段
回溯保留原始指针
版本解析规则登记

JSON 解析

JSON 解析
SELECT
  get_json_object(log, '$.order_id') AS order_id,
  get_json_object(log, '$.amount') AS amount,
  src_path, src_offset
FROM ods_app_log WHERE dt = '2026-10-12';
字段缺失与解析失败的行要单列监控,不能静默丢弃。

易错点

  • 解析规则变更不回刷,新旧字段混用
  • 解析失败静默丢行,指标悄悄变小

数据来源与参考

  • Hive 语言手册:JSON 函数;日志治理实践
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌