首页/数据/数据工程与 ETL 速查/数据地图与元数据

数据地图与元数据

数据地图(元数据平台)登记表结构、字段含义、负责人、更新频率、分区信息与血缘,是找数、认责与影响分析的基础设施;元数据可从引擎与调度系统自动采集,再补充业务说明。

数据地图与元数据是什么

数据地图(元数据平台)是找数、认责与影响分析的基础设施:它登记表结构、字段含义、负责人、更新频率、分区信息与上下游血缘,并提供搜索与影响分析能力。元数据分两类,技术元数据(库表结构、分区、存储量、任务依赖)一般从 Metastore 与调度平台自动采集,业务元数据(字段含义、指标口径、枚举取值、负责人)必须靠人工补齐。表与字段的说明缺失时,数据地图会退化成只能搜表名的列表,价值大打折扣。

基本信息

技术元数据库表结构、分区、存储、任务依赖、更新频率
业务元数据字段含义、枚举取值、指标口径、负责人
关键能力搜索、字段级血缘、影响分析、质量标签
采集方式从 Metastore 与调度平台定时同步,业务说明人工补齐
常见实现Apache Atlas、DataHub、自研元数据平台

典型使用场景

  • 找数:按业务关键词检索字段含义,快速定位该用哪张表
  • 认责:通过负责人字段找到表的主人,沟通口径与变更
  • 影响分析:改字段或下线表之前,拉出受影响的下游清单
  • 新人上手:按主题域与分层浏览表目录,理解数据资产结构
  • 治理盘点:统计无负责人、无字段注释的表,安排补充

元数据登记要点

元数据登记要点
表名 / 中文名 / 分层(ODS、DWD、DWS、ADS)/ 主题域
负责人(团队与联系人,避免只写一个邮箱组)
更新频率与调度任务名(便于故障时定位任务)
分区字段与最新分区(新鲜度监控的数据来源)
字段含义与枚举取值说明(业务元数据的核心)
是否涉敏与访问申请入口(合规要求)

元数据类别与来源

类别内容来源维护方
技术元数据结构、分区、存储量、依赖引擎与调度自动采集平台侧
业务元数据字段含义、枚举、口径建模方人工登记数据开发
运维元数据产出时间、质量分、责任人稽核与监控系统值班与负责人
血缘元数据表级与字段级依赖SQL 解析加调度依赖平台侧
表说明与字段注释缺失时,数据地图只能提供表名搜索:业务方找不到数据,开发反复解释字段含义,时间成本长期存在。
元数据要有人管:只采集不治理时,血缘里堆着一批已废弃任务,影响分析结果不可信,最终没人再参考它。
字段含义含糊(例如只写“状态”)比没有注释更危险:使用者会按自己的理解取值,口径分叉从注释开始但很难被追查。

易错点

  • 建表不写注释,半年后无人能解释字段含义,只能翻代码猜
  • 元数据只采集不治理,血缘里混入大量废弃任务,影响分析结论不可信
  • 负责人只写团队邮箱组,出现问题时找不到具体对接人
  • 字段枚举取值不登记,下游按错误取值过滤数据,报表口径与业务理解不一致

数据来源与参考

  • Apache Atlas 官方文档(元数据与血缘管理)
  • 行业数据治理实践
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌