数据地图与元数据是什么
数据地图(元数据平台)是找数、认责与影响分析的基础设施:它登记表结构、字段含义、负责人、更新频率、分区信息与上下游血缘,并提供搜索与影响分析能力。元数据分两类,技术元数据(库表结构、分区、存储量、任务依赖)一般从 Metastore 与调度平台自动采集,业务元数据(字段含义、指标口径、枚举取值、负责人)必须靠人工补齐。表与字段的说明缺失时,数据地图会退化成只能搜表名的列表,价值大打折扣。
基本信息
| 技术元数据 | 库表结构、分区、存储、任务依赖、更新频率 |
|---|---|
| 业务元数据 | 字段含义、枚举取值、指标口径、负责人 |
| 关键能力 | 搜索、字段级血缘、影响分析、质量标签 |
| 采集方式 | 从 Metastore 与调度平台定时同步,业务说明人工补齐 |
| 常见实现 | Apache Atlas、DataHub、自研元数据平台 |
典型使用场景
- 找数:按业务关键词检索字段含义,快速定位该用哪张表
- 认责:通过负责人字段找到表的主人,沟通口径与变更
- 影响分析:改字段或下线表之前,拉出受影响的下游清单
- 新人上手:按主题域与分层浏览表目录,理解数据资产结构
- 治理盘点:统计无负责人、无字段注释的表,安排补充
元数据登记要点
元数据登记要点
表名 / 中文名 / 分层(ODS、DWD、DWS、ADS)/ 主题域
负责人(团队与联系人,避免只写一个邮箱组)
更新频率与调度任务名(便于故障时定位任务)
分区字段与最新分区(新鲜度监控的数据来源)
字段含义与枚举取值说明(业务元数据的核心)
是否涉敏与访问申请入口(合规要求)元数据类别与来源
| 类别 | 内容 | 来源 | 维护方 |
|---|---|---|---|
| 技术元数据 | 结构、分区、存储量、依赖 | 引擎与调度自动采集 | 平台侧 |
| 业务元数据 | 字段含义、枚举、口径 | 建模方人工登记 | 数据开发 |
| 运维元数据 | 产出时间、质量分、责任人 | 稽核与监控系统 | 值班与负责人 |
| 血缘元数据 | 表级与字段级依赖 | SQL 解析加调度依赖 | 平台侧 |
表说明与字段注释缺失时,数据地图只能提供表名搜索:业务方找不到数据,开发反复解释字段含义,时间成本长期存在。
元数据要有人管:只采集不治理时,血缘里堆着一批已废弃任务,影响分析结果不可信,最终没人再参考它。
字段含义含糊(例如只写“状态”)比没有注释更危险:使用者会按自己的理解取值,口径分叉从注释开始但很难被追查。