首页/数据/数仓建模速查/分层生命周期:保留期与冷热
分层与规范64 条

分层生命周期:保留期与冷热

按层设保留期:ODS 保留原始快照 90 天加月末快照、DWD 明细按合规要求保留、DWS/ADS 可按业务周期清理;冷数据落低频存储。

数仓建模速查数据更新于 2026-10-13

分层保留期与冷热策略

按层设置数据保留期是控制存储成本与合规风险的常规手段:ODS 保留原始快照一段时间加月末快照,DWD 明细按合规要求长期保留,DWS 与 ADS 按分析周期滚动清理。冷数据则通过存储类别下沉到低频或归档存储,热数据留在标准存储或 OLAP 集群。

基本信息

作用控制存储成本与合规留存
冷热手段生命周期转低频/归档、OLAP 下沉
执行方式按分区 DROP、按前缀配生命周期
前置条件确认下游依赖与补数窗口
留痕清理动作要有审批记录

典型使用场景

  • ODS 只保留可补数窗口内的原始快照,超期分区按日清理
  • 月末快照单独长期保留,用于月度对账与同比分析
  • DWS 按分析周期滚动清理(如保留 730 天),避免汇总层无限膨胀
  • ADS 按报表实际需要保留,报表下线后同步清理
  • 合规审计:确认需要长期留存的表已单独设置保留策略,不被通用规则误删

保留与清理

保留与清理
-- 清理超出补数窗口的 ODS 快照分区
ALTER TABLE ods_user_snapshot DROP IF EXISTS PARTITION (dt < '2026-07-14');
-- 对象存储侧按前缀配置生命周期(示例,规则匹配前缀)
--   ods/      90 天后过期删除
--   dws/     730 天后转归档
清理前先确认:无下游依赖、不在合规留存范围内、有审批记录

分层保留策略

层保留策略依据
ODS90 天加月末快照追溯与补数窗口
DWD1 至 3 年合规与回溯分析
DWS按分析周期滚动汇总可重算
ADS按报表需要展示需求,可重建
清理动作要有审批记录与执行日志;删除对象存储数据通常不可恢复,建议先转冷存储观察一个周期再真正删除。
超过补数窗口的历史分区被删掉后,如果上游也没有留档,这段历史就永久缺失;删除前要确认补数能力,而不只是确认当前没人读。

易错点

  • 误删仍在补数窗口内的分区:历史无法重算,报表只能留下断档
  • 按层统一设保留期而忽略例外表:有合规留存要求的表被规则带删,形成合规风险
  • 清理脚本没有干跑环节:直接 DROP 才发现下游仍在依赖该分区
  • 只清理了仓库内的分区,没有同步对象存储侧的前缀数据:存储成本并未真正下降

数据来源与参考

  • 阿里《大数据之路:阿里巴巴大数据实践》
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌