首页/数据/数仓建模速查/压缩格式选型与权衡
分层与规范64 条

压缩格式选型与权衡

压缩权衡 CPU 与 IO:Snappy 速度快压缩比中等、Zstd 压缩比高且解压快、Gzip 压缩比高但耗 CPU;中间表与落地表可分别选择。

数仓建模速查数据更新于 2026-10-12

压缩对照

压缩特点适用
Snappy快、压缩比中等中间过程数据
Zstd压缩比高、解压快长期存储
Gzip压缩比高、CPU 高低频归档

参数设置

参数设置
set hive.exec.compress.intermediate=true;
set mapreduce.map.output.compress.codec=org.apache.hadoop.io.compress.SnappyCodec;
set hive.exec.compress.output=true;
压缩格式对上层透明,可以在不改 SQL 的情况下按表调整。

易错点

  • 对已压缩的 ORC 再用 Gzip 包一层,CPU 浪费且无法裁剪

数据来源与参考

  • Hive 官方文档:Compressed Data Storage
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌