首页/数据/数仓建模速查/引擎选型对照:Hive/Spark/Flink/OLAP
湖仓与引擎63 条

引擎选型对照:Hive/Spark/Flink/OLAP

选型按场景分工:离线批处理 Hive 或 Spark、实时计算 Flink、交互分析用 MPP 或列存 OLAP;混用时要明确数据流向与一致性边界。

数仓建模速查数据更新于 2026-10-12

引擎

引擎定位典型场景
Hive离线 SQL 批处理T+1 ETL 与历史加工
Spark内存计算统一引擎复杂 ETL 与机器学习
Flink流批一体实时 CDC 与实时指标
Doris/ClickHouse交互分析看板与即席查询

分工示意

分工示意
CDC -> Flink -> 湖表(silver)
湖表 -> Spark/Hive -> DWS 汇总
DWS 汇总 -> Doris/ClickHouse -> 看板
每引入一个引擎都要配套权限、监控与备份方案,避免形成运维孤岛。

易错点

  • 同一份明细在两套引擎各算一遍,数字对不上

数据来源与参考

  • 阿里《大数据之路:阿里巴巴大数据实践》
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌