首页/数据/数据工程与 ETL 速查/Sqoop 增量导入与退出维护
本包目录(311 条)
管道基础52 条Kafka64 条调度与编排40 条数仓建模52 条数据质量50 条
CDC 与同步53 条

Sqoop 增量导入与退出维护

Sqoop 是 Hadoop 生态的 RDBMS 导入导出工具:import 把表搬进 HDFS/Hive,支持 --incremental append(按自增列)与 lastmodified(按时间列)做增量。项目已进入 Apache Attic 停止演进,新项目多改用 DataX、Spark 或 Flink 作业替代。

增量 append 导入示例

增量 append 导入示例
sqoop import --connect jdbc:mysql://10.0.0.5:3306/app \
  --username ro_user --password-file /home/hadoop/.sqoop.pwd \
  --table orders --target-dir /warehouse/ods/orders \
  --incremental append --check-column id --last-value 100000 \
  --split-by id -m 4
append只抽 check-column 大于 last-value 的新行
lastmodified按时间列抽取新增与更新(需同列有索引)
--last-value业务侧维护位点,或用 Sqoop job 保存
维护状态进入 Apache Attic,修复与新特性停滞
两种增量都捕获不到 DELETE:目标端删除同步需要额外机制。

易错点

  • 手工维护 --last-value,漏跑一次就出现数据空洞且难发现
  • 把 Sqoop 当实时同步:它是批式导入,延迟以调度周期计

数据来源与参考

  • Apache Sqoop 官方文档(User Guide:Incremental Imports)
  • Apache Attic(Sqoop 项目状态)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌