首页/数据/数据工程与 ETL 速查/同步积压排查路径
本包目录(311 条)
管道基础52 条Kafka64 条调度与编排40 条数仓建模52 条数据质量50 条
CDC 与同步53 条

同步积压排查路径

同步延迟排查按链路分段:源端位点是否推进、工具消费位点是否推进、中间队列是否有积压、目标端写入是否变慢(锁等待、批量大小、主键冲突、大事务阻塞)。逐段对比“生产速率与消费速率”,比反复调参数更快找到瓶颈。

分段取证

分段取证
# 中间队列:看消费组积压(LAG 列)
kafka-consumer-groups.sh --bootstrap-server kafka1:9092 --describe --group cdc-app

# 源端:看当前位点(8.4+ 为 SHOW BINARY LOG STATUS)
mysql -uroot -p -e "SHOW MASTER STATUS;"
先确认是“全链路慢”还是“单段慢”:分别在源、管道、目标取速率,避免凭感觉在单点加资源。

易错点

  • 只在目标端加大批量与并发,实际瓶颈是某个热点分区的串行处理
  • 把重平衡瞬间的滞后波动当故障,告警噪音掩盖真实问题

数据来源与参考

  • Kafka 官方文档(Consumer group lag)
  • Debezium 官方文档(Monitoring)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌