Dataphin管道任务写入ClickHouse表,发现写入分区的数据量少于ClickHouse表分区总量
更新时间:
概述
本文主要介绍管道任务写入ClickHouse表,发现写入分区的数据量少于ClickHouse表分区总量的原因。
详细信息
Dataphin管道任务写入ClickHouse表,发现写入分区的数据量少于ClickHouse表分区总量,是什么原因?分析如下:
- 出现这种写入量少于分区count()数量的情况,首先需要排查是否有其他任务在往表的当前分区写入数据。
- 如果排查了其他的写入方式,只有当前管道任务在往表分区写入数据,那么需要检查一下是否执行了truncate table的操作,truncate table可能会删不干净数据,这种情况下再次追加再去count(),数量自然会大于本次的写入量。
- 如果需要执行删除分区数据的操作,建议使用alter table的操作。
alter table table_name delete where ds='date'
适用于
- Dataphin
说明:本文适用于公共云v3.6.3版本数据集成模块。
反馈
- 本页导读
文档反馈