文档

Dataphin管道任务写入ClickHouse表,发现写入分区的数据量少于ClickHouse表分区总量

更新时间:
一键部署

概述

本文主要介绍管道任务写入ClickHouse表,发现写入分区的数据量少于ClickHouse表分区总量的原因。

详细信息

Dataphin管道任务写入ClickHouse表,发现写入分区的数据量少于ClickHouse表分区总量,是什么原因?分析如下:

  1. 出现这种写入量少于分区count()数量的情况,首先需要排查是否有其他任务在往表的当前分区写入数据。
  2. 如果排查了其他的写入方式,只有当前管道任务在往表分区写入数据,那么需要检查一下是否执行了truncate table的操作,truncate table可能会删不干净数据,这种情况下再次追加再去count(),数量自然会大于本次的写入量。
  3. 如果需要执行删除分区数据的操作,建议使用alter table的操作。
    alter table table_name delete where ds='date'

适用于

  • Dataphin

说明:本文适用于公共云v3.6.3版本数据集成模块。

  • 本页导读
文档反馈