数据湖管理FAQ
Lakehouse相关问题 什么是Lakehouse？Lakehouse数据入湖时，对线上RDS有压力吗？如何控制建仓的限流能力？Lakehouse工作负载为什么运行失败，又没有S park Log 日志可以看？元数据发现相关问题 为什么配置了元信息发现，并在“手动执行”...
Tunnel命令常见问题
导入数据的最后一列为什么会多出\r符号？使用Tunnel Upload命令上传数据时，默认用逗号进行列分割，但是数据中有逗号，这种情况如何分割？使用Tunnel Upload命令上传数据时，如果数据使用空格作为列分隔符，或需要对数据做正则表达式过滤时...
Kafka数据源
实时同步写入数据到Kafka时，写入的格式为内置的JSON格式，写入数据为包含数据库变更消息的数据、业务时间和DDL信息的所有数据，数据格式详情请参见 附录：消息格式。同步任务类型 写入Kafka value 的格式 源端字段类型 写入时的处理方式 ...
常见问题
问题分类 常见问题分为如下几种类型：计费问题 性能和规格问题 预检查问题 更多预检查问题，请参见 预检查及修复方法。数据库连接问题 数据同步问题 数据迁移问题 数据订阅问题 其他问题 说明 若您有其他疑问或需求，可以 通过钉钉（钉钉...
COPY
FORMAT 选择要读取或者写入的数据格式：text、csv（逗号分隔值）或者 binary。默认是 text。FREEZE 请求复制已经完成了行冻结的数据，就好像在运行 VACUUM FREEZE 命令之后复制。这是为了初始数据载入的性能而设计的。只有被载入表已经在...
纠删码
它能通过一定的算法将k个原始数据块计算出m个冗余数据块，只要在这 k+m 个数据块中选择任意k个数据块就能计算得到所有的原始数据。当 k=4，m=2 时，在存储效率上等价于1.5副本，并可以允许最多2个数据块损坏。因此纠删码相比于多副本，可以...
常见问题
常见原因是Kafka中数据通过表结构给出的字段和格式解析失败，报错信息会给出解析失败的具体位置。为什么程序无法连接ClickHouse？常见原因及解决方案如下。常见原因1：VPC网络、公网网络环境不对。同一VPC内可用内网连接，不在同一VPC内需...
PolarDB MySQL版迁移至Kafka
投递到Kafka的数据格式 根据需求选择同步到Kafka实例中的数据存储格式。如果您选择 DTS Avro，根据DTS Avro的schema定义进行数据解析，schema定义详情请参见 DTS Avro的schema定义。如果您选择 Canal Json，Canal Json的参数说明和示例请...
自建Oracle迁移至阿里云消息队列Kafka版
投递到Kafka的数据格式 根据需求选择迁移到Kafka实例中的数据存储格式。如果您选择 DTS Avro，根据DTS Avro的schema定义进行数据解析，schema定义详情请参见 DTS Avro的schema定义。如果您选择 Shareplex Json，Shareplex Json的参数说明和...
PolarDB-X 2.0迁移至阿里云消息队列Kafka
投递到Kafka的数据格式 根据需求选择迁移到Kafka实例中的数据存储格式。如果您选择 DTS Avro，根据DTS Avro的schema定义进行数据解析，schema定义详情请参见 DTS Avro的schema定义。如果您选择 Canal Json，Canal Json的参数说明和示例请...
PolarDB-X 1.0迁移至阿里云消息队列Kafka
投递到Kafka的数据格式 根据需求选择迁移到Kafka实例中的数据存储格式。如果您选择 DTS Avro，根据DTS Avro的schema定义进行数据解析，schema定义详情请参见 DTS Avro的schema定义。如果您选择 Canal Json，Canal Json的参数说明和示例请...
MySQL数据源
MySQL数据源为您提供读取和写入MySQL的双向通道，本文为您介绍DataWorks的MySQL数据同步的能力支持情况。支持的MySQL版本 离线读写：支持MySQL 5.5.x、MySQL 5.6.x、MySQL 5.7.x、MySQL 8.0.x，兼容 Amazon RDS for MySQL、Azure MySQL。离...
RDS MySQL迁移至Tair/Redis
数据传输服务DTS（Data Transmission Service）支持将MySQL数据库（例如自建MySQL或RDS MySQL）迁移至 云原生内存数据库Tair 或 云数据库Redis，降低后端关系型数据库的负载，从而提升用户体验。本文以 RDS MySQL 实例为源，云数据库Redis ...
从Oracle迁移应用至阿里云PolarDB全流程指南
数据库和应用采集 登录阿里云官方网站，在 ADAM官网 下载 数据库采集器 和 应用采集器，按照 数据库采集 进行Oracle数据库采集，应用采集 进行Oracle应用采集，生成相应的zip格式的数据压缩包，便于后续上传到阿里云ADAM官网进行分析使用。...
OSS数据源
不写"nullFormat"这个参数，等同于“未配置”，代表来源是什么数据就直接按照什么数据写入目标端，不做任何转换。否 无 skipHeader 类CSV格式文件可能存在表头为标题情况，需要跳过。默认不跳过，压缩文件模式下不支持 skipHeader。否 ...
RDS MySQL同步至Tair/Redis
数据传输服务DTS（Data Transmission Service）支持将MySQL数据库（例如自建MySQL或RDS MySQL）同步至 云原生内存数据库Tair 或 云数据库Redis，降低后端关系型数据库的负载，从而提升用户体验。本文以 RDS MySQL 实例为源，云数据库Redis ...
Db2 for LUW同步至自建Kafka集群
投递到Kafka的数据格式 选择DTS投递到kafka的格式，默认为 DTS Avro，更多信息请参见 Kafka集群的数据存储格式。投递到Kafka Partition策略 根据业务需求选择投递的策略，更多信息请参见 Kafka Partition同步策略说明。目标库对象名称大...
Db2 for LUW迁移至阿里云消息队列Kafka版
投递到Kafka的数据格式 迁移到Kafka实例中的数据存储格式。当前仅支持选择 DTS Avro，即根据DTS Avro的Schema定义进行数据解析。Schema定义详情，请参见 DTS Avro的schema定义。投递到Kafka Partition策略 根据业务需求选择迁移的策略，...
常见问题
本文汇总了StarRocks使用时的常见问题。业务测试评估 硬件资源有什么要求？软件配置有什么要求？数据模型和表定义 生产环境下的副本数应该设置为多少？如何分区？如何分桶？如何设计排序键？如何合理的选择数据类型？数据导入常见问题 业务...
新功能发布记录
数据格式说明 支持用户自由设置 cluster_id（序列化方式：Default/DefaultExtendColumnType），方便用户根据实际情况进行处理。该功能适用于数据清洗、历史库等业务场景 支持动态变更项目名称，方便用户进行项目管理 修改数据迁移项目的...
从自建Redis迁移至Tair实例
DTS支持全量数据迁移以及增量数据迁移，同时使用这两种迁移类型可以实现在自建应用不停服的情况下，平滑地完成自建Redis数据库的迁移上云。前提条件 已创建源自建Redis实例和目标 云原生内存数据库Tair。目标 云原生内存数据库Tair 实例的...
2020年
本文介绍 PolarDB PostgreSQL版（兼容Oracle）的产品功能动态，分别为内核小版本、控制台、时空数据库和API的更新说明。说明 您可通过如下语句查看 PolarDB PostgreSQL版（兼容Oracle）的内核小版本的版本号：show polar_version;2020年12...
从自建Redis迁移至MyBase Redis
DTS支持全量数据迁移以及增量数据迁移，同时使用这两种迁移类型可以实现在自建应用不停服的情况下，平滑地完成自建Redis数据库的迁移上云。本文是以新版数据传输服务DTS（Data Transmission Service）控制台为例，旧版数据传输服务DTS...
云数据库Redis间的迁移
本文介绍如何使用数据传输服务DTS（Data Transmission Service，简称DTS），实现 云数据库Redis 间的迁移。前提条件 已创建源和目标 云数据库Redis。说明 源和目标 云数据库Redis 的创建方式，请参见 创建Redis实例。支持的版本，请参见 ...
PolarDB PostgreSQL版间的迁移
通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版 集群间的迁移。前提条件 已创建源和目标 PolarDB PostgreSQL版 数据库集群，详情请参见 创建PolarDB PostgreSQL版数据库集群。已将源和目标 PolarDB ...
跨云账号迁移云数据库Redis实例
DTS支持全量数据迁移和增量数据迁移，可以实现在不停服的情况下，平滑地完成数据库的迁移。前提条件 目标云数据库Redis可用的存储空间需大于源云数据库Redis已使用的存储空间。源云数据库Redis的引擎版本为4.0（社区版）或5.0（社区版、...
PolarDB PostgreSQL版（兼容Oracle）间的迁移
通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版（兼容Oracle）集群间的迁移。背景信息 PolarDB PostgreSQL版（兼容Oracle）作为一款企业级关系型数据库管理系统，具有广泛的应用和强大的社区支持。每个...
离线同步常见问题
文档概述 问题分类 相关文档 离线同步任务运维常见问题 为什么数据源测试连通性成功，但是离线同步任务执行失败？如何切换数据集成任务执行资源组？脏数据如何排查和定位？如何查看脏数据？如果离线同步传输数据时，脏数据超出限制，是否...
使用SDK示例代码消费订阅数据
持久化后的消费位点是什么格式的数据？消费位点在持久化处理后，将返回JSON格式的数据。其中，持久化后的消费位点的格式为Unix时间戳，您可以直接将其传回SDK进行使用。如下返回数据中，"timestamp"后的 1700709977 即为持久化后的消费位点...
从自建Redis迁移至阿里云Redis
DTS支持全量数据迁移以及增量数据迁移，同时使用这两种迁移类型可以实现在自建应用不停服的情况下，平滑地完成自建Redis数据库的迁移上云。前提条件 已创建源自建Redis实例和目标阿里云Redis实例。目标阿里云Redis实例的创建方式，请参见 ...
文档修订记录
DataWorks数据安全治理路线 2023年12月更新记录 时间 特性 类别 描述 产品文档 2023.12.29 新增功能 数据开发 若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务，需先将已创建的数据源或集群绑定至数据开发...
使用SDK示例代码消费订阅数据
持久化后的消费位点是什么格式的数据？消费位点在持久化处理后，将返回JSON格式的数据。其中，持久化后的消费位点的格式为Unix时间戳，您可以直接将其传回SDK进行使用。如下返回数据中，"timestamp"后的 1700709977 即为持久化后的消费位点...
移动图标层
当移动图标层请求失败时 数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 数据响应...
OceanBase（MySQL模式）迁移至PolarDB MySQL版
PolarDB MySQL版 集群是具备高性能、海量存储、安全可靠的数据库服务，本文为您介绍如何使用数据传输服务DTS（Data Transmission Service）将OceanBase数据库迁移至 PolarDB MySQL版 集群。前提条件 源OceanBase数据库需为社区版，且为4.X ...
OceanBase（MySQL模式）迁移至RDS MySQL
数据传输服务DTS（Data Transmission Service）支持将OceanBase数据库迁移至 RDS MySQL 实例，帮助您解决数据库运维的烦恼。前提条件 源OceanBase数据库需为社区版，且为4.X 版本。已创建存储空间须大于源OceanBase数据库的目标 RDS MySQL ...
热力线层
当热力线层请求失败时 热力线层请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 数据响应结果...
路网轨迹层
数据面板 该组件数据为GeoJson格式，关于数据格式以及数据获取方法，请参见 地图数据格式 和基础平面地图的 地理边界geojson数据接口。配置字段说明 字段 说明 geometry 定义type类型为"LineString。coordinates 定义两个或多个经纬度坐标...
轨迹层
数据面板 该组件数据为GeoJson格式，关于数据格式以及数据获取方法，请参见 地图数据格式。配置字段说明 字段 说明 geometry 定义 type 类型为"LineString。coordinates 定义两个或多个经纬度坐标位置。properties 定义轨迹起点和终点的...
基础散点图
当基础散点图接口描述请求失败时 数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据。具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 ...
气泡图
当气泡图接口描述请求失败时 数据接口请求失败时（请求失败的情况可能是：网络问题或接口报错等）返回并经过过滤器处理后抛出的事件，同时抛出处理后的JSON格式的数据.具体数据示例请参见画布编辑器中组件右侧配置面板 数据 页签的 数据...
- 产品推荐
- 这些文档可能帮助您