场景：配置分库分表离线同步任务
说明 仅MySQL、PolarDB、AnalyticDB支持通过向导模式添加分库分表，其他数据库请切换至脚本模式配置分库分表同步。脚本模式配置分库分表：脚本示例如下，完整的任务配置步骤请参见 通过脚本模式配置离线同步任务。重要 实际运行时，请删除...
T+1多库合并建仓
背景信息 在数据库应用中，当单个关系型数据库RDS（Relational Database Service）的数据量越来越多时，相应的数据查询时间也会延长，影响用户体验。为保证业务可以继续使用RDS数据库，业务端通常会采用分库分表技术，将一个RDS数据库中的...
配置MySQL输入
MySQL输入基于Binlog实时订阅的方式，实时读取您配置的MySQL数据库表数据。本文为您介绍，如何配置MySQL输入，以及配置输入之前需要准备的网络环境及账号权限。前提条件 配置MySQL输入之前，请确保已完成以下规划与准备工作。已配置同步...
MySQL分库分表同步至MaxCompute
尤其是在MySQL分库分表的场景下，上游的数据库和表非常多，都需要同时写入一张MaxCompute表，如果同时配置多个任务会导致配置非常复杂且运维困难。针对以上痛点，DataWorks数据集成一键同步解决方案提供了面向业务场景的同步任务配置化方案...
MySQL分库分表同步至MaxCompute
尤其是在MySQL分库分表的场景下，上游的数据库和表非常多，都需要同时写入一张MaxCompute表，如果同时配置多个任务会导致配置非常复杂且运维困难。针对以上痛点，DataWorks数据集成一键同步解决方案提供了面向业务场景的同步任务配置化方案...
MySQL分库分表同步至Hologres（方案1.0）
需求分析 场景描述：MySQL实例有三个分库分表数据库 order_db01、order_db02、order_db03。业务上有两种逻辑表：订单表 t_order 和用户表 t_user，其中每张逻辑表分别对应三个数据库下的两张物理表。如下图所示总共3个物理库，12张分表，...
MySQL分库分表同步至Hologres（方案2.0）
需求分析 场景描述：MySQL实例有三个分库分表数据库 order_db01、order_db02、order_db03。业务上有两种逻辑表：订单表 t_order 和用户表 t_user，其中每张逻辑表分别对应三个数据库下的两张物理表。如下图所示总共3个物理库，12张分表，...
注意事项
如果数据库分片集群是分库分表模式，则所有数据库分表都需要配置分库分表规则，如果数据库分片中只有单表，分库分表规则可以直接配置 0 即可。在如下配置中，single_table 会路由到 group_00 分片：使用限制 仅支持 DML 语句（INSERT、...
离线同步能力说明
数据集成的离线同步功能为您提供数据读取（Reader）和写入插件（Writer），方便您通过定义来源与去向数据源，并结合DataWorks调度参数使用，将源端数据库中全量或增量数据的同步至目标数据库中。本文为您介绍离线同步的相关能力。使用限制 ...
数据传输作业：数据集成
实时同步 DataWorks提供的实时数据同步功能，使用单表或整库同步方式，将源端数据库中部分或全部表的数据变化实时同步至MaxCompute中，实现MaxCompute实时保持和源库的数据对应。一个实时同步任务支持多个转换插件进行数据清洗，并支持多个...
通过脚本模式配置离线同步任务
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。离线同步支持的数据源及其配置详情请参见 支持的数据源与读写插件。说明 数据...
通过向导模式配置离线同步任务
您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。离线同步支持的数据源及其配置详情请参见 支持的数据源与读写插件。说明 数据...
数据集成侧同步任务能力说明
说明 支持的变量解释：DATASOURCE_NAME_SRC：源端数据源名称 DB_NAME_SRC：源端数据库名称 TABLE_NAME_SRC：源表名称 DATASOURCE_NAME_DEST：目标端数据源名称 DB_NAME_DEST：目标端数据库名称 TABLE_NAME_DEST：目标表名称 DB_NAME_SRC_...
Map模型
} } 处理分库分表数据的Demo示例（适用于Map或MapReduce模型）@Component public class ScanShardingTableJobProcessor extends MapJobProcessor {@Service private XXXService xxxService;private final int PAGE_SIZE=500;static class ...
MapReduce模型
例如1024个桶，数据库每添加一行记录时，将订单号或者ID进行hash，例如订单号%1024，落在bucket字段中。基本上每个桶是平均的，针对每个桶，都可以通过以下SQL语句全量查询结果。select*from Tab1 where bucket=xxx;以下为示例代码：@...
MapReduce模型
} } 处理分库分表数据的Demo示例（适用于Map或MapReduce模型）@Component public class ScanShardingTableJobProcessor extends MapJobProcessor {@Service private XXXService xxxService;private final int PAGE_SIZE=500;static class ...
分库分表
数据库访问代理在后端将数据量较大的数据表水平拆分到各个 RDS 数据库中，后端的这些 RDS 数据库被称为分库，分库中的表被称为分表。拆分后，每个分库负责一份数据的读写操作，从而有效的分散了整体访问压力。在系统扩容时，只需要水平增加...
数据同步模版
分库分表合并 当同一份业务数据分散在不同的数据库或者业务表时，我们往往需要用到分库分表合并的能力，将表结构相似的分库分表的数据同步到一张目标表中。Flink CDC可以自动同步源中所有分库分表的全量和增量数据（包括新增的符合正则表达...
MySQL分库分表实践
尤其是在MySQL分库分表的场景下，上游的数据库和表非常多，都需要同时写入一张Hologres表，如果要同时配置多个任务则会导致配置非常复杂且运维困难。针对以上痛点，阿里云DataWorks数据集成一键同步解决方案提供了面向业务场景的同步任务...
RDS/PolarDB 数据源配置分库分表
一般用户的分库分表分两种情况：单库多表：database1 table1、table2、table3、table4.多库多表：database1 database2 database3.table1、table2、table3、table4.table1、table2、table3、table4.table1、table2、table3、table4.这两种...
RDS/PolarRDB 数据源配置分库分表
一般用户的分库分表分两种情况：单库多表：database1 table1、table2、table3、table4.多库多表：database1 database2 database3.table1、table2、table3、table4.table1、table2、table3、table4.table1、table2、table3、table4.这两种...
CREATE DATABASE
CREATE DATABASE语句用于创建数据库，并可以指定数据库的默认属性（如数据库默认字符集，校验规则等）。语法 create_database_stmt:CREATE {DATABASE|SCHEMA}[IF NOT EXISTS]database_name[database_option_list]database_option_list:...
管理MySQL Catalog
例如，有一个分库分表的MySQL数据库，包括user01、user02和user99等多个表，分散在db01~db10等数据库中，且所有表的Schema都相互兼容，则可以通过如下正则表达式的库名表名来访问到所有user的分库分表。SELECT.FROM `db.*`.`user.*`/*+...
自定义 HINT
HINT 作为一种 SQL 补充语法，在关系型数据库中扮演着非常重要的角色。它允许用户通过相关的语法影响 SQL 的执行方式，从对 SQL 进行特殊的优化。同样，数据访问代理也提供了自定义的 HINT 语法。HINT 使用基本语法：/*+DBP:hint 语句*/SQL...
应用场景
业务复杂度高是该类业务的典型特征 典型的应用场景如下：分库分表后的跨数据库分布式事务 例如支付宝的交易服务，随着业务规模的增大，单个交易流水表已经不能满足业务需求，需要通过分库分表实现数据水平拆分。但是水平拆分后，单表的数据...
SQL 路由
在分库分表模式下，数据访问代理会根据拆分键（即拆分字段）以及 SQL 语义把 SQL 语句分发到底层中各个存储数据的分表进行执行。执行结束后，数据访问代理会将从各个分表获取的数据合并，然后返回给用户。本文介绍在分库分表场景中数据访问...
拆分函数概述
PolarDB-X 1.0 是一个支持既分库又分表的数据库服务。本文将介绍 PolarDB-X 1.0 拆分函数的相关信息。拆分方式 在 PolarDB-X 1.0 中，一张逻辑表的拆分方式由拆分函数（包括分片数目与路由算法）与拆分键（包括拆分键的 MySQL 数据类型）...
PolarDB-X 1.0的分库分表是什么意思？
关于 PolarDB-X 1.0 的分库分表的相关说明，请参见 拆分函数概述。
应用场景
该场景可实现：在离线一体化 支持数据实时增删改、具备在线分析和ETL计算一体化，实现大数据与数据库的融合。通过资源组隔离让在离线计算任务不相互影响，保证业务稳定运行。计算存储资源弹性 采用计算存储分离架构，计算资源和存储资源按...
数据归档
归档范围 选择归档源端数据库中部分表（部分归档）或者归档源端数据库中所有表（整库归档）。自定义变量 可选项。通过定义变量和设置时间偏移量筛选表中符合条件的行进行归档。执行方式 选择 立即执行/定时执行/周期执行 设置任务执行方式...
数据清理
背景信息 ODC 支持在源数据库中的数据归档到目标数据库后，删除源数据库中的数据，以提高数据库查询性能，降低在线存储成本。本文档旨在介绍如何通过提交数据清理工单实现归档数据。原理介绍 前提条件 清理的表中必须包含主键。注意事项 ...
聚合支付方案
解决方案 阿里云通过多款云数据库产品为利楚扫呗制定以下解决方案：方案解读：使用DRDS分库分表将数据库进行水平拆分，有效解决订单的存储上限及业务高峰时的高并发压力，借助了DRDS对MySQL语法的高度兼容能力，轻松从原来单体数据库升级到...
逻辑库
等于1 等于1时，仅存在分表的单个数据库会抽取成逻辑库。使用场景 如下为典型的逻辑库场景：单库-分表 分库-分表 分库-不分表 注意事项 SQL Console数据查询、结构设计、数据导出、数据变更等功能支持选择物理库或者逻辑库操作。选择逻辑库...
分布式序列
配置分表规则 在数据库中添加 dbp_sequence 表的分表规则，以下是以 100 个分片 100 个分表，以 sharding_col 字段 hash 规则为示例：全局序列 通过配置分布式序列，获取全局序列的核心步骤如下：在 DB 中创建 dbp_sequence 表。...
使用全局二级索引
索引分库分表子句：索引表的分库分表算法，与 CREATE TABLE 中分库分表子句的语法一致。示例#建表时定义 GSI CREATE TABLE t_order(`id` bigint(11)NOT NULL AUTO_INCREMENT,`order_id` varchar(20)DEFAULT NULL,`buyer_id` varchar(20)...
分库分表问题
常见分库分表问题列表：分库分表是否支持多个拆分字段 分库分表是否支持跨库 JOIN 分库分表对拆分库表的数量是否有限制 分库分表是否支持多个拆分字段 数据访问代理分库分表功能支持多个拆分字段，但是如果配置了拆分字段，后续执行 SQL 均...
数据库库表重命名
适用场景 默认情况下，被迁移或同步的对象（例如数据库、表等）在源端和目标端的名称相同，您可以通过数据传输提供的对象名称重命名功能，设置被迁移或同步的对象在目标端的名称，实现源端和目标端之间数据库的库名、表名的映射。...
如何使用HINT（5.2及以下版本适用）
如果同一时间长时间执行的SQL过多，可能消耗大量的数据库资源，从而导致无法正常使用数据库服务。所以，对于长时间执行的SQL语句，尽量对SQL语句进行优化。指定分库执行SQL 在使用 PolarDB-X 1.0 的过程中，如果遇到某个 PolarDB-X 1.0 不...
基于 DataX 完成数据访问代理数据迁移
建库建表 登录数据访问代理控制台页面，选择 数据库，单击 创建数据库。在弹出的 创建数据库 窗口中，选择实例，单击 创建。进入 选择数据节点 页面后，根据需要选择 MySQL 或 OceanBase 的节点，单击 下一步。根据提示，填写或选择数据库...
基本概念
数据库 database 表示数据访问代理的逻辑数据库。以这个作为访问的入口，通过分库分表、读写分离等规则可以请求到后端真实的物理数据库。数据表 data table 表示数据访问代理的逻辑表，应用访问数据访问代理时 SQL 中的表即数据表。一个...
- 产品推荐
- 这些文档可能帮助您