数据访问代理连接器概述

数据访问代理连接器基于标准的 JDBC 接口...分库分表路由指定 可通过自定义 HINT 语句,指定 SQL 语句访问某一特定的分库分表。拦截器扩展 数据访问代理连接器具有灵活的扩展机制,可通过实现拦截器(Interceptor)接口,提供更多的扩展功能。

场景:配置分库分表离线同步任务

说明 仅MySQL、PolarDB、AnalyticDB支持通过向导模式添加分库分表,其他数据库请切换至脚本模式配置分库分表同步。脚本模式配置分库分表:脚本示例如下,完整的任务配置步骤请参见 通过脚本模式配置离线同步任务。重要 实际运行时,请删除...

使用说明

本文介绍如何使用数据访问代理连接器来进行 SQL 链路追踪、指定分库分表路由和拦截器扩展。SQL 链路追踪 使用以下 HINT 语句,根据 traceId 和 RpcId 对 SQL 数据库进行追踪:/*+DBP:$SYS={TRACE(TraceId#RpcId)}*/select*from{table_name}...

历史版本常见问题

版本范围 5.4.1-*5.4.12-16444832(不包含)查询分片缺失及查询数据不正确问题 现象描述 在小于等于负整数的范围查询场景中,当分库分表列的类型是整数时,对于类似id的范围查询,分库分表路由结果会有概率出现个别分表缺失,导致数据扫描...

配置MySQL输入

MySQL节点支持分库分表,您可以单击 添加分库分表数据源,从下拉列表中选择相应的 数据源 和 表,添加多个数据源,同时进行同步。重要 所选表的Schema需要保持一致,否则执行会报错。单击工具栏中的 图标。常见问题 实时同步MySQL数据源的...

MySQL分库分表同步至MaxCompute

本文以MySQL分库分表实时写入MaxCompute场景为例,为您介绍如何通过数据集成同步分库分表数据至MaxCompute。前提条件 已完成MaxCompute和MySQL数据源配置。您需要将数据库添加至DataWorks上,以便在同步任务配置时,可通过选择数据源名称来...

MySQL分库分表同步至MaxCompute

本文以MySQL分库分表实时写入MaxCompute场景为例,为您介绍如何通过数据集成同步分库分表数据至MaxCompute。前提条件 已完成MaxCompute和MySQL数据源配置。您需要将数据库添加至DataWorks上,以便在同步任务配置时,可通过选择数据源名称来...

MySQL分库分表同步至Hologres(方案1.0)

需求分析 场景描述:MySQL实例有三个分库分表数据库 order_db01、order_db02、order_db03。业务上有两种逻辑表:订单表 t_order 和用户表 t_user,其中每张逻辑表分别对应三个数据库下的两张物理表。如下图所示总共3个物理库,12张分表,...

T+1多库合并建仓

为保证业务可以继续使用RDS数据库,业务端通常会采用分库分表技术,将一个RDS数据库中的单张表数据拆分到多个数据库的多张表中。上述方案可解决因数据量大而导致的用户体验问题,但在对分库分表数据进行大数据分析时,逻辑上的一个表被拆成...

MySQL分库分表同步至Hologres(方案2.0)

需求分析 场景描述:MySQL实例有三个分库分表数据库 order_db01、order_db02、order_db03。业务上有两种逻辑表:订单表 t_order 和用户表 t_user,其中每张逻辑表分别对应三个数据库下的两张物理表。如下图所示总共3个物理库,12张分表,...

STR_HASH

假设需要截取order_id的第3个字符(即starIndex=2)与第7个字符(即endIndex=7)之间子串来计算分库分表路由,则您可以使用如SQL进行建表。create table test_str_hash_tb(id int NOT NULL AUTO_INCREMENT,order_id varchar(32)NOT NULL,...

分库分表问题

常见分库分表问题列表:分库分表是否支持多个拆分字段 分库分表是否支持跨库 JOIN 分库分表对拆分库表的数量是否有限制 分库分表是否支持多个拆分字段 数据访问代理分库分表功能支持多个拆分字段,但是如果配置了拆分字段,后续执行 SQL 均...

STR_HASH

假设需要截取order_id的第3个字符(即starIndex=2)与第7个字符(即endIndex=7)之间子串来计算分库分表路由,则您可以使用如SQL进行建表。create table test_str_hash_tb(id int NOT NULL AUTO_INCREMENT,order_id varchar(32)NOT NULL,...

数据同步模版

分库分表合并 当同一份业务数据分散在不同的数据库或者业务表时,我们往往需要用到分库分表合并的能力,将表结构相似的分库分表的数据同步到一张目标表中。Flink CDC可以自动同步源中所有分库分表的全量和增量数据(包括新增的符合正则表达...

MySQL分库分表实践

本文为您介绍如何通过DataWorker数据集成和Flink两种方式将MySQL分库分表数据写入至Hologres同一个表中,通过本实践您可以根据业务场景选择合适的方式将MySQL分库分表数据写入Hologres。背景信息 实际业务场景下数据同步通常不能通过一个...

Sharding 功能介绍

分库分表规则 Hash 取模:将数值对分库/分表数量进行取模,得到的值作为分库位/分表位。如分表规则为 Hash 取模,分表总数为 100,值为 230,则分表位计算结果为:230%100=30。字段类型为数字。字符串截断(MySQL 风格):将值通过 MySQL ...

自定义 HINT

自定义路由 HINT 分库分表场景下使用数据访问代理时,每一个 SQL 请求语句中都需要存在分库分表字段。在无法获得分库分表字段场景下,如果需要请求指定数据分片、分表执行 SQL 语句时,可以通过自定义路由 HINT 实现。自定义路由 HINT 基本...

扫描全部/部分分库分表

本文介绍了扫描全部/部分分库分表的HINT语法和示例。除了可以将SQL单独下发到一个或多个分库执行,PolarDB-X 还提供了扫描全部/部分分库与分表的 SCAN HINT。使用 SCAN HINT,您可以一次将SQL下发到每一个分库执行,比如查看某个分库上的...

PolarDB-X 1.0的分库分表是什么意思?

关于 PolarDB-X 1.0 的分库分表的相关说明,请参见 拆分函数概述。

连接 Navicat 客户端

功能说明 数据访问代理与 Navicat 完成连接后,在本地 Navicat 客户端中,支持与不支持的操作分别如下:支持访问授权的数据库 支持双击打开数据表(单库单表、分库分表均支持)支持查询数据表结构(单库单表、分库分表均支持)支持在 SQL ...

扫描全部/部分分库分表

本文介绍了扫描全部/部分分库分表的HINT语法和示例。本文适用于 PolarDB-X 1.0 5.3及以上版本,其他版本请参见 如何使用HINT(5.2及以下版本适用)。除了可以将SQL单独下发到一个或多个分库执行,PolarDB-X 1.0 还提供了扫描全部/部分分库...

RDS/PolarDB 数据源配置分库分表

一般用户的分库分表分两种情况:单库多表:database1 table1、table2、table3、table4.多库多表:database1 database2 database3.table1、table2、table3、table4.table1、table2、table3、table4.table1、table2、table3、table4.这两种...

RDS/PolarRDB 数据源配置分库分表

一般用户的分库分表分两种情况:单库多表:database1 table1、table2、table3、table4.多库多表:database1 database2 database3.table1、table2、table3、table4.table1、table2、table3、table4.table1、table2、table3、table4.这两种...

查看分库信息

您可以通过数据访问代理控制台查看数据库分库分表信息以及后端各个物理分库名与所在的物理数据源(RDS 或 OceanBase)。操作步骤如下:进入数据访问代理控制台,单击左侧导航栏上的 数据库 后,可在右侧的数据库列表页面查看数据库相关...

逻辑

逻辑库是由单个或多个物理库配置而成,可便捷地进行分库分表的操作。本文介绍逻辑库的定义、应用场景等信息。定义 当业务达到一定规模后,需要通过分库分表来进行负载均衡,从而达到在大量业务压力场景下具有平滑支撑的能力。当库的数量...

错误代码

如果检查分库分表没有问题,请确认是否已生效了数据库配置。ERROR 7002:Unable to find table rule 问题描述:无法找到表的规则,查看用户 SQL 中的表有没有在数据访问代理控制台上配置分表规则。排查方法:检查分库分表规则,是否有配置...

应用场景

业务复杂度高是该类业务的典型特征 典型的应用场景如下:分库分表后的跨数据库分布式事务 例如支付宝的交易服务,随着业务规模的增大,单个交易流水表已经不能满足业务需求,需要通过分库分表实现数据水平拆分。但是水平拆分后,单表的数据...

分库分表

数据拆分 数据库访问代理支持库级拆分,表级拆分和分库分表拆分,通过数据库访问代理 DDL 语句指定,具体操作参见 DDL 语法。数据访问代理根据指定拆分键的值,采用特定的算法进行计算,然后根据计算结果将数据存储到对应的分库/分表中。...

分布式序列

数据访问代理提供了生成分布式环境下的分布式唯一序列(Sequence)的能力,该序列有全局唯一、全局递增的特性,常用于分库分表下的主键、业务主键生成的场景。重要 数据访问代理分布式序列功能是基于数据库实现,如果需要使用该功能,需要...

某互联网保险公司保险订单迁移MySQL到Lindorm

方案亮点:从MySQL上千张物理分库分表到Lindorm单表;Lindorm完全线性扩展能力从容应对业务量&数据量的快速增长;Lindorm原生存储计算分离架构从容应对大促的弹性扩缩容需求。业务挑战 保单MySQL库业务增速快,需要不断分库分表,运维压力...

分布式序列问题

分库分表的分布式序列仅保证单个分片的序列 ID 唯一,如果需要确保分库分表的分布式序列全局唯一,可以在序列 ID 中拼接分库分表位,以此保证全局唯一。分布式序列使用注意事项 在运行过程中,不能调整 dbp_sequence 表的数据,如果进行了...

主键与唯一键(DRDS模式)

分库分表 Global主键 在分库分表中,如果主键列包含了所有拆分键,该主键就是Global主键,能保证全局唯一。示例2:分库分表中的Global主键 表user_tbl中,分库的拆分键为 id,分表的拆分键为name,主键列(id,name,addr)包含了所有拆分键,...

功能特性

数据访问代理兼容 MySQL 协议和语法,支持分库分表、平滑扩容、服务升降配、透明读写分离和分布式事务等特性,具备分布式数据库全生命周期的运维管控能力。分库分表 支持 RDS、OceanBase、MySQL 的分库分表。在创建分布式数据库后,只需...

管理MySQL Catalog

例如,有一个分库分表的MySQL数据库,包括user01、user02和user99等多个表,分散在db01~db10等数据库中,且所有表的Schema都相互兼容,则可以通过如下正则表达式的库名表名来访问到所有user的分库分表。SELECT.FROM `db.*`.`user.*`/*+...

使用全局二级索引

索引分库分表子句:索引表的分库分表算法,与 CREATE TABLE 中分库分表子句的语法一致。示例#建表时定义 GSI CREATE TABLE t_order(`id` bigint(11)NOT NULL AUTO_INCREMENT,`order_id` varchar(20)DEFAULT NULL,`buyer_id` varchar(20)...

能否更换PolarDB-X 1.0分库分表的拆分键?

若您的 PolarDB-X 1.0 实例...若您的 PolarDB-X 1.0 实例版本低于V5.4.7-16000638,不支持变更已创建完成的分库分表的拆分键。如果确实有需要变更表的拆分键,可以采用以下的临时办法:选择新的分库键并重新建表;然后将原表的数据进行导入。

逻辑表

当业务达到一定规模后,需要通过分库分表来进行负载均衡,从而达到在大量业务压力场景下具有平滑支撑的能力。本文介绍逻辑表的定义、应用场景、配置说明等信息。注意事项 逻辑表的操作必须在对应的逻辑库下进行。说明 逻辑表可当做单表直接...

应用场景

大数据存储与分析 传统的数据分析场景下,用户需要把数据从在线数据库(Operational Database)复制到离线数据仓库(Data Warehouse)上之后再进行数据分析,这需要海量数据的多次复制、传输、加载和存储等多方面工作。HybridDB for MySQL...

DDL 问题

DDL 任务创建常见问题 SQL 格式错误 SQL 语法错误 DDL 任务执行常见问题 无法获取分库分表拓扑 找不到物理数据节点 SQL 执行失败 DDL 任务创建常见问题 SQL 格式错误 错误信息:sqlContent Format error.must end with;解决方法:每条 SQL ...

应用场景

交易支付透明拆分 交易支付是蚂蚁集团最核心的一个业务,最初采用的是分库分表的解决方案。分库分表的方案给核心业务带来了水平扩展的能力,同时也带来了灰度升级的能力,让核心业务的系统性风险大大降低。但随着支付宝业务的飞速发展,...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 MongoDB 版 云数据库 RDS 数据库备份 DBS 云数据库 Redis 版 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用