场景:配置分库分表离线同步任务

DataWorks支持通过向导模式或脚本模式配置离线同步任务,您可以将分库分表数据同步至目标单表。本文以同步MySQL分库分表数据为例进行说明。前提条件 已准备好要同步的多个数据源,详情请参见 支持的数据源与读写插件。背景信息 分分表...

数据同步模版

分库分表合并 当一份业务数据分散在不同的数据库或者业务表时,我们往往需要用到分库分表合并的能力,将表结构相似的分库分表的数据同步到一张目标表中。Flink CDC可以自动同步源中所有分库分表的全量和增量数据(包括新增的符合正则表达...

MySQL分库分表实践

本文为您介绍如何通过DataWorker数据集成和Flink两种方式将MySQL分分表的数据写入至Hologres一个表中,通过本实践您可以根据业务场景选择合适的方式将MySQL分库分表数据写入Hologres。背景信息 实际业务场景下数据同步通常不能通过一个...

MySQL分库分表同步至Hologres(方案1.0)

需求分析 场景描述:MySQL实例有三个分库分表数据库 order_db01、order_db02、order_db03。业务上有两种逻辑表:订单表 t_order 和用户表 t_user,其中每张逻辑表分别对应三个数据库下的两张物理表。如下图所示总共3个物理库,12张分表,...

MySQL分库分表同步至MaxCompute

本文以MySQL分库分表实时写入MaxCompute场景为例,为您介绍如何通过数据集成同步分库分表数据至MaxCompute。前提条件 已完成MaxCompute和MySQL数据源配置。您需要将数据库添加至DataWorks上,以便在同步任务配置时,可通过选择数据源名称来...

MySQL分库分表同步至MaxCompute

本文以MySQL分库分表实时写入MaxCompute场景为例,为您介绍如何通过数据集成同步分库分表数据至MaxCompute。前提条件 已完成MaxCompute和MySQL数据源配置。您需要将数据库添加至DataWorks上,以便在同步任务配置时,可通过选择数据源名称来...

应用场景

数据库网关与数据管理DMS搭配可为您提供高稳定性、低成本、统一的非阿里云数据库(例如本地IDC自建、其他云厂商的云数据库、其他云厂商云服务器上自建的数据库)的通用管理方案,实现多云统一的数据库管理服务,架构图如下所示。...

数据库库表重命名

适用场景 默认情况下,被迁移或同步的对象(例如数据库、表等)在源端和目标端的名称相同,您可以通过数据传输提供的对象名称重命名功能,设置被迁移或同步的对象在目标端的名称,实现源端和目标端之间数据库的库名、表名的映射。...

数据迁移和同步方案概览

数据库MongoDB提供了多种数据迁移和同步方案,可满足不同业务场景下MongoDB数据库的数据迁移和同步需求。影响 如果实例的数据库小版本过期或不在维护列表内,当执行以下操作时,为保证提供更出色的性能和稳定性,系统会默认将您的数据库...

云原生分布式数据库PolarDB-X 1.0和2.0区别

概述 本文主要介绍云原生分布式数据库PolarDB-X 1.0和2.0的区别。详细信息 PolarDB-X提供1.0中间件形态,以及2.0一体化形态,具体区别如下:PolarDB-X 1.0中间件形态由计算层PolarDB-X实例与存储层私有定制RDS实例组成,通过挂载多个MySQL...

MongoDB 3.4(已停止新购)

使用MongoDB工具将自建数据库迁移至副本集实例 使用MongoDB工具将自建数据库迁移至分片集群实例 使用NimoShake工具将Amazon DynamoDB数据库迁移至阿里云数据库MongoDB 使用MongoDB工具将MongoDB Atlas数据库迁移至阿里云数据库MongoDB 使用...

API概览

本产品(云数据库 ClickHouse 版/2019-11-11)的OpenAPI采用 RPC 签名风格,签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK,开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK不能满足...

产品架构

PolarDB-X 1.0 承担着OLTP在线核心数据库的职责与定位,可与数据集成、数据传输,缓存、大数据生态配合使用。产品架构图 内核架构 PolarDB-X 1.0 由计算层实例与存储层私有定制RDS实例组成,通过挂载多个MySQL进行分库分表水平拆分。如同...

从ECS上的自建MySQL同步至PolarDB MySQL版

说明 如果源或目标数据库是阿里云数据库实例(例如 RDS MySQL、云数据库MongoDB版 等)或ECS上的自建数据库,DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中,您无需手动添加,请参见 DTS服务器的IP...

从通过专线、VPN网关或智能接入网关接入...PolarDB MySQL版

说明 如果源或目标数据库是阿里云数据库实例(例如 RDS MySQL、云数据库MongoDB版 等)或ECS上的自建数据库,DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单或ECS的安全规则中,您无需手动添加,请参见 DTS服务器的IP...

用户权限说明

目标端为 MySQL 数据库、OceanBase 数据库 MySQL 租户等数据库类型时,需要对源端待迁移数据库及 oceanbase 数据库具备 SELECT 权限。重要 仅 OceanBase 数据库 V4.0.0 及之后版本需要添加 oceanbase 数据库的 SELECT 权限。对于 VPC 内 ...

OceanBase 数据库之间的数据迁移

本文为您介绍如何使用数据传输迁移 OceanBase 数据库的数据至 OceanBase 数据库同类型租户中。重要 如果数据迁移项目长期处于非活跃状态(项目状态为 失败、已暂停 或 已完成),受增量日志保留时长等影响,项目可能无法恢复。数据传输将...

从RDS同步至MaxCompute

源库支持的实例类型 执行数据同步操作的MySQL数据库支持以下实例类型:ECS上的自建数据库 通过专线、VPN网关或智能网关接入的自建数据库 通过数据库网关接入的自建数据库 一或不同阿里云账号下的RDS MySQL实例 本文以 RDS实例 为例介绍...

DescribeSynDbTables-查看同步数据库与表

查看同步数据库与表。调试 您可以在OpenAPI Explorer中直接运行该接口,免去您计算签名的困扰。运行成功后,OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求参数 名称 类型 必填 描述 示例值 ...

配置匹配规则

数据同步项目中,仅 OceanBase 数据库 MySQL 租户至 AnalyticDB MySQL、RDS PostgreSQL 实例至 OceanBase 数据库 Oracle 租户 和 OceanBase 数据库 MySQL 租户之间的数据同步 支持通过配置通配规则的方式选择同步对象。在 选择迁移对象 ...

重搭

操作步骤 登录 云数据库专属集群控制台。在页面左上角,选择目标地域。在左侧导航栏,选择 实例列表>Redis,根据实例的架构类型选择迁移方式。场景一:实例类型为主从(非集群)时,选择目标实例 操作 列中的>备库重搭。场景二:实例类型为...

JDBC数据

本文介绍 云数据库 SelectDB 版 与JDBC数据源进行对接使用的流程,帮助您对兼容JDBC协议的数据源进行联邦分析。概述 JDBC Catalog支持通过标准JDBC协议连接其他数据源。连接后,SelectDB会自动同步数据源下的Database和Table的元数据,以便...

水平拆分(PL/Proxy)

PL/Proxy插件包含CLUSTER模式和CONNECT模式,可以帮助您用不同方式访问数据库。前提条件 请确保实例大版本满足要求,本插件具体支持的实例大版本,请参见 支持插件列表。如实例大版本已满足要求,但仍提示不支持,请升级内核小版本,具体...

UNI_HASH

本文将介绍UNI_HASH的使用方式。描述 使用UNI_HASH分时,根据分键...假设有2个物理分DB_0和DB_1),2张逻辑表(a和b),其中a表每1张分表,b表每2张分表。下图展示了分别使用HASH和UNI_HASH进行拆分后,a表和b表进行JOIN的情景:

UNI_HASH

本文将介绍UNI_HASH的使用方式。注意事项 UNI_HASH算法是简单取模,...假设有2个物理分DB_0和DB_1),2张逻辑表(a和b),其中a表每1张分表,b表每2张分表。下图展示了分别使用HASH和UNI_HASH进行拆分后,a表和b表进行JOIN的情景:

CREATE DATABASE

CREATE DATABASE语句用于创建数据库,并可以指定数据库的默认属性(如数据库默认字符集,校验规则等)。语法 create_database_stmt:CREATE {DATABASE|SCHEMA}[IF NOT EXISTS]database_name[database_option_list]database_option_list:...

注意事项

如果数据库分片集群是分库分表模式,则所有数据库分表都需要配置分库分表规则,如果数据库分片中只有单表,分库分表规则可以直接配置 0 即可。在如下配置中,single_table 会路由到 group_00 分片:使用限制 仅支持 DML 语句(INSERT、...

如何迁移到DBFS?

本文档主要为您说明在使用阿里云数据库存储DBFS时,如何方便的将数据库迁移到DBFS上。一般存在以下几种常用的方式:主备同步:搭建主备库,通过binary log同步数据到自建于DBFS上的数据库。DTS:使用阿里云产品DTS,将数据迁移到自建于DBFS...

逻辑

等于1 等于1时,仅存在分表的单个数据库会抽取成逻辑库。使用场景 如下为典型的逻辑库场景:单库-分表 分库-分表 分库-不分表 注意事项 SQL Console数据查询、结构设计、数据导出、数据变更等功能支持选择物理库或者逻辑库操作。选择逻辑库...

A100使用指南

支持审计10个数据库实例 12,000元/月 144,000元/年 企业版 吞吐量峰值:30,000条SQL/秒 800万/小时入库速率 10亿条在线SQL语句存储 350亿条归档SQL语句存储 支持审计25个数据库实例 20,000元/月 240,000元/年 说明 可以通过需要使用的数据...

通过Mongo Shell管理数据库账号

roles":[{"role":"readAnyDatabase","db":"admin"}]} 查询目标数据库的所有数据库账号 说明 您可以通过 use database_name 命令切换数据库,其中 database_name 为目标数据库的名称。方式一:在目标数据库执行查询命令。show users 说明 ...

使用限制

在使用云数据库MongoDB前,您需要了解不同类型云数据库MongoDB实例本身存在的约束信息,使您初步了解不同类型云数据库MongoDB实例的使用限制,以帮助您选择更适合业务场景的实例。单节点实例 功能 约束 实例部署 目前不是所有地域和可用区...

创建自建数据库用户及授权

背景信息 自建 MySQL 数据库实例的类型包括 VPC 内自建数据库 和 公网 IP 自建数据库。本文创建的自建数据库用户,用于创建自建数据库实例类型的 MySQL 数据源时填写 用户名。创建自建数据库用户 在创建 MySQL 数据源时,您可以直接选择...

使用DTS迁移副本集架构的自建MongoDB数据库上云

使用数据传输服务DTS(Data Transmission Service),将副本集架构的自建MongoDB数据库迁移至云数据库MongoDB中。DTS支持全量数据迁移和增量数据迁移,同时使用这两种迁移类型可以实现在不停服的情况下,平滑地完成数据库的迁移上云。除本...

将ECS上单节点或副本集架构的自建MongoDB迁移上云

本文为旧版DTS控制台操作步骤,新版DTS迁移上云方法如下:单节点架构上云:云数据库MongoDB版(单节点架构)全量迁移至云数据库MongoDB版(所有架构)副本集架构上云:云数据库MongoDB版(副本集架构)迁移至云数据库MongoDB版(副本集架构...

通过DMS管理数据库账号

不同类型实例的连接方法如下:通过DMS连接MongoDB单节点实例 通过DMS连接MongoDB副本集实例 通过DMS连接MongoDB分片集群实例 注意事项 数据库数据库账号不允许重复。创建数据库账号 说明 数据库账号创建后不支持在云数据库MongoDB...

从ECS上的自建MySQL同步至RDS

注意事项 DTS在执行全量数据初始化时将占用源库和目标库一定的读写资源,可能会导致数据库的负载上升,在数据库性能较差、规格较低或业务量较大的情况下(例如源库有大量慢SQL、存在无主键表或目标库存在死锁等),可能会加重数据库压力,...

自建PostgreSQL同步到云原生数据仓库AnalyticDB ...

如果源或目标数据库是阿里云数据库实例(例如 RDS MySQL、云数据库MongoDB版 等),DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单中;如果源或目标数据库是ECS上的自建数据库,DTS会自动将对应地区DTS服务的IP地址添...

使用DTS迁移单节点架构的自建MongoDB数据库上云

本文介绍如何使用数据传输服务DTS(Data Transmission Service),将单节点架构的自建MongoDB数据库迁移至云数据库MongoDB中。除本方法外,您也可以 使用MongoDB工具将自建数据库迁移至单节点实例。更多数据迁移或数据同步场景的解决方案,...

数据归档

背景信息 ODC 支持定时将源数据库中的表数据归档至其它目标数据库中,以解决因线上数据增多影响查询性能与业务运作的问题。本文档旨在介绍如何通过提交数据归档工单实现归档数据。原理介绍 前提条件 归档的表中必须包含主键。注意事项 前置...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云数据库 MongoDB 版 云数据库 RDS 云数据库 Redis 版 数据库备份 DBS 弹性公网IP 短信服务
新人特惠 爆款特惠 最新活动 免费试用