业务背景 是 详细描述导出数据的原因或目标,减少沟通成本。影响行数 是 预估本次导出会影响的数据行数,您可以在SQL Console中使用 count 命令进行统计。说明 在预检查阶段,系统将会显示实际影响行数,您可以再次校验是否符合预期,及时...
准备独享数据集成资源组并与数据源网络连通 在进行数据同步前,需要完成您的独享数据集成资源组和数据源的网络连通,详情请参见 配置网络连通。说明 Kafka与Hologres支持的网络类型如下:Kafka:指定VPC网络、公网。Hologres:指定VPC网络、...
本文为您介绍如何使用数据传输迁移 Oracle 数据库的数据至 OceanBase 数据库 Oracle 租户。重要 如果数据迁移项目长期处于非活跃状态(项目状态为 失败、已暂停 或 已完成),受增量日志保留时长等影响,项目可能无法恢复。数据传输将主动...
并测试资源组与数据源的网络连通。说明 若还未创建数据源,请单击界面的 新建数据源 按钮,新建数据源。详情请参见:数据源概述。步骤四:同步任务配置 根据具体任务类型按界面说明进行同步相关配置。步骤五:启动同步任务 您可以执行任务...
DataWorks数据安全治理路线 2023年12月更新记录 时间 特性 类别 描述 产品文档 2023.12.29 新增功能 数据开发 若您要在DataWorks中进行数据建模、数据开发或使用运维中心周期性调度任务,需先将已创建的数据源或集群绑定至数据开发...
本文介绍云数据库HBase连通性检测和与云数据库HBase网络不通的可能原因。背景信息 云数据库HBase为了保障安全性,不提供Ping的ICMP协议,请不要使用Ping来访问,判断是否连通云数据库HBase,请使用Telnet。平台提供了公网访问及内网访问,...
当数据库中表的数据量过大时,可能会影响查询数据速率,在不考虑将数据迁移到其他数据库的情况下,您可以将数据库中的历史数据或使用频率低的冷数据归档在当前数据库下的其他表中。同时,结合DMS提供的归档时清理源表功能,帮助您提升数据...
若任务执行失败,您可在工单的执行区域,单击操作列下的 详情,查看归档任务日志,找出任务执行失败的原因。若是由于网络或数据库连接失败等偶然发生的问题,您也可以单击 断点重试,尝试重新执行。任务执行完成。归档后查询数据 方式一:...
若任务执行失败,您可在工单的执行区域,单击操作列下的详情,查看归档任务日志,找出任务执行失败的原因。若是由于网络或数据库连接失败等偶然发生的问题,您也可以单击断点重试,尝试重新执行。说明 归档后的数据以表形式存储在数据库中...
若任务执行失败,您可在工单的执行区域,单击操作列下的详情,查看归档任务日志,找出任务执行失败的原因。若是由于网络或数据库连接失败等偶然发生的问题,您也可以单击断点重试,尝试重新执行。说明 归档后的数据以表形式存储在数据库中...
随着企业的数据资料持续积累,需要持久化地保留数据资产,但是数据的存储成本居高不下,因此DMS和 AnalyticDB PostgreSQL版 Serverless模式共同推出了数据归档功能,可以面对数据库实现灵活低价、归档管理和高分析性能的能力。功能介绍 DMS...
本文介绍将数据归档至 云原生多模数据库Lindorm 的注意事项以及操作步骤。前提条件 支持如下类型的源数据库:MySQL类型:RDS MySQL、PolarDB MySQL版、AnalyticDB MySQL 3.0。PostgreSQL类型:RDS PostgreSQL、PolarDB PostgreSQL版。...
本文介绍将数据归档至 云原生多模数据库Lindorm 的注意事项以及操作步骤。前提条件 支持如下类型的源数据库:MySQL类型:RDS MySQL、PolarDB MySQL版、AnalyticDB MySQL 3.0。PostgreSQL类型:RDS PostgreSQL、PolarDB PostgreSQL版。...
若任务执行失败,您可在工单的执行区域,单击 操作 列下的 详情,查看归档任务日志,找出任务执行失败的原因。若是由于网络或数据库连接失败等偶然发生的问题,您也可以单击 断点重试,尝试重新执行。归档后的数据以表形式存储在数据库中。...
本文为您介绍如何将数据归档至专属存储中(存储在 DMS)、将专属存储的数据转存至OSS,以及删除归档至专属存储的数据等操作。前提条件 源数据库类型为:MySQL:RDS MySQL、PolarDB MySQL版、AnalyticDB MySQL 3.0。说明 MySQL数据库账号...
迁移与同步 为什么OSS外表导入ORC、PARQUET等格式的数据,出现内存报错或OOM挂掉?如何处理导入数据报错:too many parts?为什么DataX导入速度慢?为什么Hive导入后其数据行数跟ClickHouse对不上?为什么Kafka导入后其数据行数跟...
消费订阅速度变慢 无 可通过查询统计信息中的参数 DStoreRecordQueue 和 DefaultUserRecordQueue 队列的大小,分析消费数据变慢的原因。查询方式,请参见 消费数据的统计信息。如参数 DStoreRecordQueue 保持为0,则表示DTS服务器拉取数据...
消费订阅速度变慢 无 通过查询统计信息中的参数 DStoreRecordQueue 和 DefaultUserRecordQueue 队列的大小,分析消费数据变慢的原因。查询方式,请参见 消费数据的统计信息。如参数 DStoreRecordQueue 保持为0,则表示DTS服务器拉取数据...
您可以将物理表中的指标字段上挂至汇总逻辑表进行数据分析。本文为您介绍如何为汇总逻辑表新建注册上挂标签。前提条件 完成派生指标的创建,详情请参见 创建派生指标。操作步骤 在Dataphin首页,单击顶部菜单栏的 研发。默认进入数据 开发 ...
您可以将物理表中的指标字段上挂至汇总逻辑表进行数据分析。本文为您介绍如何为汇总逻辑表新建注册上挂标签。前提条件 完成派生指标的创建,详情请参见 创建派生指标。操作步骤 登录 Dataphin控制台。在Dataphin控制台页面,选择工作区地域...
业务挑战 随着网络数据流量的爆增以及业务可用性要求的不断提升,Napatech公司的用户可以将数据包采集和分析的能力提升至200G,然而上层软件产生的流量数据包元数据也爆增,给后台数据库(比如开源的HBase/ElasticSearch)的存储和索引能力...
添加数据源时需要根据数据源所在网络环境,通过对应的网络解决方案,实现Dataphin与数据源的网络连通。本文为您介绍数据源在不同网络环境中与Dataphin的网络连通方案。网络连通方案 根据数据源所在的网络环境,在下图中选择对应的网络连通...
网络连通方案 独享数据集成资源组与其他独享资源组类似,本质上为一组阿里云ECS实例,在数据集成任务运行时,需保障资源组与数据源之间的网络是连通的,且不会因为白名单等特殊安全访问设置阻断资源组与数据源之间的网络连通性。...
提供拓扑网络路径分析和大规模点云存储与查询支持 Ganos所包含的几何网络数据库引擎支持Node-Edge拓扑网络构建,支持Turn、U-Turn等概念,支持TSP(旅行商问题)、KSP(多条线路最短路径)、TRSP(转向限制的最短路径)等一系列路径规划...
网络连通方案 独享调度资源组与其他资源组类似,本质上为一组阿里云ECS实例,在进行数据开发等任务运行时,需保障资源组与数据源之间的网络是连通的,且不会因为白名单等特殊安全访问设置阻断资源组与数据源之间的网络连通性。说明 如果独...
购买独享数据服务资源组时需要进行网络配置,您可以为独享资源组绑定一个可与目标数据源连通的VPC和该VPC下对应可用区中的V-Switch,实现自动添加路由至整个VPC网段,从而保障独享数据服务资源组与该VPC环境中的数据源之间的网络连通性。...
您也可以根据需求选择按照占用内存、磁盘读取数据量、磁盘读取数据耗时、网络传输数据量、网络传输数据耗时对算子排序以及计算整体比例。算子统计信息介绍如下:名称 说明 算子名称 算子名称与编号,在计划树中唯一。类型ID 算子类型编号。...
建议您及时对实例进行数据倾斜的原因排查,并根据对应处理方法在业务层进行改造,对实例进行优化,更多信息请参见 数据倾斜的原因与处理方法。倾斜场景 可能原因 临时方案 内存倾斜 大Key、Hash Tags。升级实例规格,具体操作请参见 变更...
建议您及时对实例进行数据倾斜的原因排查,并根据对应处理方法在业务层进行改造,对实例进行优化,更多信息请参见 数据倾斜的原因与处理方法。倾斜场景 可能原因 临时方案 内存倾斜 大Key、Hash Tags。升级实例规格,具体操作请参见 变更...
新建数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 OceanBase 数据源。操作步骤 登录 OceanBase 管理控制台。在左侧导航栏,单击 数据传输>数据源管理。在 数据源列表 页面,单击右上角的 新建数据源。在 ...
在进行数据同步前,您需要确保用于执行同步任务的独享数据集成资源组与您将要同步的数据来源端与目的端数据源的网络连通性。本文为您介绍数据源与DataWorks工作空间同阿里云主账号时如何进行网络连通。背景信息 网络连通方案选择取决于数据...
常见问题 目标溯源任务执行结束后,可能的泄漏源 显示 无结果,则可能的原因及解决方案如下:原因一:您所溯源的文件数据量不足,导致水印信息无法还原。解决方案:使用 数据水印 功能生成的水印信息需要提供充足的数据量,才能保证通过...
配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 PolarDB-X 2.0 数据源。背景信息 云原生数据库 PolarDB 分布式版(简称 PolarDB-X)是由阿里巴巴自主研发的云原生分布式数据库,为您提供高吞吐、大...
您可以在操作列单击 测试连接,检查数据库的网络连接情况。以及进行复制、编辑和删除数据源的操作。在 数据源列表 页面,查看目标数据源。您可以根据数据源的类型进行筛选,快速查找指定类型的数据源,也可以通过右上角的搜索框模糊搜索...
选择内网数据库的网络类型(包括 专有网络 和 经典网络)。专有网络 打开 VPC 开关,进入 专有网络 模式。填写数据库信息。参数 说明 VPC ID Hologres实例绑定的指定VPC的VPC ID。进入 Hologres管理控制台 的实例详情页,从 网络信息 的...
配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 PolarDB 数据源。背景信息 PolarDB-X 1.0 是由阿里巴巴自主研发的 PolarDB 分布式版数据库,融合分布式 SQL 引擎和分布式自研存储 X-DB,基于云原生...
新建数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 TiDB 数据源。前提条件 已获取相关数据库的 IP 地址和端口号。已存在用于数据迁移的数据库用户。建议您为数据迁移项目创建一个专属的数据库用户,该用户...
配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输中新建 Oracle 数据源。操作步骤 登录 OceanBase 管理控制台。在左侧导航栏,单击 数据传输>数据源管理。在 数据源列表 页面,单击右上角的 新建数据源。在 ...
配置好数据源是创建数据迁移或数据同步项目的前提。本文为您介绍如何在数据传输新建 MySQL 数据源。操作步骤 登录 OceanBase 管理控制台。在左侧导航栏,单击 数据传输>数据源管理。在 数据源列表 页面,单击右上角的 新建数据源。在 新建...
数据集成资源组与网络连通 如上图所示,进行数据同步前,需通过合适的网络连通方案将数据库和数据集成资源组间的网络打通。DataWorks当前支持使用独享数据集成资源组或自定义数据集成资源组,不同资源组的属性与适用场景不同,网络连通方案...