准备数据源 Dataphin支持对接的数据源包括大数据存储型数据源、文件数据源、消息队列数据源、关系型数据源和NoSQL数据源,各模块支持对接的数据源类型及操作指导,请参见 Dataphin支持的数据源。重要 确定业务数据源类型后,在Dataphin创建...
准备数据源 Dataphin支持对接的数据源包括大数据存储型数据源、文件数据源、消息队列数据源、关系型数据源和NoSQL数据源,各模块支持对接的数据源类型及操作指导,请参见 Dataphin支持的数据源。重要 确定业务数据源类型后,在Dataphin创建...
本文介绍了 PolarDB-X 1.0 支持的数据类型。PolarDB-X 1.0 支持四种主要数据类型:数值类型 字符串类型 日期时间类型 JSON 数据类型 不支持的数据类型:空间数据类型 关于数据类型的详细信息可参考 MySQL 数据类型 文档。
PolarDB-X 数值类型按精确度可以划分为如下两类:精确数据类型包括:整数数据类型:TINYINT,SMALLINT,MEDIUMINT,INTEGER和BIGINT。定点数据类型:DECIMAL和NUMERIC。近似数据类型包括FLOAT、REAL、DOUBLE PRECISION。整体与MySQL保持...
不支持 不支持 PAI 支持除Decimal之外的其它数据类型 2.0新增的数据类型中仅支持INT 部分功能支持map数据类型 不支持 不支持 PyODPS 支持 DataFrame不支持2.0数据类型 其它功能都支持2.0数据类型 支持 DataFrame不支持2.0数据类型 其它功能...
异构数据库间的数据类型映射关系 由于不同的数据库支持的数据类型不一样,数据类型无法完全对应。DTS在执行结构迁移时,会根据目标库支持的数据类型进行类型映射,您可以查阅并评估类型映射对业务的影响。功能特性 详情请参见 数据迁移。...
数据同步功能可以帮助您实现数据源之间的数据实时同步,适用于数据异地多活、数据异地灾备、本地数据灾备、跨境数据同步、查询与报表分流、云BI及实时数据仓库等多种业务场景。本文介绍数据同步功能的具体使用流程,帮助您快速掌握创建、...
完成自定义数据源类型后,您可将该类型的数据源接入到Dataphin中,为后续进行集成开发做准备。前提条件 已有自定义数据源类型。具体操作,请参见:新建离线自定义源类型。新建实时自定义源类型。操作步骤 请参见 数据源管理入口,进入 数据...
支持多种任务类型 任务类型包括数据迁移、数据同步、数据加工等,满足不同的数据处理需求。支持任务调度的管理和监控 可设置任务的调度策略,包括定时调度、触发条件调度等,保证准时执行任务。支持任务之间的依赖关系配置 可以设置任务的...
存储格式 数据来源及特点 数据量增大或减少 详细数据量 JSON 大量应用产生JSON类型的数据,冗余数据量大。增大151.7%3.02GB AVRO Hadoop生态格式的数据,数据由大部分遗留系统产生。增大8.3%1.3GB RCFile Hadoop生态格式的数据,数据由大...
数据分类层级用于从业务或组织架构视角出发,对数据分类进行分层管理。本文为您介绍如何创建及管理数据分类层级。权限说明 安全管理员支持新建及管理数据分类层级。使用限制 数据分类层级不超过10级。新建数据分类层级 在Dataphin首页,...
数据分类层级用于从业务或组织架构视角出发,对数据分类进行分层管理。本文为您介绍如何创建及管理数据分类层级。权限说明 安全管理员支持新建及管理数据分类层级。使用限制 数据分类层级不超过10级。新建数据分类层级 在Dataphin首页,...
RDS MariaDB、其他来源MariaDB OceanBase MySQL模式 PolarDB PostgreSQL版(兼容Oracle)背景信息 功能测试或者性能测试时,往往需要准备测试数据,通常有以下几种方法:手工编写:效率低,不适用于大数据量场景。维护生成测试数据脚本:成...
项目 限制说明 数据类型 云数据库 Memcache 版仅支持 Key-Value 格式的数据,不支持 array、map、list 等复杂类型的数据。数据可靠性 云数据库 Memcache 版的数据存储在内存中,服务并不保证缓存数据不会丢失,有强一致性要求的数据不适合...
DTS_BINLOG_PARSER解析结果是一个STRUCT类型,包含字段如下:struct:recordID long,-binlog的record ID|source string,-数据源信息,包括数据库类型,版本等等|dbTable string,-数据表名|recordType string,-操作类型,包括INSERT,DELETE...
数据分类用于定义数据在安全领域的业务属性,可对数据进行多级分类打标,更贴合行业标准,本文为您介绍如何新建及管理数据分类。前提条件 已创建数据分类层级。如需创建,请参见 新建数据分类层级。已创建识别特征。如需创建,请参见 添加...
数据分类用于定义数据在安全领域的业务属性,可对数据进行多级分类打标,更贴合行业标准,本文为您介绍如何新建及管理数据分类。前提条件 已创建数据分类层级。如需创建,请参见 新建数据分类层级。已创建识别特征。如需创建,请参见 添加...
数据分类分级支持您按照数据的价值、内容敏感程度、影响和分发范围对数据进行敏感级别和类型的划分,不同敏感级别的数据其管控原则和数据开发要求存在差异,划分分类分级后,后续可通过分类分级管控不同程度的敏感数据。本文为您介绍如何...
仅支持在 结构化数据、半结构化数据、非结构化数据 或 大数据 分类下分别选择一个或多个数据类型,不支持跨分类同时选择多个数据类型。如果您未选中任意数据类型,数据安全中心默认展示所有数据类型下的敏感数据识别结果。数据模板:在 ...
在管理数据页面中,数据的类型分为 ...上传数据 管理数据页面中的数据类型有 矢量、栅格、地理服务、三维模型、三维瓦片 和 业务数据 六大类,不同类型的数据可上传的数据格式互不相同,具体三种类型数据上传数据的详细说明请参见 上传数据。
在管理数据页面中,数据的类型分为 ...上传数据 管理数据页面中的数据类型有 矢量、栅格、地理服务、三维模型、三维瓦片 和 业务数据 六大类,不同类型的数据可上传的数据格式互不相同,具体三种类型数据上传数据的详细说明请参见 上传数据。
空间数据提供对矢量、栅格、矢量瓦片、栅格瓦片、三维模型、倾斜摄影、BIM、点云等数据的添加,支持通过上传文件和对象存储两种通用的方式添加数据。本文主要介绍如何添加各类空间数据。前提条件 已在云存储上存储了数据文件。背景信息 ...
中国国际大数据产业博览会十佳大数据案例 中国信通院:数据集成工具、数据管理工具、数据开发平台、数据脱敏工具、数据分类分级等评测 学习路径 您可以通过DataWorks文档首页的 学习路径,快速了解DataWorks的相关概念、基础操作及进阶操作...
同时建议进行深入的数据探查,包括但不限于数据完整性、字段离散值分布情况、空值、零值、重复值占比等情况。技术可行性:评估当前已有数据模型能否支撑需求开发,如果不能,则需要规划模型改造方案,并充分评估其影响。同时在测试环境进行...
DataWorks智能数据建模的导入工具,为您提供了数据模型、数据标准等多种类型的对象模板,您可基于不同模板批量创建相应对象。该功能无需多次重复执行创建操作,即可快速生成多个对象,节省大量时间成本。本文为您介绍如何通过批量导入功能...
支持升级的数据库大版本 云数据库 MongoDB 版 控制台可以直接升级数据库大版本,但不同产品架构、不同版本的实例支持升级的版本不同,具体情况如下:产品架构 规格类型 实例的数据库大版本 可升级到的数据库大版本 单节点架构 通用型云盘版...
目前云数据库MongoDB不支持降低存储空间、变更实例类型(例如将单节点实例变更为副本集实例)或变更存储引擎,对于这些变配场景,您可以创建新实例完成变配,详情请参见 其他变配场景及方案。说明 代表支持,代表不支持。单节点实例 计费...
警告 此场景属于异构数据库间的数据迁移,DTS在执行结构迁移时数据类型无法完全对应,请谨慎评估数据类型的映射关系对业务的影响,详情请参见 异构数据库间的数据类型映射关系。全量数据迁移 DTS会将自建Oracle数据库迁移对象的存量数据,...
数据迁移 数据迁移功能帮助您实现同构或异构数据源之间的数据迁移,适用于数据上云迁移、阿里云内部跨实例数据迁移、数据库拆分扩容等业务场景 功能集 功能 功能描述 参考文档 同构迁移 逻辑迁移 支持同构数据库间的数据迁移。自建MySQL...
作为学院派关系型数据库管理系统的鼻祖,它的优点主要集中在对SQL规范的完整实现以及丰富多样的数据类型支持,包括JSON数据、IP数据和几何数据等,而大部分商业数据库都不支持这些数据类型。除了完美支持事务、子查询、多版本控制(MVCC)...
若您将列名仅大小写不同的字段写入到目标MySQL数据库的同一个表中,可能会因为MySQL数据库列名大小写不敏感,导致同步结果不符合预期。在数据同步完成后,建议使用 analyze table<表名>命令检查数据是否已写入目标表。例如,在MySQL触发HA...
数据质量是数据分析结论有效性和准确性的基础。本文为您介绍数据质量保障教程的业务场景以及如何衡量数据质量的高低。前提条件 在开始本教程前,请您首先完成 搭建互联网在线运行分析平台 教程,详情请参见 业务场景与开发流程。业务场景 ...
数据质量是数据分析结论有效性和准确性的基础。本文为您介绍数据质量保障教程的业务场景以及如何衡量数据质量的高低。前提条件 在开始本教程前,请您首先完成 搭建互联网在线运行分析平台 教程,详情请参见 业务场景与开发流程。业务场景 ...
数据同步过程中,可以修改源表中的字段类型,目前仅支持整型数据类型之间、浮点数据类型之间的列类型更改,并且只能将取值范围小的数据类型更改为取值范围大的数据类型,或者将单精度数据类型更改为双精度数据类型。整型数据类型:支持...
如果迁移的源数据库类型为自建Oracle,您需要在配置具体的迁移任务前,参考本文的注意事项及限制,以保障数据迁移任务的正常运行。源库为Oracle的迁移方案概览 根据如下迁移方案,查看迁移任务的注意事项及限制:自建Oracle迁移至PolarDB ...
说明 筛选类型包括:大于、小于、等于、不等于、包含、不包含、以输入开头、以输入结尾、为NULL、不为NULL、等于字段、不等于字段、大于字段、大于等于字段、小于字段、小于等于字段。数据排序:在 数据预览 页面,单击字段名称,可对查询...
说明 筛选类型包括:大于、小于、等于、不等于、包含、不包含、以输入开头、以输入结尾、为NULL、不为NULL、等于字段、不等于字段、大于字段、大于等于字段、小于字段、小于等于字段。数据排序:在 数据预览 页面,单击字段名称,可对查询...
查看已上传数据表详情,包括但不限于数据地图、数据量、数据表大小及项目引用情况。刷新数据库/文件夹/表 选择需要查看的层级,单击右上角的 图标,完成刷新操作。改变数据库/文件夹显示模式 选择需要查看的层级,单击右上角的 图标或 图标...
数据源列表 页面为您展示所有已创建的数据源及其基本信息,包括 数据源标识、数据源类型、数据源来源、用户名 和数据源的 创建时间。您可以在操作列单击 测试连接,检查数据库的网络连接情况。以及进行复制、编辑和删除数据源的操作。在 ...
数据中心包含数据管理、数据配置。数据管理 数据管理模块展示并管理用户添加的数据。主要功能包括数据表引入、本地数据导入。数据表 支持用户从已注册的计算资源类型中添加数据表。支持基于已添加的数据查看表信息、表内展示的字段。支持将...