概述
PolarDB 集群 备份集逻辑大小（上图中②所示）：指备份快照的逻辑数据大小，数据备份的收费对象为实际独立占用的物理空间大小，非逻辑数据大小。其实际独立占用的物理空间大小初始为0，但会随着数据的写入而增加，每个数据备份（快照）独立...
概述
PolarDB 集群 备份集逻辑大小（上图中②所示）：指备份快照的逻辑数据大小，数据备份的收费对象为实际独立占用的物理空间大小，非逻辑数据大小。其实际独立占用的物理空间大小初始为0，但会随着数据的写入而增加，每个数据备份（快照）独立...
存储类型
云原生多模数据库 Lindorm依赖于LindormDFS云原生存储系统，实现了数据存储与计算分离。存储容量独立计费，支持不停机在线扩容。Lindorm实例的存储容量在同实例内的多个引擎之间共享。存储类型说明 云原生多模数据库Lindorm支持的存储类型...
通过自治服务解决MySQL实例CPU使用率过高的问题
更多信息 数据库中的数据是以数据块为基本操作单位，一个MySQL数据块是8 KB，一次逻辑读或物理读对应一个数据块的读取操作。当数据库执行业务查询语句（包括数据修改操作）时，CPU会先从内存中请求数据块。如果内存中有对应的数据，CPU执行...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
Dataphin补数据后，查询表数据显示“Result row size=...
补数据逻辑顺序为：首先需要有维度逻辑表、事实逻辑表的补数据，再进行汇总逻辑表补数据才能在验证数据时查到字段。如果在维度逻辑表、事实逻辑表未完成补数据前，对汇总逻辑表进行了补数据，则会报Result row size=0，即汇总逻辑表无数据...
MaxFrame概述
处理数据量大、处理逻辑复杂，需要基于MaxCompute海量数据及弹性计算资源、MaxFrame分布式能力进行大规模数据分析、处理及数据挖掘，提高开发效率。面向Data+AI开发，需要依赖第三方或自定义镜像完成数据开发、模型开发等整体流程。支持的...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
服务编排功能介绍
数据服务的服务编排为您提供拖拽式、可视化的工作流编排能力。您可以按照业务逻辑，以串行、并行和分支等结构编排多个API及函数服务为工作流。前提条件 您需要购买DataWorks企业版及以上版本，才可以使用服务编排功能。详情请参见 ...
手动备份MongoDB数据
如果需要备份的数据量较大，逻辑备份和物理备份花费的时间可能较长，请您耐心等待。费用说明 云数据库MongoDB提供了免费备份额度。如果备份存储容量（包括全量备份和日志备份）未超过免费额度，备份不收费。超过后，每小时的备份费用=...
什么是DataWorks
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
RDS MySQL/MariaDB版实例CPU使用率较高
慢SQL导致查询成本高（查询访问表数据行数多）：特征：实例的QPS不高，查询执行效率低、执行时需要扫描大量表数据、优化余地大。表现：存在慢查询，QPS和CPU使用率曲线变化不吻合。原因分析：由于查询执行效率低，为获得预期的结果需要访问...
名称解释
逻辑分区与表 逻辑上，用户创建的数据库由多个数据逻辑分区（Partition）组成，用户创建的表（Table）的数据将分布在这些数据逻辑分区上，数据分布规则依照用户建表时指定的列（PartitionKey）进行Hash计算后来划分。逻辑分区的数量一旦...
功能更新动态（2022年）
2022年07月19日 华北2（北京）发布中心概述 2022年07月21日 华东1（杭州）2022年07月26日 华南1（深圳）2022年08月02日 华东2（上海）运维中心 新增支持小时、分钟级调度的逻辑表进行补数据、重跑等运维操作。新增支持单个指标补数据，不受...
T+1多库合并建仓
上述方案可解决因数据量大而导致的用户体验问题，但在对分库分表数据进行大数据分析时，逻辑上的一个表被拆成了多张表，由于没有类似TDDL中间件来屏蔽物理表的拆分，进行数据分析时变得十分复杂。解决方案 T+1多库合并建仓是指通过DLA控制...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
客户案例
价值体现 从大数据平台上云整体“降本增效”的方案快速切入，迁移到大数据MaxCompute、实时计算、DataWorks后，部分任务有10倍以上的性能提升，存储从自建Hadoop 3PB降到900T，利用Flink实时数据处理能力，将宝宝树现有的场景实时化（...
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
云产品集成
常见云产品如下：大数据开发治理平台 DataWorks 实时计算 Flink 版 数据库管理 DMS DataV 数据可视化 Quick BI 数据分析与展现 前提条件 已获取 OceanBase 数据库的基本连接信息，详细步骤请参见 获取连接参数。大数据开发治理平台 ...
DataWorks模块使用说明
使用流程概览：参考文档：DataWorks数据建模 子模块：数据开发（DataStudio）功能说明：数据开发（DataStudio）是一站式大数据开发平台，支持在线开发MaxCompute、EMR、Hologres、CDP、ADB等多种大数据引擎的数据处理任务。它集成了强大的...
受众与核心能力
产品定位 DataWorks致力于为数据开发者、数据分析师、数据资产管理者，打造一个具备开放自主开发与全栈数据研发能力的一站式、标准化、可视化、透明化的智能大数据全生命周期云研发平台。DataWorks赋予用户仅通过单一平台，即可实现数据...
实验介绍
涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，加工，质量监控，与数据可视化展现，您需提前开通该服务。详情请参见 开通DataWorks服务。云原生大数据计算服务MaxCompute 实现底层加工...
MaxCompute表数据
数据探查复用数据质量产品能力，将会同时产生数据质量实例费用，此部分费用由DataWorks收取，详情请参见：计费逻辑说明。选中 我了解数据探查服务需要收费，单击 提交。待探查结束，在 数据探查 页签下，查看探查结果。您可以从 探查记录 ...
基本概念
数据库 database 表示数据访问代理的逻辑数据库。以这个作为访问的入口，通过分库分表、读写分离等规则可以请求到后端真实的物理数据库。数据表 data table 表示数据访问代理的逻辑表，应用访问数据访问代理时 SQL 中的表即数据表。一个...
快速体验
涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集、加工、质量监控，以及数据可视化展现，您需提前开通该服务。详情请参见 开通DataWorks服务。云原生大数据计算服务MaxCompute 实现底层加工...
冷热分层
背景信息 在海量大数据场景下，随着业务和数据量的不断增长，性能和成本的权衡成为大数据系统设计面临的关键挑战。Delta Lake是新型数据湖方案，推出了数据流入、数据组织管理、数据查询和数据流出等特性，同时提供了数据的ACID和CRUD操作...
Delta Lake概述
Delta Lake以数据为中心，围绕数据流走向（数据从流入数据湖、数据组织管理和数据查询到流出数据湖）推出了一系列功能特性，协助您搭配第三方上下游工具，搭建快捷、易用和安全的数据湖。背景信息 通常的数据湖方案是选取大数据存储引擎...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将...MaxCompute处理业务数据和日志数据后，可以通过Quick BI快速地以可视化方式展现数据处理结果，详情请参见 基于MaxCompute的大数据BI分析。
数据分析概述
功能概述 SQL查询 SQL查询是使用标准的SQL语句，来查询和分析存储在MaxCompute中的大数据，详情请参见 SQL查询。您可以通过编写SQL语句，对有查询权限的数据源进行快速的数据查询与分析操作，详情请参见 功能概览。DataWorks SQL查询提供了...
数据集成
数据源支持情况 数据集成目前支持40种以上的数据源类型（包括关系型数据库、非结构化存储、大数据存储、消息队列等），通过定义来源与去向数据源，并使用数据集成提供的数据抽取插件（Reader）、数据写入插件（Writer），实现任意结构化、...
逻辑数仓
应用场景 不同用户角色使用逻辑数仓支持的应用场景：数据库及数仓开发人员：跨库查询与开发，业务数据逻辑归档、数据准备与供应、轻量数仓、数仓构建模拟、敏捷建仓、入仓等。运营分析及BI人员：数据准备与分析、跨库查询、查询与分析加速...
事务管理
数据文件版本管理 每次事务操作会生成一批新的数据文件，这些数据文件会绑定对应的事务版本，主要包含两个属性：时间版本：Timestamp类型，等效于事务Commit时间，只有由用户触发并且存在逻辑数据变更的操作才会产生新的时间版本，...
数据治理中心概述
数据治理逻辑 数据治理问题检测包括数据开发任务提交发布前的检查项检测，及提交发布后的治理项检测，帮助您全方位管控当前数据存在的待治理问题。当触发检测项后，若校验不通过，则会生成相应事件（严重问题将阻塞开发流程），您需通过...
配置蓝图交互逻辑
（推荐）您还可以将 抽奖池 节点、抽出一二三等奖 逻辑节点、一等奖数据、二等奖数据 和 三等奖数据 三个逻辑节点一起选中后进行编组，且将编组命名为 抽奖逻辑。步骤二：使用键盘按键，切换并显示不同的抽奖页面 在蓝图编辑器内，使用 ...
配置蓝图交互逻辑
（推荐）您还可以将 抽奖池 节点、抽出一二三等奖 逻辑节点、一等奖数据、二等奖数据 和 三等奖数据 三个逻辑节点一起选中后进行编组，且将编组命名为 抽奖逻辑。步骤二：使用键盘1、2、3按键，切换并显示不同的抽奖页面 在蓝图编辑器内，...
功能特性
数据分析概述 访问数据分析功能 管理数据集 仪表盘 Copilot Copilot是DMS基于阿里云大模型构建的数据智能助手。其结合了DMS熟练的数据管理、数据使用能力，可帮助开发、运维、产品、运营、分析师和数据库管理员，更高效、规范地使用和管理...
无锁结构变更方案对比
有无触发器对比 有触发器：基于触发器设计的工具代码逻辑相对简单，大部分数据上的工作交给了触发器去完成，包含数据库的隐式处理、数据类型以及切换等相关操作，简化了进行实时表迁移的大量流程。无触发器：无触发器设计最大的优点是和...
InnoDB Physiological Logging
物理逻辑日志（Physiological Logging）大部分商业数据库选择物理逻辑日志，其设计思想为：“physical to a page,logical within a page”，即根据物理页记录日志，根据不同的逻辑操作类型写入日志。InnoDB也一样，尽可能地将逻辑日志和...
数据总览
存储趋势图 为当前租户本地域下，MaxCompute项目的逻辑存储总和趋势图，此数据包含调度任务的临时文件、删除表后尚未释放的存储空间。此数据为离线统计，有T+1的延迟。项目占用存储Top 为您展示当前租户本地域下，MaxCompute项目的逻辑存储...
归并节点
本文为您介绍归并节点的概念，以及如何新建归并节点、定义归并逻辑，并通过实践案例为您展示归并节点的调度配置和运行详情。背景信息 归并节点是DataStudio中提供的逻辑控制系列节点中的一类，可以对上游节点的运行状态进行归并，用于解决...
- 产品推荐
- 这些文档可能帮助您