产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
DataWorks V3.0
MaxCompute是DataWorks最早支持，且最成熟完备的计算引擎，目前已基本覆盖MaxCompute的所有功能。详情请参见 离线计算MaxCompute。E-MapReduce：E-MapReduce（Elastic MapReduce，简称EMR）构建在阿里云云服务器ECS上，基于开源的Apache ...
IoT数据自动化同步至云端解决方案
大数据分析是大数据完成数据价值化的重要手段之一，而进行大数据分析的第一步是让数据成功上云。解决方案 IoT数据自动化同步至云端解决方案主要包括存储原始数据和同步数据至分析系统两部分。IoT设备大量的数据通常以半结构化的形式存储。...
概述
增大151.7%3.02GB AVRO Hadoop生态格式的数据，数据由大部分遗留系统产生。增大8.3%1.3GB RCFile Hadoop生态格式的数据，数据由大部分遗留系统产生。减少2.5%1.17GB Parquet Hadoop生态格式的数据。数据采用高性能的列存储格式，提升数据...
管理数据集
当数据集是由数据库创建时，您可以做以下操作。单击 数据库连接 后的 设置，修改数据库连接信息。单击 数据定时同步 后的 设置，打开 启用 开关，设置 定时执行 的类型，例如：每月第一天早上10点整进行数据同步。单击 数据定时同步 后的 ...
客户案例
作为最早做互联网2C的社区平台之一，宝宝树很早就建立了自己的IDC集群，而且规模越来越大。客户需求 集群水位高，性能差，亟待大数据综合治理。IDC大数据每年投入成本高，希望降本提效。价值体现 从大数据平台上云整体“降本增效”的方案...
快速入门
云数据库RDS SQL Server SQL Server是发行最早的商用数据库产品之一，作为Windows平台（IIS+.NET + SQL Server）中的重要一环，支撑着大量的企业应用。SQL Server自带的Management Studio管理软件内置了大量图形工具和丰富的脚本编辑器。您...
使用慢日志排查超时问题
本案例中，最早出现的慢日志是由一条 KEYS 命令生成的。右侧的IP地址即为使用这些命令的客户端IP地址。查看数据节点慢日志以确认代理慢日志中的哪些日志引起了超时问题。说明 通常情况下，在代理慢日志中最先产生慢日志的命令，也会在数据...
使用慢日志排查超时问题
本案例中，最早出现的慢日志是由一条 KEYS 命令生成的。右侧的IP地址即为使用这些命令的客户端IP地址。查看数据节点慢日志以确认代理慢日志中的哪些日志引起了超时问题。说明 通常情况下，在代理慢日志中最先产生慢日志的命令，也会在数据...
填充数据库
这是因为向本数据库中载入大量的数据将导致检查点的发生比平常（由 checkpoint_timeout 配置变量指定）更频繁。无论何时发生一个检查点时，所有脏页都必须被刷写到磁盘上。通过在批量数据载入时临时增加 max_wal_size，所需的检查点数目...
备份操作
功能介绍 备份类型 PolarDB-X 的备份由数据备份和日志备份组成。数据备份：系统对数据进行备份，并生成备份集，目前采用的是物理备份。日志备份：也叫增量备份，备份了记录数据变更的Binlog日志。开启日志备份后，基于“数据备份+日志备份...
X-Engine简介
为什么设计一个新的存储引擎 X-Engine的诞生是为了应对阿里内部业务的挑战，早在2010年，阿里内部就大规模部署了MySQL数据库，但是业务量的逐年爆炸式增长，数据库面临着极大的挑战：极高的并发事务处理能力（尤其是双十一的流量突发式暴增...
数据风险点监控
本文为您介绍在线数据风险点监控和离线数据风险点监控。在线数据风险点监控 在线业务系统的数据生成过程中必须确保数据质量，根据业务规则对数据进行监控。说明 MaxCompute本身未提供相应的监控工具，您可以借助DataWorks进行监控。详情请...
数据组织优化
Clustering 当前痛点 Transactional Table 2.0支持分钟级近实时增量数据导入，高流量场景下可能会导致增量小文件数量膨胀，从而引发存储访问压力大、成本高，并且大量的小文件还会引发meta更新以及分析执行慢，数据读写IO效率低下等问题，...
迁移 PolarDB-X 2.0 数据库的数据至 OceanBase 数据库...
背景信息 云原生数据库 PolarDB 分布式版（简称 PolarDB-X）是由阿里巴巴自主研发的高性能云原生分布式数据库，为您提供高吞吐、大存储、低延时、易扩展和超高可用的云时代数据库服务。详情请参见 什么是云原生数据库 PolarDB 分布式版。...
迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL ...
本文为您介绍如何使用数据传输迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL 租户。重要 如果数据迁移项目长期处于非活跃状态（项目状态为 失败、已暂停 或 已完成），受增量日志保留时长等影响，项目可能无法恢复。数据传输将主动释放...
DLA Lakehouse实时入湖
随着数据湖的应⽤越来越多，⼤家发现依赖数据湖最原始的能力，仅仅做简单的存储和分析，往往会遇到很多的问题。比较典型的痛点如下：多源头数据需要统⼀存储管理，并需要便捷的融合分析。源头数据元信息不确定或变化大，需要⾃动识别和管理...
异构数据源访问
若您需要通过 AnalyticDB PostgreSQL版 访问外部异构数据源（HDFS、Hive和JDBC）时，可以使用异构数据源访问功能将外部数据转换为 AnalyticDB PostgreSQL版 数据库优化后的格式进行查询和分析。功能说明 外部数据源管理提供高性能的结构化...
基本介绍
背景信息 云数据库HBase增强版是由 云原生多模数据库Lindorm宽表引擎 提供的、完全兼容HBase的云上托管数据库，从2011年开始云数据库HBase增强版正式承载阿里内部业务的海量数据实时存储需求，支撑服务了淘宝、支付宝、菜鸟、优酷、高德等...
TPC-H
TPC-H Benchmark是由国际事务处理性能委员会（Transaction Processing Performance Council）发布的数据库领域权威测试标准之一，是被工业界和学术界普遍认可的决策支持测试标准，也是数据库选型的重要参考指标之一。经过严苛的大规模分析...
流表
从最早的数据开始读取 SELECT/*+OPTIONS('scan.startup.mode'='earliest-offset')*/*FROM MyStream;指定历史时间读取数据 SELECT/*+OPTIONS('scan.startup.mode'='timestamp',scan.startup.timestamp-millis'='1647360000000')*/*FROM ...
阶段一：基础防护建设
数据建模链路：先由数据团队主管定义好建模过程中可能使用到的数据标准，再由数据建模人员设计并提交模型，最后经由数据团队主管、运维或部署人员审核无误后发布至生产环境。数据开发与生产链路：开发人员在开发环境先开发代码、配置调度...
数据服务概述
DataWorks数据服务模块是一个灵活轻量、安全稳定的数据API构建平台，作为数据库和数据应用之间的“桥梁”，DataWorks数据服务旨在为个人、团队和企业提供全面的数据服务和共享能力，帮助用户统一管理面向内外部的API服务。例如，您可以将...
RDS SQL Server空间不足问题
回收和释放数据空间 分析 数据空间的总大小（即所有数据文件大小总和）是由已分配（Allocated）空间和未分配（Unallocated）空间两部分组成：已分配空间包括已使用（Used）空间和未使用（Unused）空间，未使用空间只能分配给同一表或索引...
产品概述
产品简介 PolarDB-X 1.0 是由阿里巴巴自主研发的PolarDB分布式版数据库，融合分布式SQL引擎与分布式自研存储X-DB，基于云原生一体化架构设计，可支撑千万级并发规模及百PB级海量存储。专注解决海量数据存储、超高并发吞吐、大表瓶颈以及...
JindoFS实战演示
使用Checksum迁移HDFS数据到OSS 使用Checksum迁移HDFS数据到OSS 2021-05-11 通过Checksum算法，你可以在大数据迁移场景中校验数据的完整性、对比数据差异并实现增量迁移。本视频为您介绍如何使用Jindo Distcp迁移HDFS数据到OSS，以及在迁移...
基本概念
任务运维 任务流：由数据同步节点、离线计算任务节点、流式计算任务节点、自定义计算节点等组成的数据加工或算法服务工作流。业务类型：提交任务流的来源，包括数据同步、数据开发、标签加工、标签同步等。任务类型：提交任务流的来源，...
数据库导出
当您需要进行数据库备份、导出数据库表进行数据分析等操作，您可使用 数据管理DMS 的数据导出功能，该功能可通过提交工单的方式导出数据库。前提条件 数据库类型如下：MySQL系列：自建MySQL、RDS MySQL、PolarDB MySQL版、AnalyticDB ...
数据科学计算概述
MaxFrame是由阿里云自研的分布式科学计算框架，是对历史相关产品功能（PyODPS、Mars）的重大升级，在MaxCompute之上提供一套完全兼容Pandas接口的API，让用户用更为熟悉、更符合Python社群习惯的方式使用MaxCompute。本文为您介绍...
基本概念
一个 AnalyticDB for MySQL 集群最多可创建256个逻辑数据库。AnalyticDB for MySQL 文档中提到的数据库，都是指逻辑库。分片（Shard）根据分布键，将表数据水平分割后得到的子表，称为分片，英文名称为Shard。这些分片分散在若干个存储节点...
配置跨库Spark SQL节点
任务编排中的跨库Spark SQL节点，主要针对各类跨库数据同步和数据加工场景，您可以通过编写Spark SQL，完成各种复杂的数据同步或数据加工的任务开发。前提条件 支持的数据库类型：MySQL：RDS MySQL、PolarDB MySQL版、MyBase MySQL、...
主备方案介绍
云数据库HBase存储海量大数据，在业务场景中往往承载着重要数据，为保障数据的高可用性和安全性，云数据库HBase提供了主备双活和主备容灾特性。本文介绍云数据库HBase的主备双活和主备容灾特性功能。使用场景 主备双活：大数据量随机读响应...
导入概述
该机制可以保证Label对应的数据最多被导入一次，即At-Most-Once语义。原子性 StarRocks中所有导入方式都提供原子性保证，即同一个导入作业内的所有有效数据要么全部生效，要么全部不生效，不会出现仅导入部分数据的情况。此处的有效数据不...
新功能发布记录
OceanBase 数据库之间的数据迁移 支持 TiDB 数据库至 OceanBase 数据库 MySQL 租户的结构迁移、全量迁移、增量同步、全量校验和反向增量 迁移 TiDB 数据库的数据至 OceanBase 数据库 MySQL 租户 支持 PolarDB-X 1.0 数据库至 OceanBase ...
Transaction Table2.0概述
针对这些问题近几年大数据开源生态也推出了各种解决方案，最流行的就是Spark/Flink/Presto开源数据处理引擎，深度集成开源数据湖Hudi、Delta Lake和Iceberg三剑客，践行统一的计算引擎和统一的数据存储思想来综合提供解决方案，解决Lamdba...
恢复全量数据
开启常规日志备份后，可以恢复到日志备份保留天数内，最早的一个全量备份之后的任意时间点内的数据。开启任意时间点恢复（日志备份升级版）后，在 可任意时间点恢复天数 内，可对任意时间点的数据进行恢复。说明 如何查看当前日志备份保留...
产品架构
高效满足IoT/监控等场景的测量数据、设备运行数据的存储处理需求，整体架构如下：TSCore 是时序引擎中负责数据组织的核心部分，其整体思想与LSM结构相似，数据先写入Memchunk，然后Flush到磁盘，但由于时序数据天然的顺序写入特征，定向...
MapReduce
自然语言处理：基于大数据的训练和预测。基于语料库构建单词同现矩阵，频繁项集数据挖掘、重复文档检测等。广告推荐：用户单击（CTR）和购买行为（CVR）预测。MapReduce流程说明 MapReduce处理数据过程主要分成Map和Reduce两个阶段。首先...
通过数据同步功能同步SLS至湖仓版（推荐）
取值说明：最早位点（begin_cursor）：自动从SLS数据中最开始的时间点消费数据。最近位点（end_cursor）：自动从SLS数据中最近的时间点获取数据。自定义点位：您可以选择任意一个时间点，系统则会从SLS中第一条大于等于该时间点的数据开始...
- 产品推荐
- 这些文档可能帮助您