SQL调优
数据压缩比很高，解压后 256 MB 变成了好几百GB的数据，导致读入256MB数据，处理解压后会产生非常多的Instance。解决方案：使用如下命令调小单个并发处理的数据大小。set odps.stage.mapper.split.size=;set odps.stage.reducer.num=<并发...
索引加速
前缀索引 不同于传统的数据库设计，云数据库 SelectDB 版 这类 MPP 架构的 OLAP 数据库，一般通过提高并发来处理大量数据。同时可结合一些索引结构，来加速查询性能。SelectDB的数据存储在类似SSTable（Sorted String Table）的数据结构中...
我的程序要并发访问大量共享数据，该如何设计？
如果有大量共享数据需要并发访问，可以把数据存放在阿里云 OSS 或者 NAS 上，并且用InputMapping 的方式挂载访问。BatchCompute 会在访问的节点间自动建立起分布式缓存，可以大幅提升 OSS 和 NAS 的并发访问效率。
应用场景
访问频度极高业务 如社交网络、电子商务、游戏、广告等。...实现对大数据的分布式分析处理，适用于商业分析、挖掘等大数据处理场景。通过数据集成服务可自助实现数据在云数据库 Memcache 版与 MaxCompute 间的同步，简化数据操作流程。
应用场景
前端的监控系统和大数据处理系统会利用 TSDB 的数据查询和计算分析能力进行业务监控和分析结果的实时展现。电力化工及工业制造监控分析 传统电力化工以及工业制造行业需要通过实时的监控系统进行设备状态检测，故障发现以及业务趋势分析。...
2024年
新说明 ECS资源复用版是MaxCompute按量付费类型中的一种实例规格，旨在将ECS闲置实例转换为可用的MaxCompute计算资源，该方式可以充分利用已有的计算资源，而不需要额外购买新的MaxCompute计算资源，从而在满足大数据处理需求的同时，提高...
NLB计费规则
计算公式如下：LCU个数=最大并发连接数÷LCU系数 处理数据量 NLB 处理的TCP请求和响应的数据处理量，单位为GB。小时 1 GB 在一个计费周期内，系统会统计总的TCP请求和响应的数据处理量，然后使用总的数据处理量除以LCU系数，得出该计费周期...
按量付费全球加速实例计费
计算公式如下：CU个数=最大并发连接数÷CU系数 处理数据量 全球加速 处理的TCP请求和响应的数据处理量，单位为GB。小时 1 GB 在一个计费周期内，系统会统计总的TCP请求和响应的数据处理量，然后使用总的数据处理量除以CU系数，得出该计费...
按量付费
计算公式如下：LCU个数=最大并发连接数÷LCU系数 处理数据量 CLB处理的TCP请求和响应的数据处理量，单位为GB。小时 1 GB 在一个计费周期内，系统会统计总的TCP请求和响应的数据处理量，然后使用总的数据处理量除以LCU系数，得出该计费周期...
Broker Load
如果需要导入更大数据量，则需要适当调整 max_bytes_per_broker_scanner 参数的大小。默认参数值如下：min_bytes_per_broker_scanner：默认64 MB，单位bytes。max_bytes_per_broker_scanner：默认3 GB，单位bytes。max_broker_concurrency...
技术面临的挑战与革新
分布式事务与集中式事务的优劣 事务处理是数据库保证ACID语义的核心功能，因为数据库系统需要处理大量的并发事务，为了保证并发事务能够尽可能高效的并发执行而又互不干扰，发展出若干种技术，比如多版本并发处理(MVCC)，乐观并发处理(OCC)...
EMR Workbench
阿里云EMR Workbench是一个综合性的大数据分析和开发环境，作为阿里云E-MapReduce的一部分，它提供了EMR Notebook和EMR Workflow两个核心功能。通过EMR Workbench，您可以轻松进行数据开发，以及交互式数据分析，并设计复杂的数据处理工作...
MaxFrame概述
您可以用更熟悉、高效、便捷的方式利用MaxCompute的海量计算资源及数据进行大规模数据处理、可视化数据探索分析以及科学计算、ML/AI开发等工作。本文为您介绍MaxFrame背景信息、功能介绍及使用场景。版本说明 当前MaxCompute MaxFrame功能...
客户案例
张炜宇 阿里妈妈基础共享技术开发平台总监“OceanBase 很好的满足了我们广告业务对于存储系统扩展性，并行计算，统计计算，高吞吐，低时延，资源隔离等大数据处理的需求，在报表业务的演进中帮助我们建立了一套业务和平台分离，面向效果...
ALB计费规则
小时 1 GB 在一个计费周期内，系统会统计总的请求和响应的数据处理量，然后使用总的数据处理量除以LCU系数，得出该计费周期内的处理数据量的LCU个数。计算公式如下：LCU个数=总处理数据量÷LCU系数 规则评估数 指 ALB 处理的规则总数与每秒...
产品概述
PolarDB-X 1.0 将数据拆分到多个MySQL存储，使每个MySQL承担合适的并发、数据存储和计算负载，各个MySQL处于稳定状态。在 PolarDB-X 1.0 层面DB-X计算层面实现分布式逻辑，最终得到一个具有稳定可靠、高度扩展性的分布式关系型数据库系统。...
基于AnalyticDB实现城市公交系统智能化
方案解读：启迪公交采用分布式关系型数据库DRDS（Distributed Relational Database Service）构建全部业务系统，具备海量大数据的处理能力，同时支持高并发、高可用和高度可扩展的弹性伸缩能力。票务管理工作台将用户检录的数据实时同步到 ...
VPC NAT网关计费
在08:10:00~08:50:00时间段（一个计费周期）内这3个实例的最大新建连接数、最大并发连接数和最大处理流量的数据如下表所示。表 1.CU指标最大值 指标 NAT网关1 NAT网关2 NAT网关3 最大新建连接数（个/秒）1100 32 0 最大并发连接数（个/分钟...
公网NAT网关计费
在08:10:00~08:50:00时间段（一个计费周期）内这3个实例的最大新建连接数、最大并发连接数和最大处理流量的数据如下表所示。表 1.CU指标最大值 指标 NAT网关1 NAT网关2 NAT网关3 最大新建连接数（个/秒）1100 32 0 最大并发连接数（个/分钟...
公交出行：启迪公交
解决方案 启迪公交采用 PolarDB-X 分布式数据库方案构建了全部业务系统，既支持海量大数据的处理能力，又支持高并发、高可用和很强的弹性伸缩能力。票务管理工作台通过用户检录数据，实时同步到阿里云AnalyticDB分析型数据库，分析出实时...
PyODPS概述
数据处理方式 描述 场景示例 拉取到本地处理（不推荐，易OOM）例如DataWorks中的PyODPS节点，内置了PyODPS包以及必要的Python环境，是一个资源非常受限的客户端运行容器，并不使用MaxCompute计算资源，有较强的内存限制。PyODPS提供了 to_...
基于AnalyticDB构建企业数仓
同步速率 设置同步速率可以保护读取端数据库，以避免抽取速度过大，给源库造成太大的压力。同步速率建议限流，结合源库的配置，请合理配置抽取速率。错误记录数 错误记录数，表示脏数据的最大容忍条数。独享数据集成资源组 选择任务运行的...
快速入门
阿里云数据库RDS MySQL基于阿里巴巴的MySQL源码分支，经过双11高并发、大数据量的考验，拥有优良的性能和吞吐量。此外，阿里云数据库MySQL版还拥有经过优化的 读写分离、数据库代理、智能调优 等高级功能。当前RDS MySQL支持5.5、5.6、5.7...
准备数据
在数据准备阶段，您需要同步原始数据至MaxCompute。前提条件 已完成 准备环境。已新增MaxCompute数据源。详情请参见 创建MaxCompute数据源。准备数据源 通过RDS创建MySQL实例，获取RDS实例ID。详情请参见 快速创建RDS MySQL实例。在RDS控制...
配置跨库Spark SQL节点
大数据量处理：支持快速处理较大规模的数据（十万条以上数据）。Spark SQL语法：基于Spark 3.1.2版本部署，提供该版本所有语法特性和原生函数。原生函数包括聚合函数、窗口函数、数组函数、Map函数、日期和时间处理函数、JSON处理函数等。...
Broker Load
在Broker Load模式下，通过部署的Broker程序，StarRocks可读取对应数据源（例如，Apache HDFS，阿里云OSS）上的数据，利用自身的计算资源对数据进行预处理和导入。本文为您介绍Broker Load导入的使用示例以及常见问题。背景信息 Broker ...
PolarDB PostgreSQL版（兼容Oracle）间的迁移
2.0版本引入了新的查询优化算法和存储引擎，提高了查询速度和并发处理能力，能够更快地处理大量数据，提升数据库的响应能力和性能。此外，2.0版本还引入了许多新的功能和增强功能，提供更好的用户体验和开发者工具。例如，改进了对JSON数据...
离线同步常见问题
读取Loghub同步某字段有数据但是同步过来为空 读取Loghub同步少数据 读取Loghub字段映射时读到的字段不符合预期 读取kafka配置了endDateTime来指定所要同步的数据的截止范围，但是在目的数据源中发现了超过这个时间的数据 Kafka中数据量少...
常见问题
以下为您介绍实时同步数据至 AnalyticDB for MySQL 3.0操作失败的常见问题和解决方案。...如何处理：加大并发。减小 BatcSsize。Reader端parameter参数中，增加 cursorTimeoutInMs 配置，可以尝试设置大些，例如3600000s。
X-Engine简介
因为目标是面向大规模的海量数据存储，提供高并发事务处理能力和降低存储成本，在大部分大数据量场景下，数据被访问的机会是不均等的，访问频繁的热数据实际上占比很少，X-Engine根据数据访问频度的不同将数据划分为多个层次，针对每个层次...
区域热力层（v3.x版本）
请求地理边界geojson数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如区域热力层配置了API数据源为 https://api.test ，传到 请求地理边界geojson数据接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
采集数据
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据，并且只支持在数据集成模块读取数据。章节目标 将MySQL存储的用户基本信息及OSS存储的网站访问日志，通过数据集成服务将数据同步至...
自定义区域下钻层（v3.x版本）
动作 动作 说明 请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如自定义区域下钻层配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 ...
采集数据
本教程提供数据仅作为阿里云大数据开发治理平台DataWorks数据应用实操使用，所有数据均为人工Mock数据，并且只支持在数据集成模块读取数据。章节目标 将MySQL存储的用户基本信息及OSS存储的网站访问日志数据，通过数据集成服务同步至...
区域热力层（v2.x版本）
动作 动作 说明 请求地理边界geojson数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如区域热力层配置了API数据源为 http://api.test ，传到 请求地理边界geojson数据接口 动作的数据为 { id:'1'}，则...
自定义区域下钻层（v4.x版本）
请求数据接口 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如自定义区域下钻层配置了API数据源为 https://api.test ，传到 请求数据接口 动作的数据为 { id:'1'}，则最终请求接口为 https://api.test?id=1 。...
数据标准
因此，数据处理的前奏就是数据标准化，数据标准作为一个统一的数据共识，在标准化中起到重要作用。数据标准落标说明 数据标准落标的意义在于从源头进行数据的标准化生产，加速数据的融合与统一的效率，节省大量数据应用和处理的成本。完成...
基础折线图
动作 动作 说明 请求基础折线图接口描述 重新请求服务端数据，上游数据处理节点或图层节点抛出的数据将作为参数。例如基础折线图配置了API数据源为 https://api.test ，传到 请求基础折线图接口描述 动作的数据为 { id:'1'}，则最终请求...
整体架构
AnalyticDB MySQL版 是基于数据库大数据一体化的理念和趋势，在工程上深度打磨出的云原生数据仓库。技术架构 AnalyticDB MySQL版 采用云原生架构，计算存储分离、冷热数据分离，支持高吞吐实时写入和数据强一致，兼顾高并发查询和大吞吐批...
减灾与应急时空解决方案与案例
公司主营OpenRIS灾害风险大数据平台提供了海量灾害数据的快速地图展示、统计查询、切割下载、上传数据定制化在线分析等功能，实现了灾害数据与模型一体化云服务。在数据与系统上云过程前，遇到了如下挑战：长期积累的时空数据类型多、数据...
- 产品推荐
- 这些文档可能帮助您