什么是云原生数据湖分析
寻求安全的数据处理解决方案。DLA所有的库表及存储的数据都有一整套安全的方案，避免数据被误用。寻求低成本的数据处理方案。DLA方案是完全Serverless的解决方案，是阿里云提供的云原生的数据处理方案。从之前Hadoop体系过渡到数据湖方案。...
资源规划及规格选型
计算W/N的前提是数据处理作业的 cost_cpu 很稳定，而且在这N个小时内，所有作业都随时在运行，不存在任何空闲的计算资源。但是，实际项目可能会因为某些原因导致作业运行时间延长（例如参与计算的数据量增加），相当于W会变大。同时，由于...
外部表常见问题
问题现象 处理OSS数据时，报错 Inline data exceeds the maximun allowed size。产生原因 OSS Store对于每一个小文件有一个大小限制，如果超过3 GB则报错。解决措施 针对该问题，您可以通过调整以下两个属性进行处理。其原理是通过属性值...
流式数据通道概述
MaxCompute流式数据通道服务可以解决流式服务使用批量数据通道写入数据引发的各种问题，优势如下：更优化的数据存储结构，解决高QPS写入导致的碎片文件问题。提供了增量数据异步处理机制，可以在使用过程中无感知情况下对新写入的增量数据...
Transaction Table2.0概述
很多业务场景并不要求延时秒级更新可见或者行级更新，更多的需求是分钟级或者小时级的近实时数据处理叠加海量数据批处理场景，MaxCompute支持基于Transaction Table2.0实现近实时的增全量一体的数据存储、计算解决方案，本文为您介绍本方案...
工况识别-训练
平台上其他数据处理组件。按照平台规范开发的自定义组件。其他参数 参数名 参数描述 是否必填 参数默认值 参数范围 识别方式 工况识别的方式。智能：算法将根据数据情况自动选择合适的方法进行工况类别识别；自定义：需要用户自行选择具体...
SQL概述
提交MaxCompute作业后，会存在几十秒到数分钟不等的排队调度，所以适合处理批作业，提交一次作业批量处理海量数据。不适合直接对接需要每秒处理几千至数万笔事务的前台业务系统。使用向导 如果您需要.参考文档 说明 了解MaxCompute SQL 与...
减灾与应急时空解决方案与案例
方案背景 华宁环球（北京）减灾...特别在栅格数据处理上接口设计简单、功能丰富，并有效解决了困扰一般WebGIS用户的栅格数据处理性能问题。PolarDB云原生架构不仅可保证数据库的安全稳定运行，而且能通过节点的扩缩容实现整体系统的弹性能力。
DB2数据源
否 无 fetchSize 该配置项定义了插件和数据库服务器端每次批量数据获取条数，该值决定了数据同步系统和服务器端的网络交互次数，能够较大的提升数据抽取性能。说明 fetchSize 值过大（>2048）可能造成数据同步进程OOM。否 1024 Writer脚本...
金融大数据
业务架构 架构说明：基于阿里云大数据平台强大的计算能力（离线数据处理、交互式OLAP分析能力、实时流处理）以及分布式可视化算法平台PAI，有机集成了批量和实时多模式计算能力，支持实时信用评分和风险预警。实时决策引擎，通过DTBoost...
使用Tunnel命令或Tunnel SDK
使用Streaming Tunnel SDK上传数据 MaxCompute流式数据通道服务提供了以流式的方式把数据写入MaxCompute的能力，使用与原批量数据通道服务不同的一套全新的API及后端服务。MaxCompute流式数据通道服务应用场景如下。场景 说明 特点 大量...
查看并管理整改流程
或者历史任务中出现过异常，但最新数据处理中已经用不到了，可以选择直接忽略。取消忽略：取消忽略后，将会按照最新一次校验结果确定问题状态。如果校验通过，问题状态是已解决；如果校验不通过，问题状态是未解决。重新校验：仅待处理、已...
查看并管理整改流程
或者历史任务中出现过异常，但最新数据处理中已经用不到了，可以选择直接忽略。取消忽略：取消忽略后，将会按照最新一次校验结果确定问题状态。如果校验通过，问题状态是已解决；如果校验不通过，问题状态是未解决。重新校验：仅待处理、已...
如何处理Tair集群数据倾斜
数据倾斜的原因与处理方法 请提前规划业务增长率，合理地拆分大Key，并保持规范的数据写入，才能解决数据倾斜的根源问题。产生倾斜原因 说明 处理方法 大Key 大Key通常以Key的大小和Key中成员的数量来综合判定。常见于在KKV（Key-key-value...
如何处理Redis集群数据倾斜
数据倾斜的原因与处理方法 请提前规划业务增长率，合理地拆分大Key，并保持规范的数据写入，才能解决数据倾斜的根源问题。产生倾斜原因 说明 处理方法 大Key 大Key通常以Key的大小和Key中成员的数量来综合判定。常见于在KKV（Key-key-value...
迁移 Oracle 数据库的数据至 OceanBase 数据库 Oracle...
本文为您介绍如何使用数据传输迁移 Oracle 数据库的数据至 OceanBase 数据库 Oracle 租户。重要 如果数据迁移项目长期处于非活跃状态（项目状态为 失败、已暂停 或 已完成），受增量日志保留时长等影响，项目可能无法恢复。数据传输将主动...
产品优势
基于对象存储OSS中的文档、图片、...丰富数据处理 结合业界先进的识别、处理能力，为应用处理提供丰富的功能支持。简化运维 提供Serverless化服务，无需关心业务运维。场景化一站式解决方案 面向场景的构建快捷的元数据管理，快速实现应用。
功能更新动态（2022年之前）
2021年08月 功能名称 功能描述 发布时间 发布地域 相关文档 产品计费：策略优化及数据处理单元规格拓展 同步任务和集成任务对应的数据处理单元由1:1修改为3:1，且前200个集成任务免费，进一步降低数据上云成本。同时，手动任务、汇总逻辑表...
产品优势
弹性能力和扩展性 AnalyticDB MySQL版 采用云原生技术架构，实现了存储计算分离，计算资源与存储资源能 按需动态扩缩，解决业务增长和波动带来的计算或存储资源瓶颈问题，同时最大限度降低成本。高性能&低成本 超大规模数据写入实时可见，...
操作流程
节点模式操作流程 节点模式主要适用于计算节点相对独立，整个流程由单个节点组成的这类简单数据处理场景。新建开发节点流程图 流程说明 操作 说明 新建开发节点 根据待处理的数据类型，选择对应的节点类型，新建开发节点处理该类数据。具体...
操作流程
节点模式操作流程 节点模式主要适用于计算节点相对独立，整个流程由单个节点组成的这类简单数据处理场景。新建开发节点流程图 流程说明 操作 说明 新建开发节点 根据待处理的数据类型，选择对应的节点类型，新建开发节点处理该类数据。具体...
审计日志
脚本任务 ChangeDataNode 修改数据处理任务（周期或手动任务）。DeleteDataNode 删除数据处理任务（周期或手动任务）。文件 AddFile 创建临时查询及目录。DeleteFile 删除临时查询及目录。ChangeFile 修改临时查询、重命名临时查询及目录。...
文档更新动态（2022年之前）
通用功能 概述 2020-04-09 数据处理 功能拓展 新增实时数据处理，帮助您处理实时计算任务。通用功能 实时数据处理 2020-04-09 实时元表 新增功能 为您介绍如何查看实时元表的详情。通用功能 元表详情 2020-04-09 函数权限 新增功能 为您...
功能简介
在实际的业务系统中，数据来源多种多样的，不同数据对数据处理的时延和数据量的要求不同，这就需要综合多种不同的平台，包括批量、流式环境等。进行数据处理时，上一个平台计算完毕后把数据传递给下一个平台进行计算，多个平台互相配合来...
功能简介
在实际的业务系统中，数据来源多种多样的，不同数据对数据处理的时延和数据量的要求不同，这就需要综合多种不同的平台，包括批量、流式环境等。进行数据处理时，上一个平台计算完毕后把数据传递给下一个平台进行计算，多个平台互相配合来...
数据开发
在实际的业务系统中，数据来源多种多样，不同数据对数据处理的时延和数据量的要求不同，这就需要综合多种不同的平台，包括批量、流式环境等。进行数据处理时，上一个平台计算完毕后把数据传递给下一个平台进行计算，多个平台互相配合来完成...
查看并管理治理工作台
您可以在治理工作台查看数据质量在校验过程中的出错情况及针对该质量校验问题发起整改、忽略、通知等治理操作，从而实现资产质量从制定计划到实现整改的PDCA完整流程，有效提升数据质量。本文为您介绍如何查看并管理治理工作台。权限说明 ...
查看并管理治理工作台
您可以在治理工作台查看数据质量在校验过程中的出错情况及针对该质量校验问题发起整改、忽略、通知等治理操作，从而实现资产质量从制定计划到实现整改的PDCA完整流程，有效提升数据质量。本文为您介绍如何查看并管理治理工作台。权限说明 ...
数据导入性能优化
云原生数据仓库AnalyticDB MySQL版 提供的多种数据导入方法，满足不同...保证数据处理速度，排查数据生产消费是否同步，保证有足够的数据等待导入 AnalyticDB MySQL。保证客户端机器负载，检查CPU使用率或磁盘IO使用率等系统资源是否充足。
数据导入性能优化
云原生数据仓库AnalyticDB MySQL版 提供的多种数据导入方法，满足不同...保证数据处理速度，排查数据生产消费是否同步，保证有足够的数据等待导入 AnalyticDB MySQL。保证客户端机器负载，检查CPU使用率或磁盘IO使用率等系统资源是否充足。
LRU 存储
capacity 容量，实际容量会比这个大一些，解决缓存满时添加数据的性能问题。userDependent 是否与用户相关，如果与用户相关，当 APDataCenter.currentUserId 为空时缓存无法操作；当切换用户后，缓存会自动指向当前用户的表，业务无须关心...
离线集成概述
解决企业复杂大数据批处理难题，支持企业精细化运营、数据营销、智能推荐等大数据业务场景。离线集成功能底层基于Spark开发，支持提升Hadoop平台运行速度的应用场景。说明 如果您在使用该功能的过程中有任何疑问或问题，请使用钉钉搜索钉钉...
Slowly Changing Dimension
示例中通过两次批量写入代替流式写入的方式模拟G-SCD on Delta Lake的数据处理。步骤三：验证数据写入结果 通过查询语句，验证数据是否写入成功。步骤一：创建G-SCD表 创建G-SCD表的示例如下，该表会在 步骤二：处理数据 使用。CREATE ...
离线同步并发和限流之间的关系
实践内容 并发数 阅读此部分，您可以解决和理解如下问题：问题一：如何配置数据同步任务的并发数？问题二：为什么我的数据同步任务跑的比较慢，实际运行的并发数不够？问题三：为什么我的同步任务并发数配置的很高，但是任务运行速度仍然很...
通过操作审计查询行为事件日志
DIBatchDeleteAlarmRule 运维中心数据集成批量删除告警规则 DIUpdateAlarmRule 运维中心数据集成修改告警规则 DISaveSolution 数据集成主站新建或修改保存解决方案 DIDeleteSolution 数据集成主站删除解决方案 DIStartSolution 数据集成主...
常见问题概览
实例的节点故障处理机制 解决因磁盘空间耗尽导致的锁定或无法写入问题 云数据库MongoDB版释放数据库空间 云数据库MongoDB版的监控采集粒度是多少？账号与权限 热点问题 其他常见问题 实例创建时指定的root账号拥有什么权限？云数据库...
查看并管理手动运行补数据任务
③ 批量操作区 您可以通过批量操作区域提供的批量操作功能，对补数据任务进行批量处理，提高操作效率。具体操作，请参见。手动运行补数据任务支持的批量操作。手动运行补数据任务列表支持的操作 操作 描述 手动运行 立即运行当前补数据任务...
常见问题
非插件报错原因及解决方案 如何处理编码格式设置/乱码问题导致的脏数据报错？任务存在SSRF攻击Task have SSRF attacks如何处理？离线同步任务执行偶尔成功偶尔失败。离线同步源表有加列（修改）如何处理？如何处理表列名有关键字导致同步...
客户案例
MaxCompute已被广泛应用于各大领域处理云上大数据，帮助众多企业解决了海量数据分析问题，同时降低企业运维成本，企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息，请参见 行业客户案例...
查看并管理手动运行补数据任务
③ 批量操作区 您可以通过批量操作区域提供的批量操作功能，对补数据任务进行批量处理，提高操作效率。具体操作，请参见 手动运行补数据任务支持的批量操作。手动运行补数据任务列表支持的操作 操作 描述 手动运行 立即运行当前补数据任务...
- 产品推荐
- 这些文档可能帮助您