开启CNFS NAS计算端分布式缓存
CNFS文件存储计算端分布式缓存可提供多链接访问、元数据缓存、分布式数据缓存等加速能力，并提供端侧性能监控、QoS能力。本文介绍如何在ACK集群中开启CNFS NAS计算端分布式缓存，并通过分布式缓存功能加速读取数据。索引 前提条件 分布式...
开启CNFS NAS计算端分布式缓存
CNFS文件存储计算端分布式缓存可提供多链接访问、元数据缓存、分布式数据缓存等加速能力，并提供端侧性能监控、QoS能力。本文介绍如何在ACK集群中开启CNFS NAS计算端分布式缓存，并通过分布式缓存功能加速读取数据。索引 前提条件 分布式...
迁移Batch批量计算到分布式工作流Argo集群
分布式工作流适合CI/CD、数据处理、仿真计算、科学计算等业务场景。相关参考 了解更多开源Argo工作流内容，请参见 开源Argo Workflows。了解 工作流集群 的功能原理及相关操作，请参见 分布式工作流Argo集群概述。创建工作流集群，具体操作...
产品优势
高性能 支持秒级别调度，轻量级分布式计算可以帮助您完成准实时的大数据跑批。节约成本和提升效率 无机器和人工运维成本，接入简单，提供报警监控。安全防护 多层次安全防护，包括：支持HTTPS，VPC访问。支持用户隔离、命名空间隔离和应用...
功能特性
分布式事务（Distributed Transaction-eXtended，简称 DTX）是蚂蚁集团自主研发的金融级分布式事务中间件，支持跨数据库、跨服务以及混合的方式处理分布式应用，具备多种接入模式和金融级配套功能，本文将主要介绍分布式事务的功能特性。...
应用场景
如果交易服务使用数据访问代理来分库分表，虽然数据访问代理本身不支持分布式事务，但是分布式事务可以轻松和数据访问代理集成，使得数据访问代理具备分布式事务的处理能力，解决分库分表后的跨库分布式事务问题。跨服务的分布式事务 例如...
开通服务
本节介绍如何开通分布式事务服务。前提条件 已注册阿里云账号，并完成实名认证。操作步骤 开通 SOFAStack 产品服务。使用阿里云账号登录 阿里云官网。在上方菜单栏选择 产品与服务>中间件>金融分布式架构 SOFAStack。在 SOFAStack 产品主页...
Pandas API支持
MaxFrame提供了兼容Pandas的API接口，您可以用类似于Pandas的方式来操作MaxCompute中的数据，同时利用MaxCompute强大的分布式计算能力，简化您在大数据环境下的数据处理工作，本文为您介绍Pandas API的支持情况。当前MaxFrame支持的API详情...
功能特性
数据访问代理兼容 MySQL 协议和语法，支持分库分表、平滑扩容、服务升降配、透明读写分离和分布式事务等特性，具备分布式数据库全生命周期的运维管控能力。分库分表 支持 RDS、OceanBase、MySQL 的分库分表。在创建分布式数据库后，只需...
常见问题
如果您使用的是数据访问代理中的分布式事务，因为数据访问代理和分布式事务已经深度集成，部署时是不需要任何依赖的，仅需一行事务开启 SQL 语句就能开启事务。如果您是基于 SDK 方式使用分布式事务，就需要在引入的分布式事务 SDK 的 pom....
2024年
2024-03-27 全部地域 镜像管理 MaxCompute分布式计算框架MaxFrame发布 MaxFrame是由阿里云自研的分布式计算框架，支持Python编程接口、兼容Pandas接口且自动进行分布式计算，同时可直接使用MaxCompute计算资源及数据接口，与MaxCompute ...
任务管理高级配置参数说明
1 子任务单机并发数 并行计算 内存网格 网格计算 分布式模型，单台机器并发消费子任务的个数。5 子任务失败重试次数 并行计算 内存网格 网格计算 分布式模型，子任务失败自动重试的次数。0 子任务失败重试间隔 并行计算 内存网格 网格计算 ...
任务管理高级配置参数说明
1 子任务单机并发数 并行计算 内存网格 网格计算 分布式模型，单台机器并发消费子任务的个数。5 子任务失败重试次数 并行计算 内存网格 网格计算 分布式模型，子任务失败自动重试的次数。0 子任务失败重试间隔 并行计算 内存网格 网格计算 ...
快速入门
本文介绍如何部署并使用分布式链路跟踪实时监控应用依赖、性能等信息并快速查询调用链路。使用分布式链路跟踪前，您需要确保您的运行环境满足以下 前置条件，才可在产品控制台进行 应用分析，查看应用详情，链路搜索 以及 查看应用关联日志...
应用场景
对于传统企业的服务化转型来说，使用分布式框架不是银弹，在解决了传统的单块架构系统随着业务需求的快速变化而面临的挑战后，分布式架构也为研发和运维增加了更大的复杂度和管理成本，基于分布式框架来进行架构改造的应用和业务通常会面临...
参与者接入模式
使用分布式事务涉及两个核心角色：发起方：指的是开启分布式事务的应用系统。参与者：指的是提供分支事务的应用系统。同一个应用系统可能兼具发起方和参与方两个角色。分布式事务目前提供了三种参与者接入模式：TCC 模式、FMT 模式 与 Saga...
参考：渐进式计算
渐进式计算使用示例 第一天新建作业 使用渐进式计算方式查询 时间列 范围为[20200801,20200807]的数据，并设置渐进式计算模式为天。作业脚本如下所示：set odps.progressive.enable=true;set odps.progressive.range.query.input.partition...
产品优势
高性能 支持秒级别调度，轻量级分布式计算可以帮助您完成准实时的大数据跑批。免运维、低成本 无机器和人工运维成本且接入简单。基础版成本是开源自建的三分之一；专业版集成了短信电话报警、日志服务、链路追踪、监控大盘等，无需额外费用...
联系我们
如果您在使用分布式任务调度SchedulerX的过程中有任何疑问和建议，欢迎使用钉钉搜索群号 23103656 加入钉钉群与我们交流。
什么是持续交付
可编排 在分布式计算中，组件灵活可编排，可以支持各种规模的动态部署与服务。通过检测容器状态，分析整体数据和资源状况，合理分配和支持不同业务、不同规模的产品服务，实现高效的持续交付。多样化 多平台支撑，支持多种分支策略，支持...
联系我们
如果您在使用分布式任务调度SchedulerX的过程中有任何疑问和建议，欢迎使用钉钉搜索群号 23103656 加入钉钉群与我们交流。
产品功能
分布式计算 提供简单、易用的分布式编程模型，支持进行大数据批处理。单机 随机挑选一台机器执行。更多信息，请参见 单机。广播 所有机器同时执行且等待全部结束。更多信息，请参见 广播。Map模型 类似于Hadoop MapReduce里的Map。只要实现...
任务管理高级配置参数说明
1 子任务单机并发数 并行计算 内存网格 网格计算 分布式模型，单台机器并发消费子任务的个数。5 子任务失败重试次数 并行计算 内存网格 网格计算 分布式模型，子任务失败自动重试的次数。0 子任务失败重试间隔 并行计算 内存网格 网格计算 ...
使用限制
在使用分布式链路跟踪时，您需要注意以下几点使用限制。限制项 限制范围 限制说明 JDK 语言 JDK 版本 1.8 JDK 版本 1.8 SOFABoot 版本>=3.2.1 如果使用主动上报功能，SOFABoot 版本需要>=3.2.1，否则无此限制。
附录：SOFAStack 产品目录
全局唯一数字序列 数据访问代理支持分布式全局唯一且有序递增的数字序列，满足业务在使用分布式数据库下对主键或唯一键以及特定场景的需求。数据库账号权限体系 数据访问代理支持类单机 MySQL 账号和权限体系，确保不同角色使用的账号操作...
多语言版本分片模型
Python分片任务 Python应用想使用分布式跑批，只需要安装Agent。脚本可以由SchedulerX维护。下载SchedulerX的Agent，并通过Agent部署脚本任务。在SchedulerX中创建Python分片任务，更多信息，请参见 创建调度任务。sys.argv[1]为分片号，...
产品功能
分布式计算 提供简单、易用的分布式编程模型，可以进行大数据跑批。单机：随机挑选一台机器执行。详情请参见 单机。广播：所有机器同时执行且等待全部结束。详情请参见 广播。Map模型：类似于Hadoop MapReduce里的Map。只要实现一个Map方法...
PyODPS概述
使用这些接口最终都会翻译成SQL到MaxCompute计算集群做分布式计算，并且本地几乎没有任何的内存消耗，相比于单机有很大的性能提升。以下以一个分词的示例为例，为您对比两种方式的代码区别。示例场景 用户需要通过分析每天产生的日志字符串...
功能特性
计算 MaxCompute向用户提供了多种经典的分布式计算模型，提供TB、PB、EB级数据计算能力，能够更快速的解决用户海量数据计算问题，有效降低企业成本。功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 ...
FMT 模式参与者
分布式事务支持以 FMT 模式接入 SOFARPC 和 Dubbo 远程服务框架。本文将介绍如何：配置数据源 创建数据表 针对 SOFARPC 或 Dubbo 进行 发布服务 FMT 模式参与者只需要替换数据源，即可将对该数据源的访问纳入到分布式事务中。一个数据源...
多语言版本分片模型
Python分片任务 Python应用想使用分布式跑批，只需要安装Agent。脚本可以由SchedulerX维护。下载SchedulerX的Agent，并通过Agent部署脚本任务。在SchedulerX中创建Python分片任务，更多信息，请参见 创建调度任务。sys.argv[1]为分片号，...
应用场景
基因数据处理 云工作流 可以将多个批量计算分布式作业串联或并行编排，可靠地支持执行时间长、并发量大的大规模计算。如基因数据分析中将基因序列对齐，将所有染色体并行做变异分析，最终将各染色体数据聚合产出结果。云工作流 根据指定的...
MapReduce模型
MapReduce模型的原理和最佳实践，请参见 SchedulerX 2.0 分布式计算原理和最佳实践。SchedulerX 2.0支持MapReduce模型的详细信息，请参见 SchedulerX 2.0 支持 MapReduce 模型。注意事项 所有子任务结果会缓存在Master节点，内存压力较大，...
Map模型
10 子任务全局并发数（仅适用于拉模型）并行计算 内存网格 网格计算 分布式拉模型支持全局子任务并发数，可以进行限流。1,000 发送50条消息的Demo示例（适用于Map模型）@Component public class TestMapJobProcessor extends ...
2024年
MaxFrame是由阿里云自研的分布式计算框架，支持Python编程接口、兼容Pandas接口且自动进行分布式计算，同时可直接使用MaxCompute计算资源及数据接口，与MaxCompute Notebook、镜像管理等功能共同构成了MaxCompute完整的Python开发生态。...
支持的云服务
MaxCompute和DataWorks提供完善的ETL、数据分析、数据地图、数据治理和数据仓库管理能力，并支持SQL、MapReduce、Graph等多种经典的分布式计算模型，能够更快速地解决用户海量数据计算问题，有效降低企业成本，保障数据安全。更多DataWorks...
基础概念
功能概览 使用过程中请注意：iGraph Gremlin语法与开源使用差异 其他相关服务 MaxCompute：大数据计算服务MaxCompute（原名ODPS）是一种快速、完全托管的TB/PB级数据仓库解决方案，提供了完善的数据导入方案以及多种经典的分布式计算模型，...
任务管理
10 子任务全局并发数（仅适用于拉模型）并行计算 内存网格 网格计算 分布式拉模型支持全局子任务并发数，可以进行限流。1,000 在 定时配置 配置向导页，设置定时参数和高级配置参数，然后单击 下一步。定时参数说明如下：配置项 说明 时间...
MapReduce模型
通过MapJobProcessor或MapReduceJobProcessor接口将接入的Worker组成分布式计算引擎进行大数据跑批。相对于传统的大数据跑批（例如Hadoop、Spark等），MapReduce无需将数据导入大数据平台，且无额外存储及计算成本，即可实现秒级别海量数据...
2019年
您可以通过标准的JDBC接口基于MaxCompute执行海量数据的分布式计算查询。2019-11-18 全部区域 JDBC概述 2019-10 功能名称 功能描述 发布时间 发布区域 相关文档 支持一次增加或删除多个分区 MaxCompute的DDL语义升级，支持一次增加或删除多...
- 产品推荐
- 这些文档可能帮助您