产品概述
什么是批量计算 批量计算（BatchCompute）是一种适用于大规模并行批处理作业的分布式云服务。BatchCompute 可支持海量作业并发规模，系统自动完成资源管理、作业调度和数据加载，并按实际使用量计费。通俗的讲，就是您可以提交一个任意的...
音视频弹性处理
可以在短时间内准备大量的计算资源进行大规模并行转码处理。能简单迁移基于FFmpeg自建的转码服务。方案简介 本示例是将MOV格式文件转换为FLV、AVI、MP4格式的文件，并将转换后的文件存储到对象存储的指定目录中。方案实施如下：上传视频...
扩展性原理
针对这类在线数据库上复杂SQL的处理，PolarDB-X 1.0 额外扩展了单机并行处理器（Symmetric Multi-Processing，简称SMP）和多机并行处理器（DAG）。前者完全集成在 PolarDB-X 1.0 内核中；而对于后者，PolarDB-X 1.0 构建了一个计算集群，...
附录：SOFAStack 产品目录
同时满足异地容灾、低成本快速扩容的需求，能够解决传统集中式架构转型的困难，并通过打造大规模高可用分布式系统架构，来支撑金融业务创新。SOFAStack 由四大领域模块组成：分布式中间件、运维管理（应用 PaaS）、高阶运维保障、研发效能...
控制台发布记录
下载备份文件 从备份文件恢复到自建MySQL数据库 列存索引多机并行执行 列存索引多机并行是由多个只读列存节点组成的一个多机执行组，并提供多机并行执行能力。适用于以下场景：通过多机并行的资源弹升能力扩展CPU和IOPS，降低查询时延。...
基本概念
它是一种为图像和图形运算工作优化的微处理器，适用于大规模并行计算等场景。VM Virtual Machine，虚拟机，指通过软件模拟的具有完整硬件系统功能的、运行在一个完全隔离环境中的完整计算机系统。云边一体 云边一体，又叫云边协同，其中...
快速使用专属集群MyBase
主机故障处理策略 主机故障时，系统的处理策略：自动替换主机：系统会自动替换故障主机。说明 如果故障主机是云盘主机，云盘会自动迁移计算资源以自动替换主机。如果故障主机是非云盘主机，则系统会先将故障主机上的实例迁移走，然后再替换...
故障演练
ADP提供基于线下交付经验设计的丰富故障演练场景，对基础设施、底座、中间件的常见故障场景进行覆盖，涵盖了集群级别的大规模故障以及节点、pod级别的资源故障。部分演练场景为破坏性场景（如机器重启、网卡损坏），可能导致环境状态异常、...
概述
高性能 通过分布式以及优化的底层架构、支持多层调度模式可进行无限拆分，多线程并行处理，显著提升大数据量的批任务处理的性能。可视化集中式管理 通过简易操作的可视化集中式管理平台可对上万个任务节点进行集中化管理，简化运维管理操作...
功能优势
无论您是需要设置集群级别的大规模故障还是应用级别的请求级别细粒度故障，都可以在 AHAS Chaos 找到适合的场景，下图是 AHAS Chaos 提供的部分故障场景。多样的专家经验 AHAS Chaos 将阿里内部多年的故障演练经验浓缩成了专家经验，专家...
添加访问地址
当只读可用区发生故障时会切换至另一个可读可用区。一致性级别 最终一致性。只读可用区与主可用区之间存在数据复制延迟，可能会导致查询结果与主可用区存在一定时间差（具体的访问结果由复制的延迟决定），但最终数据会保持一致。相关操作 ...
基本概念
相比CPU具有众多计算单元和更多的流水线，适合用于大规模并行计算等场景。CUDA NVIDIA推出的通用并行计算架构，帮助您使用NVIDIA GPU解决复杂的计算问题。cuDNN NVIDIA推出的用于深度神经网络的GPU加速库。DeepGPU 阿里云专门为GPU云服务器...
技术原理
原理架构 MPP和只读资源 PolarDB-X 1.0 通过多组DRDS计算节点提供大规模多级并行处理能力（Massively Parallel Processing，简称MPP），针对计算节点进行Scale-out完成MPP处理能力的线性扩展。同时通过AiSQL三节点基于Paxos构建Row-based...
PAI灵骏智算服务概述
PAI灵骏 主要面向图形图像识别、自然语言处理、搜索广告推荐、通用大模型等大规模分布式的AI研发场景，适用于自动驾驶、金融风控、药物研发、科学智能、元宇宙、互联网和ISV等行业。您只需为AI训练所消耗的资源付费，无需建设、调优和运维...
CPFS并行文件存储
秒级故障检测功能：可快速检测坏盘和宕机的服务节点。支持多种数据保障模式：多副本模式：2副本、3副本 纠删码模式：（4+2p）、（4+3p）、（8+2p）、（8+3p）丰富的接口协议 支持POSIX（SMB、NFS）、Object、HDFS等接口协议：NFS v4.0、NFS...
ARMS告警精细管理最佳实践
本文介绍ARMS告警管理如何应对大规模系统的告警配置。背景知识 在告警管理中有一个非常重要的指标Mean Time To Contain（MTTC），MTTC描述了从检测到故障事件到控制和解决该事件所需的平均时间。它是一个关键指标，因为它衡量了一个组织对...
故障演练
但这些措施在故障发生时的有效性、故障恢复工具的真实容灾能力、处理问题人员的熟练度，沟通机制、容灾措施对上层的影响等问题，平时并没有太多的机会验证，往往都是在真实故障中暴露。故障演练就是这个背景下诞生的，沉淀通用的故障场景，...
客户案例
系统成本：另一种解决方案就是采用大多数商业公司使用的 Oracle 提供的 RAC 解决方案，通过共享存储的能力提供数据存储空间的扩容，通过在共享存储上增加计算节点来提供高速的并行处理能力。这套方案都是基于在昂贵的硬件基础和 Oracle ...
企业版和标准版功能对比
支持 支持 弹性并行查询（ePQ）弹性并行查询（Elastic Parallel Query，ePQ）目前支持单机并行和多机并行两种并行引擎，单机并行引擎等效于原有的并行查询，多机并行引擎支持集群内跨节点的自适应弹性调度。支持 支持 SQL引擎查询优化 ...
术语
主地址（Primary Endpoint）主节点的访问点，当发生故障切换（Failover）后，系统会将访问点自动指向新的主节点。集群地址（Cluster Endpoint）整合集群下的多个节点，对外提供一个统一的读写地址，可以设置为只读或读写。集群地址具有自动...
8.0.1和8.0.2版功能对比
支持 支持 热点行优化 PolarDB 在数据库内核层进行了创新性的优化，不但能够自动识别热点行更新请求，而且将一定时间间隔内对同一数据行的更新操作进行分组，不同分组采用流水线的方式并行处理，通过这些优化，极大地提升了系统的性能。...
测试指标
一般扩展能力非常好的应用系统，扩展指标应是线性或接近线性的，现在很多大规模的分布式系统的扩展能力非常好。标准 理想的扩展能力是资源增加几倍，性能就提升几倍。扩展能力至少在70%以上。可靠性指标 双机热备 对于将双机热备作为可靠性...
替换主机
当主机发生故障后，如果您创建 专属集群MyBase 时 主机故障处理策略 选择的是 手动替换主机，则您可以通过手动替换主机来解除故障。前提条件 专属集群MyBase 引擎的为MySQL，且主机存储类型为本地SSD盘。背景信息 当主机发生故障时，系统会...
技术面临的挑战与革新
存储计算分离是近年来分布式系统设计架构的潮流，从2001年开始Google的GFS开创先河地开始使用了普通X86服务器和硬盘搭建了大规模的存储，虽然受限于当时网络的传输速度，和机器间的带宽，还是需要耦合计算和存储节点的分布。但是随着底层...
PolarDB MySQL版8.0.2版本发布日志
修复在B-tree较高或B-tree数据倾斜的大表上执行并行查询操作时，可能存在的并行分片数目过少，或并发worker数据不均衡的问题。8.0.2.2.22 类别 说明 发布时间 新增功能和性能优化 支持为用户授予执行 SHOW_ROUTINE、FLUSH_USER_RESOURCES、...
替换主机
当主机发生故障后，如果您创建 专属集群MyBase 时 主机故障处理策略 选择的是 手动替换主机，则您可以通过手动替换主机来解除故障。前提条件 专属集群MyBase 引擎的为MySQL，且主机存储类型为本地SSD盘。背景信息 当主机发生故障时，系统会...
简介
批量计算服务（Batch Computing Service，简称BatchCompute）是一种适用于大规模并行批处理作业的分布式云服务。我们提供了丰富的API接口，您可以基于此API很方便使用BatchCompute的服务以及开发自己的应用程序。请确保在使用这些接口前，...
PolarDB MySQL版8.0.1版本发布日志
修复RO节点的物理机出现故障时，RW节点在特殊情况下未将其复制关系中断，而引发RW节点刷脏受阻的问题。修复HA后，因表数量过多而引发table cache淘汰导致Autoinc回退的问题。修复多主集群缓存中心重启情况下，读写节点可能无法启动的问题。...
产品概述
云原生数据仓库 AnalyticDB PostgreSQL 版 是一种大规模并行处理（MPP）数据仓库服务，可提供海量数据在线分析服务。云原生数据仓库 AnalyticDB PostgreSQL 版 基于开源项目Greenplum构建，由阿里云深度扩展，兼容ANSI SQL 2003，兼容...
PyODPS概述
如tunnel下载操作、execute操作、to_pandas操作等，因此，很多初始使用PyODPS的用户会试图把数据拉取到本地，处理完成后再上传到 MaxCompute上，很多时候这种方式是十分低效的，拉取数据到本地彻底丧失了MaxCompute的大规模并行能力的优势...
什么是实时数仓Hologres
亚秒级交互式分析 Hologres采用可扩展的大规模并行处理（MPP）架构全并行计算，通过向量化算子发挥CPU最佳算力，基于AliORC压缩存储，面向SSD存储优化IO吞吐，支持PB级数据亚秒级交互式分析体验。在线高性能主键点查 基于行存表的主键索引...
AI助手使用说明
当发生故障或异常时，通过AI助手底层的告警系统可以自动和PAI进行交互，上报故障信息，并根据故障触发阶段和并行策略选择规避故障方法，对故障机自动进行隔离，并从Checkpoint快速恢复任务。AI助手提供的具体功能如下：异常采集和上报：...
并行资源控制策略配置
MULTI_NODES：强制多机并行，最大并行度会随节点数增加而成倍增加，适用于海量数据的分析类大查询。系统资源使用限制 AUTO策略下，PolarDB 会根据数据库的CPU、内存或IOPS资源的使用率来决定是否禁止并行查询计划，并支持在需要并行执行的...
QueryContent-查询文档内容
云原生数据仓库AnalyticDB PostgreSQL版是一种大规模并行处理（MPP）数据仓库服务，可提供海量数据在线分析服务。Metadata object 元数据 Map。string 元数据。{"title":"test"} FileName string 文件名。my_doc.txt LoaderMetadata string...
并行查询配置参数说明
MULTI_NODES：强制多机并行，最大并行度会随节点数增加而成倍增加，适用于海量数据的分析类大查询。records_threshold_for_parallelism Session 若优化器估算出语句中存在扫描记录数超过该阈值的表，优化器会考虑选择并行执行计划。取值...
实时分析链路数据
它的问题表象更多是服务响应变慢或报错，传统的监控无法直观地反映热点现象，所以大部分运维人员都不会第一时间考虑这个因素，从而浪费了宝贵的应急处理时间，造成故障影响面不断扩散。通过调用链分析按IP分组统计链路数据，可以直观地看到...
什么是基因分析平台？
提供计算侧的文件访问缓存加速，支持计算作业直接读写OSS文件，解决并行任务的I/O和吞吐问题 大规模并行计算调度，提供容器/虚拟机执行环境，支持多种异构计算，加速基因分析。工程化的流程执行引擎，支持GA4GH标准（WDL/CWL）,无需迁移...
产品规格
ecs.sccgn6.24xlarge 处理器：2.5 GHz主频的Intel ® Xeon ® Gold 6149（Skylake）vCPU：96 内存：384GiB GPU：8*Nvidia Tesla V100 以太网：30Gbit/s RDMA：50Gbit/s 高效云盘 ESSD云盘 SSD云盘 需要GPU参与的单机或多机并行计算业务，如...
冷备操作手册
在后续运行中，如一体机发生硬件故障，本文档描述如何一键替换主机，快速恢复现场业务。一 支持声明 冷备支持机型 物业管理一体机-停车版、物业管理一体机-人行版、物业管理一体机-视频版、物业管理一体机-EBA版、物业管理一体机-通行版、...
EasyCkpt：AI大模型高性能状态保存恢复
在大规模模型训练中通常采用3D并行或ZeRO系列优化，大多数任务的数据并行副本数大于1，这使得模型训练参数在多个副本上都有备份。因此，当某个GPU设备发生故障时，可以通过其他机器的GPU上保留的副本来实现恢复。针对上述内容提到的大模型...
- 产品推荐
- 这些文档可能帮助您