AI计算资源概述

更新时间:
复制 MD 格式

PAI AI 计算资源提供高保障、高性能的 GPU 算力,适用于对延迟和稳定性要求高的训练与推理场景,为 DSW、DLC、EAS 等产品提供底层算力支撑。您可以在资源池中购买计算资源,通过资源配额(Quota)将算力分配给不同团队,绑定到工作空间后即可使用。

资源类型

云原生资源

云原生资源主要应用于 PAI-DSW、PAI-DLC、PAI-EAS,分为以下两种类型:

类型

说明

适用场景

通用计算资源

基于 ECS、ECI、EGS 等云产品,提供灵活、稳定的算力。开通 PAI 后系统自动创建公共资源配额,可直接使用。

常规模型训练和推理、中小规模开发实验。

灵骏智算资源

面向大规模深度学习的高性能算力,基于软硬件一体优化,具备高性能网络互联和存储加速能力。

大模型训练、千卡级分布式训练、对网络和存储带宽要求高的场景。

大数据引擎资源

大数据引擎资源主要应用于 PAI-Designer,包括以下两种类型:

类型

说明

参考文档

大数据计算 MaxCompute

企业级云数据仓库,支持海量数据的高效分析处理。

什么是MaxCompute

核心概念

概念

说明

资源池

购买和管理计算资源的入口。在资源池中创建资源组、购买 GPU 节点,统一管理续费、退订等操作。

资源配额(Quota)

从资源池中划分算力的分配单元。支持创建父子级配额树(Quota Tree),实现按团队或项目分配资源。将配额绑定到工作空间后,该工作空间内的 DSW、DLC、EAS 即可使用对应算力。

资源组

资源池中的逻辑分组,每个资源组对应一批相同类型的计算节点。一个资源配额可关联多个资源组的算力。

使用流程

使用云原生 AI 计算资源的典型流程如下:

  1. 购买资源:在AI 计算资源 > 资源池中创建资源组并购买计算资源。

  2. 创建资源配额:在AI 计算资源 > 资源配额(Quota)中将算力分配给不同团队。详情参见创建资源配额

  3. 绑定工作空间:将资源配额绑定到工作空间,工作空间内的成员即可使用对应算力进行 AI 开发和训练。

  4. 使用资源配额:在创建DSW实例、DLC任务或EAS服务时,资源来源选择创建的资源配额。

说明

大数据引擎资源的配额管理方式不同:MaxCompute 详情参见MaxCompute资源配额,Flink 全托管详情参见Flink全托管资源管理

进阶配置

  • 调度策略:配置队列调度策略,提高出队效率和资源利用率。详情参见调度策略

  • 抢占策略:启用算力抢占,允许任务抢占同级或子级配额的空闲算力。详情参见抢占策略

  • 监控与报警:通过云监控和 ARMS 查看资源使用情况,配置报警通知。详情参见监控与报警

  • 训推一体资源管理:在同一 GPU 集群上同时运行推理服务和训练任务,提高整体利用率。详情参见训推一体资源管理

计费说明

AI 计算资源采用预付费方式(包年包月),费用根据节点规格、数量和购买时长计算。详情参见AI计算资源计费说明