AI计算资源使用指南

更新时间:
复制 MD 格式

使用AI计算资源进行AI开发与推理的通用流程:购买资源、创建配额、提交训练任务或部署推理服务。

准备工作

准备AI计算资源

根据业务需求选择合适的计算资源:

  • 通用计算资源:适用于中小规模训练或推理任务。

  • 灵骏智算资源:基于高性能GPU,适用于深度学习、大模型训练及高性能推理场景。

  1. 前往AI计算资源>资源池页面,在灵骏智算资源通用计算资源页签购买资源,详情请参见资源池

  2. 前往AI计算资源>资源配额(Quota)页面,创建资源配额来分配资源。资源配额用于控制各团队或工作空间可使用的算力上限。详情请参见创建资源配额

准备数据集(可选)

PAI支持使用OSS、NASCPFS等外部数据源作为数据集,用于存储训练数据和结果文件,同时可扩展存储空间。创建数据集的方法请参见创建及管理数据集

使用灵骏智算资源进行训练时,如果对数据读取速度有较高要求,建议选择智算CPFS类型数据集。

您还可以为数据集开启加速功能,提升数据访问效率。详情请参见PAI平台使用数据集加速器

说明

目前,智算CPFS类型的数据集不支持开启加速功能。

准备自定义镜像环境(可选)

PAI提供官方镜像(前往AI资产管理>镜像页面查看),也支持自定义镜像。使用灵骏智算资源提交训练任务时,自定义镜像必须安装RDMA库才能使用RDMA。要求及配置方法如下:

环境要求

  • CUDA >= 11.2

  • NCCL >= 2.12.10

  • Python3

安装RDMA

使用自定义镜像时,需在Dockerfile中手动安装RDMA库。安装RDMA库的示例代码如下。

RUN apt-get update && \
    apt-get install -y --allow-downgrades --allow-change-held-packages --no-install-recommends libnl-3-dev libnl-route-3-dev libnl-3-200 libnl-route-3-200 iproute2 udev dmidecode ethtool && \
    apt-get clean && \
    rm -rf /var/lib/apt/lists/*
RUN cd /tmp/ && \
    wget http://pythonrun.oss-cn-zhangjiakou.aliyuncs.com/rdma/nic-libs-mellanox-rdma-5.2-2/nic-lib-rdma-core-installer-ubuntu.tar.gz && \
    tar xzvf nic-lib-rdma-core-installer-ubuntu.tar.gz && \
    cd nic-lib-rdma-core-installer-ubuntu && \
    echo Y | /bin/bash install.sh && \
    cd .. && \
    rm -rf nic-lib-rdma-core-installer-ubuntu && \
    rm -f nic-lib-rdma-core-installer-ubuntu.tar.gz

使用资源进行AI开发和服务部署

提交分布式训练(DLC)任务

前往分布式训练(DLC)页面,单击新建任务,并在新建任务页面配置以下关键参数,其他参数配置说明请参见创建训练任务

参数

描述

环境信息

节点镜像

选择PAI预置的官方镜像或自定义镜像。

数据集

单击自定义数据集,选择已创建的OSS、NASCPFS类型数据集。

资源信息

资源类型

支持灵骏智算通用计算两种资源类型。

资源来源

选择资源配额

资源配额

选择已创建的灵骏智算或通用计算资源配额。

任务资源

填写节点资源申请量,包括GPU(卡数)、CPU(核数)、内存(GiB)和共享内存(GiB)。

创建交互式建模(DSW)实例

前往交互式建模(DSW)页面,单击新建实例,并在新建实例页面配置以下关键参数,其他参数配置说明请参见创建DSW实例

参数

描述

资源信息

资源类型

选择资源配额

资源配额

选择已创建的灵骏智算和通用计算资源配额。

资源规格

填写资源申请量,包括GPU(卡数)、CPU(核数)、内存(GiB)和共享内存(GiB)。

环境信息

镜像配置

选择PAI预置的官方镜像或自定义镜像。

数据集挂载

单击自定义数据集,选择已创建的OSS、NASCPFS类型数据集。

部署EAS服务

前往模型在线服务(EAS)页面,单击部署服务,并在自定义模型部署区域,单击自定义部署,然后在自定义部署页面,配置以下关键参数,其他参数配置说明请参见自定义部署

参数

描述

环境信息

镜像配置

选择PAI预置的官方镜像或自定义镜像。

代码配置

单击自定义数据集,选择已创建的OSS、NASCPFS类型数据集。

资源信息

资源类型

选择资源配额

资源配额

选择已创建的灵骏智算资源配额。

部署资源

填写资源申请量,包括CPU(核数)、内存(GB)和GPU(卡数)。