使用AI计算资源进行AI开发与推理的通用流程:购买资源、创建配额、提交训练任务或部署推理服务。
准备工作
准备AI计算资源
根据业务需求选择合适的计算资源:
-
通用计算资源:适用于中小规模训练或推理任务。
-
灵骏智算资源:基于高性能GPU,适用于深度学习、大模型训练及高性能推理场景。
-
前往AI计算资源>资源池页面,在灵骏智算资源或通用计算资源页签购买资源,详情请参见资源池。
-
前往AI计算资源>资源配额(Quota)页面,创建资源配额来分配资源。资源配额用于控制各团队或工作空间可使用的算力上限。详情请参见创建资源配额。
准备数据集(可选)
PAI支持使用OSS、NAS或CPFS等外部数据源作为数据集,用于存储训练数据和结果文件,同时可扩展存储空间。创建数据集的方法请参见创建及管理数据集。
使用灵骏智算资源进行训练时,如果对数据读取速度有较高要求,建议选择智算CPFS类型数据集。
您还可以为数据集开启加速功能,提升数据访问效率。详情请参见在PAI平台使用数据集加速器。
目前,智算CPFS类型的数据集不支持开启加速功能。
准备自定义镜像环境(可选)
PAI提供官方镜像(前往AI资产管理>镜像页面查看),也支持自定义镜像。使用灵骏智算资源提交训练任务时,自定义镜像必须安装RDMA库才能使用RDMA。要求及配置方法如下:
环境要求
-
CUDA >= 11.2
-
NCCL >= 2.12.10
-
Python3
安装RDMA库
使用自定义镜像时,需在Dockerfile中手动安装RDMA库。安装RDMA库的示例代码如下。
RUN apt-get update && \
apt-get install -y --allow-downgrades --allow-change-held-packages --no-install-recommends libnl-3-dev libnl-route-3-dev libnl-3-200 libnl-route-3-200 iproute2 udev dmidecode ethtool && \
apt-get clean && \
rm -rf /var/lib/apt/lists/*
RUN cd /tmp/ && \
wget http://pythonrun.oss-cn-zhangjiakou.aliyuncs.com/rdma/nic-libs-mellanox-rdma-5.2-2/nic-lib-rdma-core-installer-ubuntu.tar.gz && \
tar xzvf nic-lib-rdma-core-installer-ubuntu.tar.gz && \
cd nic-lib-rdma-core-installer-ubuntu && \
echo Y | /bin/bash install.sh && \
cd .. && \
rm -rf nic-lib-rdma-core-installer-ubuntu && \
rm -f nic-lib-rdma-core-installer-ubuntu.tar.gz使用资源进行AI开发和服务部署
提交分布式训练(DLC)任务
前往分布式训练(DLC)页面,单击新建任务,并在新建任务页面配置以下关键参数,其他参数配置说明请参见创建训练任务。
|
参数 |
描述 |
|
|
环境信息 |
节点镜像 |
选择PAI预置的官方镜像或自定义镜像。 |
|
数据集 |
单击自定义数据集,选择已创建的OSS、NAS或CPFS类型数据集。 |
|
|
资源信息 |
资源类型 |
支持灵骏智算和通用计算两种资源类型。 |
|
资源来源 |
选择资源配额。 |
|
|
资源配额 |
选择已创建的灵骏智算或通用计算资源配额。 |
|
|
任务资源 |
填写节点资源申请量,包括GPU(卡数)、CPU(核数)、内存(GiB)和共享内存(GiB)。 |
|
创建交互式建模(DSW)实例
前往交互式建模(DSW)页面,单击新建实例,并在新建实例页面配置以下关键参数,其他参数配置说明请参见创建DSW实例。
|
参数 |
描述 |
|
|
资源信息 |
资源类型 |
选择资源配额。 |
|
资源配额 |
选择已创建的灵骏智算和通用计算资源配额。 |
|
|
资源规格 |
填写资源申请量,包括GPU(卡数)、CPU(核数)、内存(GiB)和共享内存(GiB)。 |
|
|
环境信息 |
镜像配置 |
选择PAI预置的官方镜像或自定义镜像。 |
|
数据集挂载 |
单击自定义数据集,选择已创建的OSS、NAS或CPFS类型数据集。 |
|
部署EAS服务
前往模型在线服务(EAS)页面,单击部署服务,并在自定义模型部署区域,单击自定义部署,然后在自定义部署页面,配置以下关键参数,其他参数配置说明请参见自定义部署。
|
参数 |
描述 |
|
|
环境信息 |
镜像配置 |
选择PAI预置的官方镜像或自定义镜像。 |
|
代码配置 |
单击自定义数据集,选择已创建的OSS、NAS或CPFS类型数据集。 |
|
|
资源信息 |
资源类型 |
选择资源配额。 |
|
资源配额 |
选择已创建的灵骏智算资源配额。 |
|
|
部署资源 |
填写资源申请量,包括CPU(核数)、内存(GB)和GPU(卡数)。 |
|