注意事项
PAI-PPU训练镜像仅支持在PAI平台内(包含DSW、DLC、EAS等模块)使用。
PAI-PPU推理镜像仅支持在PAI-EAS中使用,不支持其他环境。
此版本官方镜像仅支持2.0.0版本驱动(2e1b14),请在使用时选择正确版本。
本次镜像默认使用aiext-pypi源,仅限被授权账号使用。请确保您的主账号UID已经加白,并使用RAM角色启动DSW/DLC实例。DSW/DLC以RAM角色启动示意(PAI默认角色或任意自定义角色均可)。
说明主账号如需要加白,请联系您的销售经理(PASA)。
子账号无需重复加白。
DSW

DLC

主要更新
支持区域:乌兰察布、北京、上海、杭州、上海金融云、乌兰察布专属云。
PPU SDK更新至 2.0.0。
EIC SDK更新至 1.3.9-v2603.1。
适配驱动更新至2.0.0-2e1b14。
训练镜像更新:
新增支持CUDA 12.9 + PyTorch 2.8组合,此为主推环境组合,具备最佳的适配性和稳定性,推荐使用。
同时支持以下常见CUDA、PyTorch组合,可按需选择:
CUDA 12.9 + PyTorch 2.9
CUDA 12.8 + PyTorch 2.6
CUDA 12.6 + PyTorch 2.6
CUDA 12.4 + PyTorch 2.4
CUDA 12.3 + PyTorch 2.4
CUDA 12.1 + PyTorch 2.0
CUDA 11.6 + PyTorch 2.0
推理镜像更新:
升级vLLM版本至0.16.0。
升级SGLang版本至0.5.8。
镜像内容
训练镜像
镜像名称 | 操作系统 | PPU SDK | EIC SDK | DeepEP | CUDA | Python | PyTorch | 镜像地址 |
ppu-training:2.0.0-pytorch2.9.0-ppu-py312-cu129-ubuntu24.04 | Ubuntu2404 | 2.0.0 | 1.3.9-v2603.1 | 支持 | 12.9 | 3.12 | 2.9 | dsw-registry-vpc.cn-beijing.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.9.0-ubuntu24.04-cuda12.9-py312-01ebc85b-71d0fea6 |
ppu-training:2.0.0-pytorch2.8.0-ppu-py312-cu129-ubuntu24.04 | Ubuntu2404 | 2.0.0 | 1.3.9-v2603.1 | 不支持 | 12.9 | 3.12 | 2.8 | dsw-registry-vpc.cn-beijing.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.8.0-vllm0.11.1-ubuntu24.04-cuda12.9-py312-537954a4-1f7150ea |
ppu-training:2.0.0-pytorch2.6.0-ppu-py312-cu128-ubuntu24.04 | Ubuntu2404 | 2.0.0 | 1.3.9-v2603.1 | 不支持 | 12.8 | 3.12 | 2.6 | dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.6.0-sglang0.4.6.post1-ubuntu24.04-cuda12.8-py312-537954a4-9e69b38c |
ppu-training:2.0.0-pytorch2.6.0-ppu-py312-cu126-ubuntu24.04 | Ubuntu2404 | 2.0.0 | 1.3.9-v2603.1 | 不支持 | 12.6 | 3.12 | 2.6 | dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.6.0-ubuntu24.04-cuda12.6-py312-537954a4-1dc7a7a8 |
ppu-training:2.0.0-pytorch2.4.0-ppu-py310-cu124-ubuntu22.04 | Ubuntu2404 | 2.0.0 | 1.3.9-v2603.1 | 不支持 | 12.4 | 3.10 | 2.4 | dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.4.0-ubuntu22.04-cuda12.4-py310-fixep-0b57d024-0826fc6f |
ppu-training:2.0.0-pytorch2.4-ppu-py310-cu123-ubuntu22.04 | Ubuntu2204 | 2.0.0 | 1.3.9-v2603.1 | 支持 | 12.3 | 3.10 | 2.4 | dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.4.0-ubuntu22.04-cuda12.4-py310-fixep-0b57d024-0826fc6f |
ppu-training:2.0.0-pytorch2.0-ppu-py38-cu121-ubuntu20.04 | Ubuntu2004 | 2.0.0 | 1.3.9-v2603.1 | 不支持 | 12.1 | 3.8 | 2.0 | dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.0-ubuntu20.04-cuda12.1-py38-01ebc85b-376af9ab |
ppu-training:2.0.0-pytorch2.0-ppu-py38-cu116-ubuntu20.04 | Ubuntu2004 | 2.0.0 | 1.3.9-v2603.1 | 不支持 | 11.6 | 3.8 | 2.0 | dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.0-ubuntu20.04-cuda11.6-py38-537954a4-f8fdc9b1 |
推理镜像
镜像名称 | 操作系统 | PPU SDK | EIC SDK | DeepEP | CUDA | 引擎 | 镜像地址 |
vllm:0.16.0-xpu2.0.0 | Ubuntu2404 | 2.0.0 | 1.3.9-v2603.1 | 支持 | 12.9 | vLLM 0.16.0 | eas-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai-eas/vllm:0.16.0-xpu2.0.0-accl |
sglang:0.5.8-xpu2.0.0 | Ubuntu2404 | 2.0.0 | 1.3.9-v2603.1 | 支持 | 12.9 | SGLang 0.5.8 | eas-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai-eas/sglang:0.5.8-xpu2.0.0-accl |
上述训练镜像仅限在PAI-DSW、PAI-DLC中使用,推理镜像仅限在PAI-ModelGallery、PAI-EAS中使用
建议直接从PAI官方镜像列表中选择,详见:获取方式
如需在PAI内直接使用镜像地址,需将{region-id}字段根据实际区域替换:
乌兰察布:wulanchabu
北京:beijing
上海:shanghai
杭州:hangzhou
上海金融云:cn-shanghai-finance-1
乌兰察布专属云:cn-wulanchabu-acdr-1
获取方式
PAI内直接获取
在PAI的工作空间中,切换到“镜像”界面,可以看到PAI官方镜像列表,即可查看PAI-PPU官方镜像。

在PAI各子产品中新建实例,例如新建DSW实例,可以选择官方镜像,通过“芯片类型”即可快速筛选出PAI-PPU官方镜像。

通过Model Gallery使用推理镜像
在Model Gallery中,在部署界面中,选择“单机-GP7V机型”部署方式,即可使用PAI-PPU系列推理镜像。

常见问题
Q:如何查看当前使用镜像中各组件版本?
可通过以下方法查看各组件版本:
PPU SDK版本:
cat /usr/local/PPU_SDK/release.yamlEIC SDK版本:
dpkg -l | grep eic操作系统版本:
cat /etc/issueCUDA版本:
nvcc --versionPython版本:
python --versionPyTorch版本:
python -c "import torch; print(torch.__version__)"vLLM版本:
pip list | grep vllmSGLang版本:
pip list | grep sglang
Q:如何查看当前镜像中使用的PIP源?
可使用以下命令查看当前使用的PIP源:
pip config list在返回的结果中,查看“:env:.index-url”字段,例如:

官方镜像中内置的PIP源应以“aiext-pypi”开头(如上图所示)。
Q:PIP源被修改,如何改回原有的PIP源?
如果不慎修改了官方镜像内置的PIP源,可通过以下命令重新安装。
pip install aiext-pypi-plugin -i http://mirrors.cloud.aliyuncs.com/aiext-pypi/aiext-pypi-plugin/simple --trusted-host mirrors.cloud.aliyuncs.com
export PIP_INDEX_URL=https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/pypi_index/simple/