PAI-PPU-V2.0.0 官方镜像 Release Note

更新时间:
复制 MD 格式

注意事项

  • PAI-PPU训练镜像仅支持在PAI平台内(包含DSW、DLC、EAS等模块)使用。

  • PAI-PPU推理镜像仅支持在PAI-EAS中使用,不支持其他环境。

  • 此版本官方镜像仅支持2.0.0版本驱动(2e1b14),请在使用时选择正确版本。

  • 本次镜像默认使用aiext-pypi源,仅限被授权账号使用。请确保您的主账号UID已经加白并使用RAM角色启动DSW/DLC实例。DSW/DLCRAM角色启动示意(PAI默认角色或任意自定义角色均可)。

    说明
    • 主账号如需要加白,请联系您的销售经理(PASA)。

    • 子账号无需重复加白。

    DSW

    image

    DLC

    image

主要更新

  • 支持区域:乌兰察布、北京、上海、杭州、上海金融云、乌兰察布专属云。

  • PPU SDK更新至 2.0.0。

  • EIC SDK更新至 1.3.9-v2603.1。

  • 适配驱动更新至2.0.0-2e1b14。

  • 训练镜像更新:

    • 新增支持CUDA 12.9 + PyTorch 2.8组合,此为主推环境组合,具备最佳的适配性和稳定性,推荐使用。

    • 同时支持以下常见CUDA、PyTorch组合,可按需选择:

      • CUDA 12.9 + PyTorch 2.9

      • CUDA 12.8 + PyTorch 2.6

      • CUDA 12.6 + PyTorch 2.6

      • CUDA 12.4 + PyTorch 2.4

      • CUDA 12.3 + PyTorch 2.4

      • CUDA 12.1 + PyTorch 2.0

      • CUDA 11.6 + PyTorch 2.0

  • 推理镜像更新:

    • 升级vLLM版本至0.16.0。

    • 升级SGLang版本至0.5.8。

镜像内容

训练镜像

镜像名称

操作系统

PPU SDK

EIC SDK

DeepEP

CUDA

Python

PyTorch

镜像地址

ppu-training:2.0.0-pytorch2.9.0-ppu-py312-cu129-ubuntu24.04

Ubuntu2404

2.0.0

1.3.9-v2603.1

支持

12.9

3.12

2.9

dsw-registry-vpc.cn-beijing.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.9.0-ubuntu24.04-cuda12.9-py312-01ebc85b-71d0fea6

ppu-training:2.0.0-pytorch2.8.0-ppu-py312-cu129-ubuntu24.04

Ubuntu2404

2.0.0

1.3.9-v2603.1

不支持

12.9

3.12

2.8

dsw-registry-vpc.cn-beijing.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.8.0-vllm0.11.1-ubuntu24.04-cuda12.9-py312-537954a4-1f7150ea

ppu-training:2.0.0-pytorch2.6.0-ppu-py312-cu128-ubuntu24.04

Ubuntu2404

2.0.0

1.3.9-v2603.1

不支持

12.8

3.12

2.6

dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.6.0-sglang0.4.6.post1-ubuntu24.04-cuda12.8-py312-537954a4-9e69b38c

ppu-training:2.0.0-pytorch2.6.0-ppu-py312-cu126-ubuntu24.04

Ubuntu2404

2.0.0

1.3.9-v2603.1

不支持

12.6

3.12

2.6

dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.6.0-ubuntu24.04-cuda12.6-py312-537954a4-1dc7a7a8

ppu-training:2.0.0-pytorch2.4.0-ppu-py310-cu124-ubuntu22.04

Ubuntu2404

2.0.0

1.3.9-v2603.1

不支持

12.4

3.10

2.4

dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.4.0-ubuntu22.04-cuda12.4-py310-fixep-0b57d024-0826fc6f

ppu-training:2.0.0-pytorch2.4-ppu-py310-cu123-ubuntu22.04

Ubuntu2204

2.0.0

1.3.9-v2603.1

支持

12.3

3.10

2.4

dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.4.0-ubuntu22.04-cuda12.4-py310-fixep-0b57d024-0826fc6f

ppu-training:2.0.0-pytorch2.0-ppu-py38-cu121-ubuntu20.04

Ubuntu2004

2.0.0

1.3.9-v2603.1

不支持

12.1

3.8

2.0

dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.0-ubuntu20.04-cuda12.1-py38-01ebc85b-376af9ab

ppu-training:2.0.0-pytorch2.0-ppu-py38-cu116-ubuntu20.04

Ubuntu2004

2.0.0

1.3.9-v2603.1

不支持

11.6

3.8

2.0

dsw-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai/training-xpu-pytorch:2.0.0-torch2.0-ubuntu20.04-cuda11.6-py38-537954a4-f8fdc9b1

推理镜像

镜像名称

操作系统

PPU SDK

EIC SDK

DeepEP

CUDA

引擎

镜像地址

vllm:0.16.0-xpu2.0.0

Ubuntu2404

2.0.0

1.3.9-v2603.1

支持

12.9

vLLM 0.16.0

eas-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai-eas/vllm:0.16.0-xpu2.0.0-accl

sglang:0.5.8-xpu2.0.0

Ubuntu2404

2.0.0

1.3.9-v2603.1

支持

12.9

SGLang 0.5.8

eas-registry-vpc.cn-{region-id}.cr.aliyuncs.com/pai-eas/sglang:0.5.8-xpu2.0.0-accl

重要

上述训练镜像仅限在PAI-DSW、PAI-DLC中使用,推理镜像仅限在PAI-ModelGallery、PAI-EAS中使用

建议直接从PAI官方镜像列表中选择,详见:获取方式

如需在PAI内直接使用镜像地址,需将{region-id}字段根据实际区域替换:

  • 乌兰察布:wulanchabu

  • 北京:beijing

  • 上海:shanghai

  • 杭州:hangzhou

  • 上海金融云:cn-shanghai-finance-1

  • 乌兰察布专属云:cn-wulanchabu-acdr-1

获取方式

PAI内直接获取

PAI的工作空间中,切换到“镜像”界面,可以看到PAI官方镜像列表,即可查看PAI-PPU官方镜像。

image

PAI各子产品中新建实例,例如新建DSW实例,可以选择官方镜像,通过“芯片类型”即可快速筛选出PAI-PPU官方镜像。

image

通过Model Gallery使用推理镜像

Model Gallery中,在部署界面中,选择“单机-GP7V机型”部署方式,即可使用PAI-PPU系列推理镜像。

image

常见问题

Q:如何查看当前使用镜像中各组件版本?

可通过以下方法查看各组件版本:

  • PPU SDK版本:

    cat /usr/local/PPU_SDK/release.yaml
  • EIC SDK版本:

    dpkg -l | grep eic
  • 操作系统版本:

    cat /etc/issue
  • CUDA版本:

    nvcc --version
  • Python版本:

    python --version
  • PyTorch版本:

    python -c "import torch; print(torch.__version__)"
  • vLLM版本:

    pip list | grep vllm
  • SGLang版本:

    pip list | grep sglang

Q:如何查看当前镜像中使用的PIP源?

可使用以下命令查看当前使用的PIP源:

pip config list

在返回的结果中,查看“:env:.index-url”字段,例如:

image.png

官方镜像中内置的PIP源应以“aiext-pypi”开头(如上图所示)。

Q:PIP源被修改,如何改回原有的PIP源?

如果不慎修改了官方镜像内置的PIP源,可通过以下命令重新安装。

pip install aiext-pypi-plugin -i http://mirrors.cloud.aliyuncs.com/aiext-pypi/aiext-pypi-plugin/simple --trusted-host mirrors.cloud.aliyuncs.com
export PIP_INDEX_URL=https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/pypi_index/simple/