PAI-PPU 官方镜像简介

更新时间:
复制为 MD 格式

镜像概述

为方便您快速在PAI-PPU(ml.gp7vf.16.40xlargeml.gp7vf.16.46xlarge规格资源)上开始AI开发,PAI-PPU发布了官方镜像,集成PPU SDK、EIC SDK、PAI优化引擎等各层能力,提供开箱即用的体验和最优的性能表现。

发布记录

注意事项

  • PAI-PPU训练镜像仅支持在PAI平台内(包含DSW、DLC、EAS等模块)使用。

  • PAI-PPU推理镜像仅支持在PAI-EAS中使用,不支持其他环境。

  • 各镜像根据包含的PPU SDK版本不同,仅限搭配指定版本的PPU驱动使用,详见PAI-PPU官方镜像与驱动对应表

  • 1.5.2版本开始,镜像中默认使用aiext-pypi源,仅限被授权账号使用。请确保您的主账号UID已经加白并使用RAM角色启动DSW/DLC实例。DSW/DLCRAM角色启动示意(PAI默认角色或任意自定义角色均可)。

    说明
    • 主账号如需要加白,请联系您的销售经理(PASA)。

    • 子账号无需重复加白。

    DSW

    image

    DLC

    image

获取方式

PAI内直接获取

PAI控制台左侧菜单栏单击AI资产管理 > 镜像,可以查看官方镜像列表。通过筛选芯片类型即可查看PAI-PPU官方镜像。

image

PAI各子产品中新建实例,例如新建DSW实例,可以选择官方镜像,通过“芯片类型”即可快速筛选出PAI-PPU官方镜像。

image

通过Model Gallery使用推理镜像

Model Gallery中,在部署界面中,选择“单机-GP7V机型”部署方式,即可使用PAI-PPU系列推理镜像。

image

常见问题

Q:如何查看当前使用镜像中各组件版本?

可通过以下方法查看各组件版本:

  • PPU SDK版本:

    cat /usr/local/PPU_SDK/release.yaml
  • EIC SDK版本:

    dpkg -l | grep eic
  • 操作系统版本:

    cat /etc/issue
  • CUDA版本:

    nvcc --version
  • Python版本:

    python --version
  • PyTorch版本:

    python -c "import torch; print(torch.__version__)"
  • vLLM版本:

    pip list | grep vllm
  • SGLang版本:

    pip list | grep sglang

Q:如何查看当前镜像中使用的PIP源?

可使用以下命令查看当前使用的PIP源:

pip config list

在返回的结果中,查看“:env:.index-url”字段,例如:

image.png

官方镜像中内置的PIP源应以“aiext-pypi”开头(如上图所示)。

Q:PIP源被修改,如何改回原有的PIP源?

如果不慎修改了官方镜像内置的PIP源,可通过以下命令重新安装

第一步:安装鉴权插件

pip install aiext-pypi-plugin -i http://mirrors.cloud.aliyuncs.com/aiext-pypi/aiext-pypi-plugin/simple --trusted-host mirrors.cloud.aliyuncs.com

第二步:修改PIP

  • ≤1.5.3版本(OS绑定格式)

    export PIP_INDEX_URL=https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/ubuntu_<cuda-version>/simple/

    举例:

    https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/ubuntu_cu128/simple/

    https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/ubuntu_cu129/simple/

  • ≥1.6.0版本(OS-free格式)

    export PIP_INDEX_URL=https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/<cuda-version>/simple/

    举例:

    https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/cu128/simple/

    https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/cu129/simple/

  • ≥1.7.0版本(OS/CUDA-free格式)

    export PIP_INDEX_URL=https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/pypi_index/simple/

Q:除了镜像中内置的组件外,如何安装其他需要的组件?

附录

PAI-PPU官方镜像与驱动对应表

镜像版本

适配驱动

PAI-PPU-2.0.0

2.0.0

PAI-PPU-1.7.0

1.6.1

PAI-PPU-V1.6.1_hotfix2

1.5.5

PAI-PPU-1.6.1

1.6.0

PAI-PPU-1.6.0

1.6.0

PAI-PPU-1.5.4

1.5.3

PAI-PPU-1.5.3

1.5.3

PAI-PPU-1.5.2

1.5.2

PAI-PPU-1.5.1

1.5.1

PAI-PPU-1.4.3

1.4.3

PAI-PPU-1.4.2

1.4.2

PAI-PPU-1.4.1

1.4.1

PAI-PPU-1.4.0

1.4.0

PAI-PPU-1.3.2

1.3.2