在PAI中使用PPU PIP源(v1.7.x)

更新时间:
复制 MD 格式

PPU PIP源提供针对SAIL产品优化的框架和基于PPU SDK重编译的开源库,用户可通过pip install快速搭建生产环境。适用于PPU SDK v1.7.x。

1. PPU PIP源简介

  • PPU PIP源提供针对SAIL产品优化的框架和基于PPU SDK重编译的开源库,用户可通过pip install的方式安装软件包,快速搭建生产环境。若所需包不在PPU PIP源内,则默认从官方PyPI源拉取。

  • PPU PIP源上的软件包随正式PPU SDK发布,并按周持续更新。

  • PPU-PIP包清单持续更新基于PPU SDK v1.7.x的PIP源迭代。

2. PIP包一览表

PPU-PIP包清单为适用于PPU SDK v1.7.x的全部pip安装包一览表。其中“ce”表示基于SAIL SDK编译的开源框架安装包,“oe”表示针对SAIL产品做过性能优化的框架安装包。

3. 命名规则解析

3.1 PIP源地址命名规则(老 OS/CUDA 绑定模式)

以 https://art-pub.eng.t-head.cn/artifactory/api/pypi/ptgai-pypi_ppu_ubuntu_cu118_index/simple/ 为例:

https://art-pub.eng.t-head.cn/artifactory/api/pypi/ptgai-pypi_ppu_

ubuntu_

cu118_

index/simple/

源固定地址

目前仅区分ubuntu和alios,不区分OS具体版本

表示CUDA 11.8

固定格式

3.2 pip源地址命名规则(新地址)

新地址不再包含OS/CUDA信息。从SAIL PIP 1.7.x开始,PIP软件包全部上传到同一地址。安装时PIP会自动识别运行环境,安装与当前CUDA、Torch、Python版本匹配的包。

https://art-pub.eng.t-head.cn/artifactory/api/pypi/pypi_index/simple

相比老的OS/CUDA绑定模式,新源地址更简洁。

过渡期内,老的OS/CUDA绑定模式地址仍可拉取新发布的包,用户可按需选择。

3.3 PIP源安装指令命名规则

以 pip install apex==25.4+ppu1.7.0.ce 为例:

25.4

+ppu

1.7.0

.ce 或者 .oe

框架版本号

固定格式

发布版本

ce:开源(Community Edition)

oe:针对PPU优化(Optimized Edition)

  • ce、oe缺省:不指定包类型时,使用 pip install apex==25.4+ppu1.7.0 也能安装成功。若当前配置下既存在开源PIP包又存在针对SAIL产品优化的PIP包,默认安装优化版本。

  • 发布版本缺省:不指定发布版本时,使用 pip install apex==25.4 安装,默认安装SAIL PIP源上最近发布的apex25.4包。

  • 版本号缺省:不指定版本号时,使用 pip install apex 安装,默认安装SAIL PIP源上框架版本最新的apex,即apex25.9。

4. 实际应用示例

4.1 指定SAIL SDK 1.7.0版本

  • 应用场景:在SAIL SDK 1.7.0发布的Docker镜像:llm:pytorch2.7.0-ubuntu24.04-cuda12.8-sglang0.5.2-py312中安装apex 25.4。

  1. 在pip包一览表中搜索apex,确认该包已发布。

  2. 过滤出apex25.4,并筛选适用于ubuntu24.04、CUDA12.8、PyTorch2.7.0、Python3.12的安装指令,确保包与环境匹配。

pip install apex==25.9+ppu1.7.0 -i https://art-pub.eng.t-head.cn/artifactory/api/pypi/pypi_index/simple

注意:这里需手动加上+ppu1.7.0,以匹配PPU SDK版本。

4.2 不指定SAIL SDK版本,默认安装最新的包

SAIL SDK具备向下兼容性,pip源上的whl包(尤其是ce开源包)在1.7.0 SDK发布一次即可,无需在1.7.1等小版本迭代中重复发布。

pip install apex==25.9 -i https://art-pub.eng.t-head.cn/artifactory/api/pypi/pypi_index/simple

5. 常见问题解决

如遇以下pip源hash值错误,请使用--no-cache参数解决。

image.png

pip install --no-cache-dir torch==2.1.2+ppu1.4.0

也可使用pip cache purge命令清除系统全部pip缓存。

pip cache purge