在ACS上使用PPU PIP服务

在启动内层PPU容器的时候要挂载免鉴权必要的环境变量和文件。

# 使用PTG提供的PIP服务
id=$(docker run --network host -tid --privileged {ppu-image-uri} bash)

# 将上述启动容器的命令改造成如下的形式：增加4个ALIBABA_CLOUD*的环境变量和1个文件挂载

# 使用阿里云提供的PIP服务
id=$(docker run --network host -tid --privileged \
-e ALIBABA_CLOUD_OIDC_PROVIDER_ARN=$ALIBABA_CLOUD_OIDC_PROVIDER_ARN \
-e ALIBABA_CLOUD_ROLE_ARN=$ALIBABA_CLOUD_ROLE_ARN \
-e ALIBABA_CLOUD_OIDC_TOKEN_FILE=$ALIBABA_CLOUD_OIDC_TOKEN_FILE \
-e ALIBABA_CLOUD_STS_ENDPOINT=$ALIBABA_CLOUD_STS_ENDPOINT \
-v /var/run/secrets/ack.alibabacloud.com/rrsa-tokens/:/var/run/secrets/ack.alibabacloud.com/rrsa-tokens/ \
{ppu-image-uri} bash)

内部PPU容器内安装免密插件，然后就可以免密使用PIP服务了（与PTG提供的PIP服务相比安装指令只需要替换Index URL，其他方面无区别）。

# 其他Linux软件包安装步骤省略

# 只示意使用阿里云提供的PIP软件安装相关的步骤
## 1. 首先安装免密插件aiext-pypi-plugin
pip install aiext-pypi-plugin -i http://mirrors.cloud.aliyuncs.com/aiext-pypi/aiext-pypi-plugin/simple --trusted-host mirrors.cloud.aliyuncs.com

## 2. 然后就可以正常免密安装相关pip wheel包，比如：
pip install torch==2.5.1 vllm==0.7.3 -i https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/ubuntu_cu123/simple/

## 3. PIP安完成后建议清理环境。
pip uninstall -y aiext-pypi-plugin
rm ~/.netrc   # 按需清理，或者编辑文件仅删除machine aiext-pypi.mirrors.aliyuncs.com相关内容

对Dockerfile做必要的修改，安装免密插件，然后就可以免密使用PIP服务了（与PTG提供的PIP服务相比安装指令只需要替换Index URL，其他方面无区别）。

# 如果使用ACS提供的标准镜像
FROM egslingjun-registry.cn-wulanchabu.cr.aliyuncs.com/egslingjun/{image:tag}

# 其他Dockerfile步骤省略

# 只示意使用阿里云提供的PIP软件安装相关的步骤
## 1. 设置免密相关Env
ARG ALIBABA_CLOUD_STS_ENDPOINT
ARG ALIBABA_CLOUD_OIDC_PROVIDER_ARN
ARG ALIBABA_CLOUD_ROLE_ARN
ENV ALIBABA_CLOUD_STS_ENDPOINT=${ALIBABA_CLOUD_STS_ENDPOINT}
ENV ALIBABA_CLOUD_OIDC_PROVIDER_ARN=${ALIBABA_CLOUD_OIDC_PROVIDER_ARN}
ENV ALIBABA_CLOUD_ROLE_ARN=${ALIBABA_CLOUD_ROLE_ARN}
ENV ALIBABA_CLOUD_OIDC_TOKEN_FILE=/mount/rrsa-tokens/token

## 2. 安装免密插件aiext-pypi-plugin，安装插件限制（暂不支持以python -m pip执行请求）

RUN pip install aiext-pypi-plugin -i http://mirrors.cloud.aliyuncs.com/aiext-pypi/aiext-pypi-plugin/simple --trusted-host mirrors.cloud.aliyuncs.com

## 3. 每一条pip install前都要增加--mount选项，比如：
RUN --mount=type=bind,source=/var/run/secrets/ack.alibabacloud.com/rrsa-tokens,target=/mount/rrsa-tokens \
    pip install torch==2.5.1 -i https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/ubuntu_cu123/simple/
RUN --mount=type=bind,source=/var/run/secrets/ack.alibabacloud.com/rrsa-tokens,target=/mount/rrsa-tokens \
   pip install vllm==0.7.3 -i https://aiext-pypi.mirrors.aliyuncs.com/pg1-pip/ubuntu_cu123/simple/

## 4. PIP安完成后建议清理环境
RUN pip uninstall -y aiext-pypi-plugin

Buildah Pod中buildah build命令添加3个ALIBABA_CLOUD*环境变量，改造如下：

# 使用PTG提供的PIP服务
buildah --storage-driver=overlay build --no-cache -t test:v1 .

# 改造为如下形式，添加4个ALIBABA_CLOUD*的构建参数:

# 使用阿里云提供的PIP服务
buildah --storage-driver=overlay build --no-cache \
--build-arg ALIBABA_CLOUD_OIDC_PROVIDER_ARN=$ALIBABA_CLOUD_OIDC_PROVIDER_ARN \
--build-arg ALIBABA_CLOUD_ROLE_ARN=$ALIBABA_CLOUD_ROLE_ARN \
--build-arg ALIBABA_CLOUD_STS_ENDPOINT=$ALIBABA_CLOUD_STS_ENDPOINT \
-t demo:v1 .