使用自定义镜像部署模型服务

步骤一：环境准备

在开始之前，请确保您已准备好以下环境和资源：

• 专有网络 (VPC)：EAS服务、ECS实例与ACR镜像仓库之间需要通过VPC进行网络通信，以确保镜像推送拉取的稳定性和安全性。

• 容器镜像仓库 (ACR)：用于存储和管理您的自定义镜像。参见使用企业版实例推送和拉取镜像准备一个ACR企业版实例，并创建好所需的命名空间和镜像仓库。

• 开发环境：创建一个配置如下的ECS实例来制作镜像。

  • 实例规格：ecs.u1-c1m2.large

  • 镜像：Alibaba Cloud Linux 3.2104 LTS 64位

  • 扩展程序：Docker社区版

  • 网络：选择的VPC需在ACR企业版实例的“访问控制”中添加，否则将无法推送镜像到ACR镜像仓库。详情请参见为ACR配置专有网络的访问控制。

  说明

  也可以使用本地或其他开发环境。

  • 本地开发环境：安装并运行 Docker，用于在本地构建镜像。

  • 使用DSW开发环境：在DSW实例的操作列中单击制作镜像，系统将构建Docker镜像并保存到阿里云容器镜像服务ACR中，部署时选择自定义镜像即可下拉选择。详情请参见制作DSW实例镜像。

步骤二：准备应用文件

创建一个项目文件夹（例如 my-app），并包含以下三个文件：

1. requirements.txt （应用依赖）

   flask
   gunicorn

2. app.py（Web应用代码）

   from flask import Flask
   
   app = Flask(__name__)
   
   @app.route('/hello/model')
   def hello_world():
       # 此处可以集成您的模型推理或其他业务逻辑
       return 'Hello World from Gunicorn!'
   
   # 注意：无需 app.run()，应用将由 Gunicorn 启动

3. Dockerfile（镜像构建指令） 

   # 1. 使用轻量级的官方Python镜像作为基础
   FROM python:3.9-slim
   
   # 2. 设置工作目录
   WORKDIR /app
   
   # 3. 复制依赖文件并安装，利用Docker缓存机制加速后续构建
   COPY requirements.txt .
   RUN pip install --no-cache-dir -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/
   
   # 4. 复制应用代码
   COPY app.py .
   
   # 5. 声明服务端口
   EXPOSE 8000
   
   # 6. 定义容器默认启动命令（可被EAS控制台的“运行命令”覆盖）
   CMD ["gunicorn", "-w", "4", "-b", "0.0.0.0:8000", "app:app"]

步骤三：构建并推送镜像

1. 打开终端，进入项目文件夹（my-app）。

2. 登录到您的ACR实例。请将命令中的占位符替换为您的实际信息。

   # 示例: docker login --username=your_user my-registry.cn-hangzhou.aliyuncs.com
   docker login --username=<用户名> <ACR仓库域名>

3. 构建Docker镜像并为其打上完整的标签。

   # 示例: docker build -t my-registry.cn-hangzhou.aliyuncs.com/my-namespace/flask-app:v1 .
   docker build -t <ACR仓库域名>/<命名空间>/<镜像仓库名>:<版本号> .

4. 将构建好的镜像推送到ACR。

   # 示例: docker push registry.cn-hangzhou.aliyuncs.com/my-namespace/flask-app:v1
   docker push <ACR仓库域名>/<命名空间>/<镜像仓库名>:<版本号>

步骤四：部署服务

1. 登录PAI控制台，在页面上方选择目标地域，并在右侧选择目标工作空间，然后单击进入EAS。

2. 单击部署服务，选择自定义模型部署 > 自定义部署。

3. 配置以下关键参数：

   • 部署方式：选择镜像部署。

   • 镜像配置：选择镜像地址，填写上一步中推送的完整镜像地址。

     由于本示例使用同一阿里云账号下的ACR，EAS可免密拉取镜像，无需提供用户名和密码。

   • 运行命令：gunicorn -w 4 -b 0.0.0.0:8000 app:app

     逻辑说明：EAS控制台填写的运行命令会覆盖 Dockerfile中的CMD指令。建议将启动命令填写在此处，便于后续调试和修改。

   • 端口号：8000。

   • 部署资源：本示例使用CPU资源即可。如选择公共资源下的ecs.c6.large。

   • 专有网络配置：选择一个VPC、交换机和安全组。

     请确保此处选择的VPC已在ACR实例的“访问控制”中添加，否则将因网络不通导致镜像拉取失败（常见错误为ImagePullBackOff）。

4. 单击部署，当服务状态变为运行中，表示部署成功。

Q：镜像拉取失败（ImagePullBackOff）

• 原因1：网络不通。最常见的原因。请检查EAS服务配置的VPC是否已添加到ACR实例的访问控制白名单中。如跨地域，需通过CEN打通VPC，参见跨地域或从IDC访问ACR企业版实例。如通过公网地址拉取镜像，请确认已为EAS配置能访问公网的VPC专有网络，且为ACR开通公网访问。

• 原因2：认证失败。如果使用需要认证的私有镜像仓库（非本账号下ACR），请检查在镜像配置中填写的认证信息是否正确。

• 原因3：镜像不存在。请检查镜像地址、命名空间和版本号（Tag）是否完全正确，且镜像已成功推送到仓库。

• 原因4：系统盘空间不足。请扩容系统盘。