使用NAS存储SD模型库并挂载NAS到PAI-EAS加载推理

背景信息

阿里云模型在线服务PAI-EAS（Elastic Algorithm Service）是一种模型在线服务平台，可支持您一键部署模型为在线推理服务或AI-Web应用。它提供的弹性扩缩容和蓝绿部署等功能，可以支撑您以较低的资源成本获取高并发且稳定的在线算法模型服务。

阿里云文件存储NAS是一种分布式的网络文件存储，为ECS、HPC、Docker、BatchCompute等提供安全、无限容量、高性能、高可靠、简单易用的文件存储服务。阿里云NAS支持与阿里云模型在线服务PAI-EAS无缝集成。这使您的模型服务可以像访问本地文件系统一样访问存储在其中一个NAS文件系统上的文件。您需要配置NAS的地域、挂载点等信息。配置成功后，模型服务就可以像访问本地文件系统一样访问指定的NAS文件系统。

Stable Diffusion（简称SD）是一个可通过文本生成图像的扩散模型，基于CLIP模型从文字中提取隐变量，并通过UNet模型生成图片；最后通过逐步扩散、逐步处理图像，优化图像质量。

AIGC（Artificial Intelligence Generated Content）是指通过人工智能技术自动生成内容的生产方式。“文生图”技术是指使用AI绘画创作图片。

费用说明

• 使用在线迁移服务将SD公共模型库转存至NAS时，在线迁移服务将根据迁移类型和迁移场景收取源端请求费用。更多信息，请参见新版计费项。

• 使用PAI-EAS服务，将根据资源组类型及系统盘收取费用。更多信息，请参见EAS计费说明。

• 使用NAS存储SD模型，NAS将根据文件系统类型、存储容量及时长收取文件存储费用，建议搭配NAS资源包使用。更多计费信息，请参见计费概述。

前提条件

• 已开通文件存储NAS服务。

  首次登录文件存储NAS产品详情页时，按照页面引导开通服务。

• 已创建专有网络VPC。如果您还未创建，请前往VPC控制台创建。

• 已在模型库支持迁移的地域开通PAI服务。具体操作，请参见开通PAI并创建默认工作空间。

  单击查看模型库支持迁移的地域

  仅华东1（杭州）、华北2（北京）、华东2（上海）、华北6（乌兰察布）地域的公共模型库支持通过在线迁移服务迁移至NAS文件系统。

步骤一：创建文件系统

您需要创建一个新文件系统存储模型库，实现启用WebUI后模型可切换。本文以创建容量型文件系统为例。

1. 登录NAS控制台。

2. 在概览页面的文件系统选型指南表格中，单击通用型NAS下方的创建。

3. 在创建面板，配置以下参数。

   参数	说明
   地域	必须与待挂载文件系统的服务在同一地域。本教程以华东1（杭州）地域为例。
   可用区	请务必选择交换机所在的可用区，避免跨可用区产生时延。本教程以华东1可用区G为例。
   存储规格	容量型
   协议类型	NFS
   回收站	建议启用，开启回收站后，被删除的文件或目录将暂存在回收站中，有效避免误删。
   生命周期管理	请根据业务场景按需配置。建议不启用。
   加密类型	不加密。
   数据备份	不启用。
   挂载点类型	专有网络。
   专有网络VPC	在下拉框中选择已创建的VPC。
   虚拟交换机	选择VPC下创建的交换机。

4. 单击立即购买，根据页面提示，完成购买。

步骤二：将SD公共模型库转存至NAS

1. 登录在线迁移服务控制台（旧版）。

2. 在左侧导航栏，单击数据地址。

3. 配置源地址（OSS）。

   1. 在管理数据地址页面，单击创建数据地址。

   2. 在创建数据地址面板，配置以下参数，并单击确定。

      参数	示例	说明
      数据类型	OSS	模型库的数据类型。
      数据名称	ossmodel	输入3~63位字符。不支持短划号（-）和下划线（_）之外的特殊字符。
      数据所在区域	华东1（杭州）	选择模型所在区域。 每个地域都存在公共模型库。
      OSS Endpoint	http://oss-cn-hangzhou-internal.aliyuncs.com	根据您数据所在区域，选择一个Endpoint。建议使用内网传输，免去流量费用。 http://oss-cn-endpoint.aliyuncs.com：表示使用HTTP协议的外网Endpoint访问OSS。 https://oss-cn-endpoint.aliyuncs.com：表示使用HTTPS协议的外网Endpoint访问OSS。 http://oss-cn-qingdao-internal.aliyuncs.com：表示使用HTTP协议的内网Endpoint访问OSS。 https://oss-cn-qingdao-internal.aliyuncs.com：表示使用HTTPS协议的内网Endpoint访问OSS。
      Access Key Id	LTAI5tKe2ba65Dq2KGTJ****	输入您登录控制台的账号的访问密钥。
      Access Key Secret	cGsbh4ZdghhLx1AsmV1q6b68Yw****
      OSS Bucket	sdmodel-hangzhou	输入对应region下模型库的Bucket名称。格式为sdmodel-region。 例如，本次迁移地域为华东1（杭州），则Bucket名称为sdmodel-hangzhou。
      OSS Prefix	data-oss	模型库的迁移数据路径data-oss。

4. 配置目的地址（NAS）。

   1. 再次单击创建数据地址。

   2. 在创建数据地址页面，配置以下参数，并单击确定。

      参数	示例	说明
      数据类型	NAS	NAS
      数据名称	painas	输入3~63位字符。不支持短划号（-）和下划线（_）之外的特殊字符。
      数据所在区域	华东1（杭州）	选择模型目的区域。
      NAS来源	阿里云	选择阿里云。
      文件系统	1d0944****	选择步骤一创建的NAS文件系统。
      挂载点	1d0944****-q****.cn-beijing.nas.aliyuncs.com	选择目标NAS对应的挂载点。 重要 目前只支持挂载在VPC网络上的NAS，经典网络暂时不支持。

5. 配置迁移任务，实现模型库转存至NAS。

   1. 在左侧导航栏，选择迁移任务。

   2. 在迁移任务列表页面，单击创建迁移任务。

   3. 在创建迁移任务面板，阅读迁移服务条款协议，选中我理解如上条款，并开通数据迁移服务，单击下一步。

   4. 在弹出的费用提示对话框，单击确认，继续创建。

   5. 在配置任务页签，配置以下参数，单击下一步。

      主要配置参数说明如下，其余配置项保持默认值即可。

      参数	示例	说明
      任务名称	osstopainas	输入3~63位小写字母、数字、短划线（-），且不能以短划线（-）开头或结尾。
      源地址	ossmodel	选择已创建的源地址。
      目的地址	painas	选择已创建的目的地址。
      指定目录	包含，models	选择包含并输入models。

   6. 在性能调优页签的数据预估区域，填写待迁移存储量和待迁移文件个数。

      说明

      为了迁移任务的顺利进行，请尽量准确进行数据预估。更多信息，请参见预估迁移数据。

      • 待迁移存储量：70 GB

      • 待迁移文件个数：50

   7. 可选：在性能调优页签的流量控制区域，设置限流时间段和最大流量，然后单击添加。

      说明

      为了不影响您在线业务的访问，建议您根据业务访问的波峰和波谷来设置迁移时的限流时间段和最大流量。

   8. 单击创建，等待迁移任务完成。

      迁移过程大概需要10分钟，当迁移任务的任务状态为已完成时，您可以单击操作列的管理，查看任务迁移的详情。同时，您也拥有了个人模型库空间，可以挂载到PAI-EAS服务进行推理。

步骤三：在PAI服务中部署NAS

1. 进入PAI-EAS 模型在线服务页面。

   1. 登录PAI控制台。

   2. 在顶部菜单栏，选择地域。本文示例为华东1（杭州）。

   3. 在左侧导航栏单击工作空间列表，在工作空间列表页面中单击待操作的工作空间名称，进入对应工作空间内。

   4. 在工作空间页面的左侧导航栏选择模型部署 > 模型在线服务（EAS），进入模型在线服务（EAS）页面。

2. 在模型在线服务（EAS）页面的推理服务页签，单击部署服务。在弹出对话框中，选择自定义部署，然后单击确定。

3. 在部署服务页面，配置以下参数。

   1. 服务名称：本文示例为sd_nas。

   2. 部署方式：镜像部署AI-Web应用。

   3. 镜像选择：PAI平台镜像。

      • 镜像：stable-diffusion-webui

      • 镜像版本：4.0-standard

        说明

        由于版本迭代迅速，部署时镜像版本选择最高版本即可。

   4. 填写模型配置：选择NAS挂载。

      1. NAS挂载点：选择步骤一创建的文件系统

      2. NAS源路径：/。

      3. 挂载路径：/code/stable-diffusion-webui/data-oss ，挂载NAS文件系统的PAI目录。

   5. 运行命令：镜像的启动命令。在已有命令后面添加--data-dir <挂载路径>。

      示例如下：

      ./webui.sh --listen --port 8000 --skip-version-check --no-hashing --no-download-sd-model --skip-install --api --api-log --time-log --sd-dynamic-cache --data-dir /code/stable-diffusion-webui/data-oss 

4. 在资源部署信息区域，设置资源配置选择参数，其他参数，保持默认值即可。

   • 如果您申请了试用活动，请选择ecs.gn7i-c8g1.2xlarge.limit实例规格。

   • 如果您选择自己创建资源，请选择GPU，ecs.gn7i-c8g1.2xlarge实例规格。

     

5. 在专有网络配置区域，选择与NAS相同的VPC和交换机。

6. 单击部署。

   部署服务需要几分钟，当服务状态为运行中时，即表示服务部署成功。

步骤四：启动WebUI，切换不同的模型进行模型推理

1. 找到您刚创建的服务，单击服务方式列的查看Web应用。

2. 在WebUI页面，进行模型推理验证。

   在文生图页签提示词（Prompt）区域，自定义输入内容，单击生成，即可开启您的AIGC之旅。

   例如，在提示词（Prompt）区域输入cute dog,pink，单击生成，推理结果类似如图所示。

   

后续操作

• 释放PAI-EAS资源

  如果无需继续使用EAS服务，您可以按照以下操作步骤删除模型服务。

  1. 登录PAI控制台。

  2. 在顶部菜单栏，选择地域。

  3. 在左侧导航栏，选择模型部署>模型在线服务（EAS），进入PAI EAS模型在线服务页面。

  4. 在推理服务页面，单击目标服务操作列下的删除，删除模型服务。

• 释放NAS资源

  如果无需继续使用NAS服务，您可以按照以下操作步骤删除文件系统。

  重要

  删除文件系统后，存储在文件系统中的数据将被删除且无法恢复，请在删除前确认数据已不再使用。如果需要继续使用文件系统中的数据，请提前迁移数据。关于迁移数据的更多信息，请参见迁移说明。

  1. 登录NAS控制台。

  2. 在顶部菜单栏，选择地域。

  3. 在左侧导航栏，选择文件系统>文件系统列表。

  4. 在文件系统列表页面，单击目标服务操作列下的图标 > 删除。

  5. 在删除文件系统对话框，确认待删除的文件系统名称，单击确定。