部署通义千问应用

访问ModelScope，获取模型ID。

本示例使用通义千问-7B-Chat模型的v1.1.4版本。在ModelScope找到目标模型后，在模型详情页面顶部可以复制模型ID。

登录弹性容器实例控制台。

在顶部菜单栏左上角处选择地域。

在左侧导航栏，单击数据缓存。

创建通义千问-7B-Chat的数据缓存。

1. 单击创建数据缓存。

2. 完成数据缓存参数配置。

   本文使用的参数示例如下，其中缓存数据源为拉取通义千问-7B-Chat模型的固定配置，其他参数可自定义配置，更多信息，请参见创建数据缓存。

   配置项	示例值
   缓存所属Bucket	test
   缓存所属目录	/model/qwen/
   缓存名	qwen
   缓存大小	20 GiB
   缓存数据源	类型：URL 参数 repoSource：ModelScope/Model repoId：qwen/Qwen-7B-Chat revision：v1.1.4

   

3. 单击确定。

查看数据缓存状态。

在数据缓存页面刷新查看数据缓存状态，当状态为Available时，表示可以使用该数据缓存。

访问ModelScope，获取模型ID。

本示例使用通义千问-7B-Chat模型的v1.1.4版本。在ModelScope找到目标模型后，在模型详情页面顶部可以复制模型ID。

创建通义千问-7B-Chat的数据缓存。

调用CreateDataCache接口创建数据缓存所采用的参数示例如下，表示从ModelScope拉取指定模型数据，保存到名为test的Bucket的/model/qwen/目录。数据缓存名为qwen，保留时长为1天。

{
  "RegionId": "cn-beijing",
  "SecurityGroupId": "sg-2ze7l1o0ql1cbk******",
  "VSwitchId": "vsw-2ze23nqzig8inpr******",
  "Bucket": "test",
  "Path": "/model/qwen/",
  "Name": "qwen",
  "DataSource": {
    "Type": "URL",
    "Options": {
      "#6#repoId": "qwen/Qwen-7B-Chat",
      "#10#repoSource": "ModelScope/Model"
      "#8#revision": "v1.1.4"
    }
  },
  "RetentionDays": 1
}

查询数据缓存状态。

根据返回的数据缓存ID调用DescribeDataCaches接口查询数据缓存信息，当数据缓存的状态（DataCaches.Status）为Available时，表示可以使用该数据缓存。

在弹性容器实例控制台的容器组页面，单击创建弹性容器组。

填写实例相关配置信息，然后单击配置确认。

本文使用的参数示例如下，实例使用GPU规格，并挂载了通义千问模型。实例内容器使用包含通义千问WebUI应用的镜像，容器启动后会运行python Qwen-7B/web_demo.py --server_port 8888启动WebUI。

确认实例配置信息，阅读并选中服务协议，单击确认订单。

返回容器组页面，确认应用部署状态并查看实例的EIP地址。

在容器组页面可以查看实例状态，单击实例ID进入实例详情页可以查看容器状态。当实例状态和容器状态均为运行中时，表示应用部署成功。您可以在IP地址列获取实例的EIP地址。

使用数据缓存创建ECI实例，部署通义千问应用。

调用CreateContainerGroup接口创建ECI实例所采用的参数示例如下，该实例使用GPU规格，并挂载了通义千问模型。实例内容器使用包含通义千问WebUI应用的镜像，容器启动后会运行python Qwen-7B/web_demo.py --server_port 8888启动WebUI。

{
  "RegionId": "cn-beijing",
  "SecurityGroupId": "sg-2ze7l1o0ql1cbk******",
  "VSwitchId": "vsw-2ze23nqzig8inpr******",
  "ContainerGroupName": "qwen-web",
  "InstanceType": "ecs.gn6i-c16g1.4xlarge",
  "DataCacheBucket": "test",
  "Container": [
    {
      "Arg": [
        "-c",
        "python Qwen-7B/web_demo.py --server_port 8888"
      ],
      "Command": [
        "/bin/sh"
      ],
      "Gpu": 1,
      "Name": "qwen",
      "Image": "registry.cn-hangzhou.aliyuncs.com/eci_open/qwen-webui:1.0.0",
      "VolumeMount": [
        {
          "Name": "model-qwen",
          "MountPath": "/data/model"
        }
      ]
    }
  ],
  "Volume": [
    {
      "Type": "HostPathVolume",
      "HostPathVolume.Path": "/model/qwen/",
      "Name": "model-qwen"
    }
  ],
  "DataCacheProvisionedIops": 35000,
  "DataCacheBurstingEnabled": true,
  "AutoCreateEip": true
}

确认应用部署状态。

根据返回的实例ID调用DescribeContainerGroupStatus查询实例和容器状态。当实例状态（Status）和容器状态（ContainerStatuses.State）为Running，表示实例已经创建成功，容器正在运行。

查询实例的EIP地址。

根据返回的实例ID调用DescribeContainerGroups查询实例详情，在InternetIp中可以获取实例的EIP地址。