全部产品

EAIS快速入门

如果您初次使用弹性加速计算实例EAIS,请参见本文内容体验EAIS的完整使用流程,帮助您快速上手EAIS。

背景信息

本教程将引导您创建一台深圳地域,eais.ei-a6.2xlarge规格的EAIS实例,并以公开的resnet50模型为例,带您体验基于目标检测的推理场景下,使用EAIS进行加速的完整操作流程。

步骤一:创建ECS实例

  1. 登录并前往ECS实例创建页

    说明

    如果未注册阿里云账号,请先注册账号。具体请参见阿里云账号注册流程

  2. 创建一台专有网络类型的按量计费ECS实例,来作为EAIS实例的绑定目标。具体操作,请参见创建ECS实例

步骤二:创建EAIS实例

  1. 登录EAIS控制台

  2. 在左侧导航栏,选择弹性加速计算实例 EAIS > 弹性加速计算实例列表

  3. 单击创建弹性加速计算实例,跳转至购买页面。

    创建EAIS
  4. 选择地域和可用区华南1(深圳)

    地域及可用区
  5. 设置实例名称eais_test

    实例名称
  6. 选择实例规格eais.ei-a6.2xlarge

    实例规格
  7. 单击立即购买

  8. 确认订单页面,勾选服务协议,然后单击立即开通

    购买EAIS

步骤三:绑定EAIS至ECS实例

  1. 单击管理控制台,前往EAIS控制台

    管理控制台
  2. 在实例列表中,单击实例eais_test所在操作列下的绑定ECS实例

    绑定ECS实例
  3. 绑定ECS实例对话框的选择ECS实例中,选择要绑定的目标ECS实例。

    选择ECS实例
  4. 单击确定

    实例列表每10秒自动刷新,当实例状态由绑定中变为已绑定,表示实例绑定成功。

    已绑定
    说明

    EAIS实例仅支持绑定一台ECS实例,且ECS实例仅支持绑定一个EAIS实例。

步骤四:使用EAIS进行加速

  1. 在实例列表中,单击实例eais_test对应的ECS实例ID,进入该ECS实例控制台。

    ECS ID
  2. 远程登录ECS实例,具体操作参见远程连接ECS实例

    远程连接ECS
  3. 在ECS实例客户端安装Docker软件包。具体操作,请参见安装Docker

  4. 下载EAIS tensorflow serving容器镜像。

    docker pull registry.cn-beijing.aliyuncs.com/ai_beijing/tensorflow_serving:1.14.0-eai

    回显信息如下。

    下载镜像
  5. 将pip软件升级至最新版本。

    pip3 install --upgrade pip

    回显信息如下。

    pip升级
  6. 安装wheel包。

    pip3 install grpcio requests tensorflow-serving-api==1.14.0

    回显信息如下。

    安装wheel包
  7. 下载resnet50模型。

    wget http://download.tensorflow.org/models/official/20181001_resnet/savedmodels/resnet_v1_fp32_savedmodel_NHWC_jpg.tar.gz

    回显信息如下。

    下载resnet50
  8. 解压软件包。

    tar xvf resnet_v1_fp32_savedmodel_NHWC_jpg.tar.gz

    回显信息如下。

    解压resnet50
  9. 使用EAIS TensorFlow Serving容器,启动resnet50推理服务。

    docker run -d -it --network=host --rm -v `pwd`/resnet_v1_fp32_savedmodel_NHWC_jpg:/models/resnet -e MODEL_NAME=resnet -t registry.cn-beijing.aliyuncs.com/ai_beijing/tensorflow_serving:1.14.0-eai

    回显信息如下。

    启动resnet50服务
  10. 安装git。

    yum install -y git
  11. 使用git下载resnet50的推理程序resnet_client_grpc.py

    git clone -b r1.14 --single-branch https://github.com/tensorflow/serving.git

    回显信息如下。

    clone推理程序
  12. 下载要推理的图片到本地。

    wget https://public-ai-datasets.oss-cn-huhehaote.aliyuncs.com/cat.jpg

    回显信息如下。

    下载cat
  13. 运行resnet50的推理程序,查看推理结果。

    python3 serving/tensorflow_serving/example/resnet_client_grpc.py --image=cat.jpg

    您将从执行结果中获取到类别及各类别可能性等推理结果信息,部分内容如下所示。

    outputs {
      key: "classes"
      value {
        dtype: DT_INT64
        tensor_shape {
          dim {
            size: 1
          }
        }
        int64_val: 284
      }
    }

步骤五:解绑EAIS实例

当您完成了推理场景的加速后,如果不再使用该EAIS实例,或需要绑定其他ECS实例,请进行如下解绑操作。

  1. 前往EAIS控制台

  2. 在实例列表中,单击实例eais_test所在操作列下的解绑ECS实例

    解绑ECS实例
  3. 解绑ECS实例对话框中,单击确定

    实例列表每10秒自动刷新,当实例状态由解绑中变为可绑定时,表示实例解绑成功。

步骤六:释放EAIS实例

解绑ECS实例后,您的ECS实例将失去EAIS提供的加速效果。若不再使用此EAIS实例,请进行如下释放实例操作,避免不必要的计费。

  1. EAIS控制台的实例列表中,单击实例eais_test所在操作列下的释放资源

    释放资源
  2. 释放资源对话框中,单击确定,实例将从控制台的实例列表中删除。