使用EAIS实例

登录EAIS控制台。

在EAIS控制台页面左上角选择实例所在地域。

在实例列表中，单击EAIS实例对应的ECS实例ID，进入该ECS实例控制台。

远程登录ECS实例。具体操作，请参见远程连接ECS实例。

在ECS实例客户端安装Docker软件包。具体操作，请参见安装Docker。

下载EAIS TensorFlow Serving容器镜像。

docker pull registry.cn-beijing.aliyuncs.com/ai_beijing/tensorflow_serving:1.14.0-eai

将pip软件升级至最新版本。

pip3 install --upgrade pip

安装wheel包。

pip3 install grpcio requests tensorflow-serving-api==1.14.0

使用EAIS TensorFlow Serving容器，启动您的模型推理服务。

docker run -d -it --network=host --rm -v  host_ model_path: target_model_path  -e MODEL_NAME=model_name  -t registry.cn-beijing.aliyuncs.com/ai_beijing/tensorflow_serving:1.14.0-eai

• host_model_path：模型文件在ECS客户端的路径。

• target_model_path：模型文件在容器内的目标路径。

• model_name：模型名称。

启动成功后，运行您的模型推理程序。

EAIS将为您的推理程序加速，从而缩短推理时间，快速获取推理结果。