本文介绍如何在E-MapReduce中部署TensorFlow模型同步至PAI EAS。

前提条件

  • 已创建Data Science集群，相关注意信息请参见Data Science简介。
  • 已开通PAI的在线模型服务EAS，详情请参见EAS开通与购买指南。
  • 已将Tensorflow SaveModel格式的模型打包成tar.gz文件。tar_jar

背景信息

PAI-EAS的命令行工具eascmd64已经内置在DataScience集群中，可以直接使用。

部署TensorFlow模型

  1. 使用SSH方式登录到集群主节点，详情请参见使用SSH连接主节点。
  2. 创建配置。
    执行以下命令创建EAS的配置。 
    eascmd64 config -i LTAI******* -k 1Hr5GzqNkc8******** -e pai-eas.cn-shenzhen.aliyuncs.com
    各参数描述如下。
    参数 描述
    -i 当前阿里云账号的AccessKey ID。
    -k 当前阿里云账号的AccessKey Secret。
    -e EAS的访问地址（Host）。
    说明 不同区域的Host不同，例如北京的Host是pai-eas.cn-beijing.aliyuncs.com。
  3. 上传模型。

    执行以下命令将模型部署至EAS。 

    eascmd64 upload <model_path>
    说明 <model_path>为模型打包好的文件的名称。
    返回信息如下，请记录好oss tartget path。oss target path
  4. 创建pmml.json文件并部署。
    1. 按照如下示例格式配置pmml.json文件。 
      {
"name": "test_3",
"generate_token": "true",
"model_path": "oss://eas-model-hangzhou/107992689699****/resnet_v1_fp32_savedmodel_NCHW.tar.gz",
"processor": "tensorflow_cpu",
"metadata": {
"instance": 1,
"cpu": 1
}
}
      涉及参数解释如下。
      参数 描述 示例
      name 表示服务的名称，不支持中文字符。 test_3
      model_path 上传模型步骤中返回的oss tartget path。 oss://eas-model-hangzhou/107992689699****/resnet_v1_fp32_savedmodel_NCHW.tar.gz
    2. 执行以下命令完成部署。 
      eascmd64 create pmml.json

查看服务

  1. 登录PAI-EAS控制台。
  2. 在左侧导航栏中，单击模型部署 > EAS-模型在线服务。
    在EAS-模型在线服务页面，可查看服务。eas