您可以在ECS实例上安装eais_tool工具，通过执行命令来创建并绑定、解绑并释放EAIS实例。

前提条件

已创建一台ECS实例来作为EAIS实例的绑定目标。ECS实例的创建步骤，请参见创建ECS实例。

使用场景

您可以通过如下几种方式管理EAIS实例：
  • 在EAIS控制台上，创建、绑定、解绑和释放EAIS实例。
  • 在您的ECS实例上，安装eais_tool工具，通过执行命令创建并绑定、解绑并释放EAIS实例。
  • 调用EAIS提供的相关API接口，创建、绑定、解绑和释放EAIS实例。API接口信息，请参见API概览。
  • 调用EAIS提供的SDK，创建、绑定、解绑和释放EAIS实例。SDK信息，请参见SDK概述。
本文介绍eais_tool工具管理EAIS实例的操作。常见场景说明如下：
  • 如果您偶尔申请使用EAIS实例来加速模型推理，则您可以使用EAIS控制台或者eais_tool工具来管理EAIS实例。
  • 如果您频繁申请使用EAIS实例来加速模型推理，则推荐您使用eais_tool工具来管理EAIS实例。

    例如，您某些时段需要使用EAIS来加速模型推理，某些时段没有模型推理的需求，但需要ECS实例处理CPU任务，则您可以选择eais_tool工具来管理EAIS实例。

操作步骤

  1. 远程登录ECS实例。
    具体操作，请参见远程连接ECS实例。
  2. 执行如下命令，安装eais_tool工具。
    pip3 install eais_tool -f https://aiacc-inference-public.oss-cn-beijing.aliyuncs.com/eais/packages/index.html
  3. 执行如下命令，创建并绑定EAIS实例。
    AK_ID=******************* \
AK_SECRET=**************************** \
EAIS_TYPE=eais.ei-a6.XX \
eic run
    命令参数说明如下：
    • AK_ID：您阿里云账号的AccessKey ID。获取AccessKey ID的操作，请参见创建AccessKey。
    • AK_SECRET：您阿里云账号的AccessKey Secret。获取AccessKey Secret的操作，请参见创建AccessKey。
    • EAIS_TYPE：您需要创建的EAIS实例规格。支持创建的实例规格，请参见实例规格。
  4. 使用EAIS执行推理任务。
    说明 运行您的推理程序时，程序内部会自动将原本需要使用GPU加速的推理自动调度到EAIS实例上来加速。
    搭建运行环境、开发模型推理脚本并使用EAIS进行加速推理，具体操作，请参见：
  5. 可选：解绑并释放EAIS实例。
    当您完成了推理后，如果不再使用该EAIS实例，您可以使用如下命令解绑并释放EAIS实例，避免不必要的计费。操作完成后，您的ECS实例将失去EAIS提供的推理加速服务，但不会影响您在CPU上处理的业务。
    AK_ID=******************* \
AK_SECRET=**************************** \
eic release
    命令参数说明如下：
    • AK_ID：您阿里云账号的AccessKey ID。获取AccessKey ID的操作，请参见创建AccessKey。
    • AK_SECRET：您阿里云账号的AccessKey Secret。获取AccessKey Secret的操作，请参见创建AccessKey。