全部产品
云市场

资源组使用介绍

更新时间:2019-09-02 18:37:42

在EAS中,集群资源会被分为不同的资源组进行隔离,在新建模型服务的时候,用户可以选择部署在默认的公共资源组还是部署在用户独享的预付费资源组中。


公共资源组

目前提供ID为CPU、P4_8CORE的两个公共资源组,后续GPU卡型持续丰富后会更新增加。

在页面部署模型时,只要指定公共资源组,系统会根据用户选定的资源种类将模型部署到对应的公共资源组中。

在EASCMD部署模型时,需要根据是否用到P4卡加速,在resource字段指定资源组为CPU/P4_8CORE

image.png

预付费资源组

预付费专属资源组优势:

  1. 预付费付费方式,对于长期服务来说总成本更低
  2. 专属资源组中支持用户通过自定义processor部署更多类型的模型
  3. 资源组可以和用户自己的VPC进行打通,进行最高效无损的调用


用户创建专属于自己的资源组,托管给EAS服务,后续的模型部署都可以在专属的资源组中进行部署。

一、新建资源组

  • 在控制台点击新建资源组

image.png

  • 跳转至购买页面,选择您需要的资源类型和购买时长

image.png

  • 支付成功后,系统自动开始分配资源,部署资源组,您可以返回控制台查看部署状态image.png


注:可能会因为当前region资源不足等原因,资源组创建失败,退款订单会自动创建,已支付的钱会原路返回


资源组创建完成后,在EAS控制台首页就可以看到当前用户名下的所有资源组,并且可以查看相关信息。在部署模型时也可以选择专属资源组进行部署image.png

二、资源组详情页

在资源组详情页:

  • 用户可以修改资源组名称便于识别和记忆
  • 可以查看资源组中的机器状态,及每台机器的资源量
  • 查看部署在当前资源组的服务列表,并且可以对服务进行操作
  • 对资源组进行升级、续费、开通直连通道等操作

image.png

三、资源组相关操作

  1. 升级:在有效期内提升指定资源组机器数量
  2. 服务续费:增加指定资源组使用时长
  3. 直连通道开通:通过ENI和用户在当前region下的专有网络进行打通,原理及步骤可查看资源组打通专有网络VPC


四、资源组操作权限及授权管理

主账号可以进行资源组的新建(购买)、升级和续费操作。

子账号如需执行上述操作需要主账号的授权,否则不可以执行上述操作。子账号需要得到eas:OperateResourceGroup和AliyunFinanceConsoleFullAccess两个权限。具体授权方式如下:

  1. eas:OperateResourceGroup(需自定义该权限)

    具体授权操作方式,请见PAI EAS简介—子账号授权。在该链接的指引中,有四种自定义权限策略,我们需要选择其中的:对子账号授权关于EAS资源组的操作权限(eas:OperateResourceGroup),进行自定义并授权给子账号。

  2. AliyunFinanceConsoleFullAccess(系统权限,无需自定义)

    阿里云访问控制地址:https://ram.console.aliyun.com/users,进入“用户管理”,选择指定的子账号进行授权image.png
    搜索AliyunFinanceConsoleFullAccess权限,点击“确定”授权。image.png

    通过以上两步授权,子账号即可获得资源组的新建(购买)、升级和续费权限。

    资源类型

    目前支持使用12种资源类型创建资源组(部分region有差别),各资源类型的机器型号及该型号对应的GPU、CPU配置见下表:

    机器型号 GPU配置 CPU配置
    ecs.c5.6xlarge / 24核48G
    ecs.g5.6xlarge / 24核96G
    ecs.gn5i-c4g1.xlarge 1 * Nvidia Tesla P4卡 4 核16G
    ecs.gn5i-c8g1.2xlarge 1 * Nvidia Tesla P4卡 8 核32G
    ecs.gn6i-c4g1.xlarge 1 * Tesla T4卡 4 核15G
    ecs.gn6i-c8g1.2xlarge 1 * Tesla T4卡 8 核31G
    ecs.gn6i-c16g1.4xlarge 1 * Tesla T4卡 16核62G
    ecs.gn6i-c24g1.6xlarge 1 * Tesla T4卡 24核93G
    ecs.gn5-c4g1.xlarge 1 * NVIDIA P100卡 4 核30G
    ecs.gn5-c8g1.2xlarge 1 * NVIDIA P100卡 8 核60G
    ecs.gn5-c28g1.7xlarge 1 * NVIDIA P100卡 28核112G
    ecs.gn6v-c8g1.2xlarge 1 * NVIDIA V100卡 8 核32G