全部产品
云市场

资源组使用介绍

更新时间:2020-03-12 19:01:27

在EAS中,集群资源会被分为不同的资源组进行隔离,在新建模型服务的时候,用户可以选择将模型服务部署在公共资源组上还是部署在用户创建的专属资源组中。

公共资源组及专属资源组的功能对比见下图:

公共资源组 专属资源组
后付费 (按量付费) 预付费 (包年包月) 后付费 (按量付费)
  • 公共计算资源
  • 支持CPU


一、公共资源组

公共资源组提供的资源类型为:CPU资源

1、使用指南

在页面部署模型时(部署指导文档):选择使用公共资源组,然后系统就会根据用户选定将模型部署到公共资源组中。

EASCMD部署模型时,需在resource字段指定资源为:CPU

image.png

2、计费及停止

模型服务一旦部署并处于running状态就会开始计费(详见公共资源组部署计费),请切记及时停止无用的模型服务,以免造成不必要的费用开销

停止计费的方式为:在服务列表对应服务的操作栏中点击“停止”按钮,即可完成服务的停止及计费的停止。注意:请确保被停止的服务当前已不需要使用,以避免不必要的业务损失。

二、专属资源组

专属资源组优势:

  1. 提供预付费、后付费两种付费方式,用户根据需求自由灵活选择
  2. 专属资源组中支持用户通过自定义processor部署更多类型的模型
  3. 专属资源组可以和用户自己的VPC进行打通,进行最高效无损的调用

用户创建专属于自己的资源组,托管给EAS服务,后续的模型部署都可以在专属的资源组中进行部署。

1、类别介绍

专属资源组按照付费方式不同,分为:预付费专属资源组和后付费专属资源组。简称预付费资源组后付费资源组。两种资源组的使用区别见下表:
类型 预付费资源组 后付费资源组
付费方式 包年包月 按量计时消费
资源组操作 扩容、续费 扩容、缩容(停用)

2、使用指南

(1)新建资源组

  • 在控制台点击新建资源组

image.png

  • 跳转至购买页面,选择您需要的机器资源、购买数量、购买时长(仅预付费)
image.pngimage.pngimage.png
  • 支付成功后,系统自动开始分配资源,部署资源组,您可以返回控制台查看部署状态image.png


注:可能会因为当前region资源不足等原因,资源组创建失败,退款订单会自动创建,已支付的钱(预付费)会原路返回。


  • 资源组新建完成后,在EAS控制台首页就可以看到当前用户名下的所有资源组,并且可以查看资源组相关信息。 您可以参考(3)资源组操作进行修改资源组名字,以方便作为后续使用标识。


  • 在部署模型时也可以选择专属资源组进行部署。
image.png

(2)资源组详情页信息

在资源组详情页:

  • 查看资源组ID,资源组ID是资源组的唯一标识,在EASCMD部署时需要用到
  • 修改及查看资源组名称便于识别和记忆,可以使用有业务含义的字符串,在网页部署模型服务时需要根据此名称进行选择使用的资源组
  • 可以查看资源组中的机器状态,及每台机器的资源量
  • 查看部署在当前资源组的服务列表,并且可以对服务进行操作
  • 对资源组进行扩容、缩容、续费、开通VPC高速直连等操作

image.png

(3)资源组操作

  • 扩容:在有效期内提升指定资源组机器数量
  • 续费(仅预付费资源组):增加指定资源组使用时长
  • 缩容(仅后付费资源组):降低指定资源组机器数量,当数量降低为0时,资源组即停止使用
  • VPC高速直连开关:通过ENI和用户在当前region下的专有网络进行打通,原理及步骤可查看资源组开通VPC高速直连


(4)子账号操作权限及授权管理

主账号可以进行资源组的查看读取、新建购买及(3) 资源组操作中提及的管理操作。

子账号如需执行上述操作需要主账号的授权,否则不可以执行上述操作。子账号的各种操作权限点定义及授权方式,请参见EAS权限管理说明

特别的,对于资源组新建(购买)操作,子账号不仅需要按照EAS权限管理说明进行对应权限的授权,还需要额外增加子账号的财务权限,否则子账号无法在购买资源组时下单付款。具体操作方式也可以见EAS权限管理说明-第三节

3、专属资源组计费及停止

预付费资源组为创建前预先付费。

后付费资源组为创建成功后开始计费。资源组创建成功并处于“运行中”状态后就会开始计费(详见专属资源组部署计费),按小时出账单,并扣费(扣费比出账略有延迟)。请切记及时停止无用的资源组,以免造成不必要的费用开销

停止或减少后付费资源组机器使用的方式为:

  • (1)点击资源组操作栏的“缩容/停用”按钮
  • (2)确认被释放的资源当前无需再使用,否则将影响正在运行中的服务
  • (3)确认后,跳转至变配页。您可将机器数配置降低为0,即为停用。您也可将机器数降低为其他当前所需数量,即为缩容(减少机器使用)。机器数修改结束后,点击右下角“去开通”(该文案为通用文案,在此处您可理解为“确认配置修改”的含义)按钮,即可完成“缩容/停用”操作。

4、专属资源组生命周期

4.1 预付费资源组

预付费模式下,您可以选择到期不续费、到期自动续费或到期手动续费。

如您需继续使用PAI服务,请您提前续费或选择自动续费。您应确保您绑定续费的账户余额充足,如您的账户余额不足以支付预付服务费,则无法进行续费,续费不成功。

如您资源组到期且为未续费或续费不成功状态的,资源组将被停止使用。

如您在自到期之日起的15个自然日(360(15X24)个小时)内进行续费操作,即可恢复使用资源组的使用。

如您自到期之日起的15个自然日(360(15X24)个小时)内,仍未执行续费。资源组则将在您实际欠费满15日后,被终止使用并被删除,同时全部相关数据也将会被删除。

4.2 后付费资源组

后付费为按量付费使用,您在开通创建后即开始计费,我们将根据您的使用时长,按计费周期出账单并扣费。当您无需使用时,请及时操作停用资源组以结束计费。

后付费资源组使用期间,您应确保账户可用余额大于等于上个计费周期的账单金额,以确保阿里云可以成功扣费,否则您将处于欠费状态。

如您在欠费状态下24小时内成功付费缴清欠费账单的,您的资源组将不会受到影响;在欠费的24小时之内您仍可使用资源组,且服务持续计费。

如您的欠费状态超过24小时,我们将暂停后付费资源组的使用。

如您自欠费之日起15个自然日(360(15X24)个小时)内充值并结清账单,资源组可被恢复使用。相关数据仍然得以保留;

如您自欠费之日起15个自然日(360(15X24)个小时)内没有充值及结清账单,我们将在您实际欠费满15个自然日起,终止后付费资源组的使用并删除,同时全部相关数据也将会被删除。

5、专属资源组资源类型

目前支持使用14种资源类型创建资源组(部分region有差别),各资源类型的机器型号及该型号对应的GPU、CPU配置见下表:

机器型号 GPU配置 CPU配置
ecs.c5.6xlarge (仅预付费) / 24核48G
ecs.g5.6xlarge (仅预付费) / 24核96G
ecs.g6.4xlarge (仅后付费) / 16核64G
ecs.g6.6xlarge (仅后付费) / 24核96G
ecs.gn5i-c4g1.xlarge 1 * Nvidia Tesla P4卡 4 核16G
ecs.gn5i-c8g1.2xlarge 1 * Nvidia Tesla P4卡 8 核32G
ecs.gn6i-c4g1.xlarge 1 * Tesla T4卡 4 核15G
ecs.gn6i-c8g1.2xlarge 1 * Tesla T4卡 8 核31G
ecs.gn6i-c16g1.4xlarge 1 * Tesla T4卡 16核62G
ecs.gn6i-c24g1.6xlarge 1 * Tesla T4卡 24核93G
ecs.gn5-c4g1.xlarge 1 * NVIDIA P100卡 4 核30G
ecs.gn5-c8g1.2xlarge 1 * NVIDIA P100卡 8 核60G
ecs.gn5-c28g1.7xlarge 1 * NVIDIA P100卡 28核112G
ecs.gn6v-c8g1.2xlarge 1 * NVIDIA V100卡 8 核32G

各机器资源的预付费及后付费计费价格详情请参见PAI-EAS计费文档。