本文为您介绍如何创建、扩容及停止专属资源组。

背景信息

相比公共资源组,专属资源组具有以下优势:
  • 提供预付费和后付费专属资源组,您可以根据需要灵活选择资源组类型。
  • 支持通过自定义Processor的方式,部署更多类型的模型。
  • 可以和您自己的VPC连通,从而进行高效无损的模型调用。

类别介绍

专属资源组按照付费方式分为预付费专属资源组和后付费专属资源组,简称预付费资源组和后付费资源组 。两者的使用区别如下。
类型 预付费资源组 后付费资源组
付费方式 包年包月 按量计费
资源组操作 扩容、续费及临时扩容 扩容、缩容及停用

创建资源组

  1. 进入PAI EAS模型在线服务页面。
    1. 登录PAI控制台
    2. 在PAI控制台首页,选择模型部署 > EAS-模型在线服务
  2. 创建资源组。
    您可以根据实际需要,创建预付费资源组或后付费资源组:
    • 创建预付费资源组:
      1. PAI EAS模型在线服务页面,单击新建资源组 > 新建预付费资源组(包年包月)
      2. 在购买页面,配置参数。
        参数 描述
        商品类型 选择PAI-EAS资源组预付费
        地域和可用区 系统支持的地域包括:
        • 中国
          • 华东1(杭州)
          • 华东2(上海)
          • 华北2(北京)
          • 华南1(深圳)
          • 中国(香港)
        • 亚太
          • 新加坡(新加坡)
          • 印度尼西亚(雅加达)
        • 欧洲与美洲仅支持德国(法兰克福)
        • 中东与印度仅支持印度(孟买)
        机器资源 系统支持的GPU和CPU规格。
        说明 在不同地域,系统支持的机器资源不同。
        机器数量 取值范围:1~1000。
        购买时长 取值范围:1个月~12个月。
        到期自动续费 到期后,是否自动续费。
      3. 单击立即购买
        支付成功后,系统自动分配资源。您可以在PAI EAS模型在线服务页面,查看已创建的所有资源组或修改资源组名称。
        说明 如果因为当前地域资源不足等原因,导致资源组创建失败,则系统自动创建退款订单,已支付的费用会原路返回。
    • 创建后付费资源组:
      1. PAI EAS模型在线服务页面,单击新建资源组 > 新建后付费资源组(计时收费)
      2. 在购买页面,配置参数。
        参数 描述
        商品类型 选择PAI-EAS资源组后付费
        机器资源 系统支持的GPU和CPU规格。
        说明 在不同地域,系统支持的机器资源不同。
        地域 系统支持的地域包括:
        • 华东1(杭州)
        • 华东2(上海)
        • 华北2(北京)
        • 华南1(深圳)
        • 中国(香港)
        • 新加坡(新加坡)
        • 印度尼西亚(雅加达)
        • 印度(孟买)
        • 德国(法兰克福)
        机器数量 取值范围:1~100。
      3. 单击立即购买

        支付成功后,系统自动分配资源。您可以在PAI EAS模型在线服务页面,查看已创建的所有资源组或修改资源组名称。

查看资源组详情

  1. PAI EAS模型在线服务页面,单击右上方的查看资源组列表
  2. 资源组列表页面,单击待查看资源组的资源组ID
  3. 在资源组详情页面,您可以进行以下操作。
    操作 描述
    查看资源组ID 资源组ID是资源组的唯一标识。通过EASCMD方式部署模型服务时,需要使用该参数。资源组ID
    编辑资源组名称 单击编辑图标,可以编辑资源组名称,建议使用具有业务含义的名称。通过控制台可视化方式部署模型服务时,需要根据资源组名称选择使用的资源组。
    查看资源组中的服务器 单击机器列表页签。
    查看部署在当前资源组的服务列表 单击服务列表页签。
    扩容、临时扩容、服务续费、开通VPC高速直连及SLS日志投递。
    • 扩容:
      1. 单击扩容
      2. 变配页面,选择地域和可用区,并配置机器数量
      3. 选中PAI-EAS预付费服务协议复选框,其他参数使用默认值。
      4. 单击立即购买
    • 临时扩容:
      1. 单击临时扩容
      2. 临时机器购买页面,配置机器数量,其他参数使用默认值。
      3. 单击确认扩容
    • 服务续费:
      1. 单击服务续费
      2. 续费页面,选择购买时长,并选中PAI-EAS预付费服务协议复选框,其他参数使用默认值。
      3. 单击立即购买
    • 开通VPC高速直连:
      1. 打开VPC直连开关。
      2. 开通VPC直连通道页面,选择VPC交换机安全组名称
      3. 单击确认
    • SLS日志投递。

      单击SLS日志投递,并根据提示配置SLS写入。该方式可能会产生相应费用,详情请参见日志服务计费。如果首次使用该服务,则需要先进行角色授权。

管理预付费资源组

  • 扩容
    在资源组的有效期内,提高该资源组的服务器数量。扩容的服务器与原购买的服务器到期时间相同,即原服务器到期后,扩容的服务器也会到期,不能继续使用。具体的扩容操作如下:
    1. PAI EAS 模型在线服务页面的资源组区域,单击预付费资源组下的扩容扩容
    2. 变配页面,选择地域和可用区,并配置机器数量
    3. 选中PAI-EAS预付费服务协议复选框,其他参数使用默认值。
    4. 单击立即购买
  • 续费
    增加指定资源组的使用时长。例如续费1个月,即将预付费资源组的使用时长延长1个月。具体的续费操作如下:
    1. PAI EAS 模型在线服务页面的资源组区域,单击预付费资源组下的服务续费
    2. 续费页面,选择购买时长,并选中PAI-EAS预付费服务协议复选框,其他参数使用默认值。
    3. 单击立即购买
  • VPC高速直连

    通过弹性网卡ENI(Elastic Network Interface)将预付费资源组与您在当前地域的专有网络连通,开通该功能的具体方法请参见VPC高速直连

  • 临时扩容
    如果在线服务处于业务调用高峰期,则可以通过购买临时服务器以提高资源配置量,从而确保服务稳定运行。调用高峰期结束后,可以随时停止使用临时服务器。临时扩容的规则包括:
    • 临时扩容的服务器采用后付费方式,即按照使用时长计费。
    • 业务需求降低后,您可以随时释放临时服务器,进而系统对其停止计费。
    • 如果您未执行释放操作,则该临时服务器将与资源组中的预付费服务器共享生命周期,即同时到期停止。
    • 临时服务器使用期间,请保证您的账户余额充足,以免欠费导致停机。账户欠费后,系统依然为您保持24小时不停机(此期间继续计费)。如果您24小时内未完成充值,则服务器自动停止服务,且系统对其停止计费。
    临时扩容的具体操作如下:
    1. PAI EAS 模型在线服务页面的资源组区域,单击预付费资源组下的临时扩容
    2. 临时机器购买页面,配置机器数量,其他参数使用默认值。
    3. 单击确认扩容
    释放资源的操作如下:
    1. 在资源组详情页面,单击机器列表页签。
    2. 临时机器购买页面,配置机器数量,其他参数使用默认值。
    3. 单击待释放临时服务器操作列下的释放

管理后付费资源组

  • 扩容
    提高指定资源组服务器数量,具体操作如下:
    1. PAI EAS 模型在线服务页面的资源组区域,单击后付费资源组下的扩容
    2. 变配页面,配置机器数量,选中PAI-EAS后付费服务协议复选框,其他参数使用默认值。
    3. 单击立即购买
  • 缩容或停用
    降低指定资源组的服务器数量,如果数量降为0,则资源组停止使用。具体操作如下:
    1. PAI EAS 模型在线服务页面的资源组区域,单击后付费资源组下的缩容/停用
    2. 确认待释放的资源组无需再使用后,单击缩容/停用
    3. 降配页面,配置机器数量,选中PAI-EAS后付费服务协议复选框,其他参数使用默认值。
      说明 如果需要停用后付费资源组,则配置机器数量0
    4. 单击立即购买
  • VPC高速直连

    通过弹性网卡ENI(Elastic Network Interface)将预付费资源组与您在当前地域的专有网络连通,开通该功能的具体方法请参见VPC高速直连

计费

预付费资源组是在创建资源组前,预先付费。后付费资源组是成功创建资源组且资源组状态为运行中,才开始计费,详情请参见PAI-EAS计费说明

停止或减少后付费资源组计费的方法,请参见管理后付费资源组的缩容或停用部分。

子账号操作权限及授权管理

如果使用子账号创建(购买)、查看及管理资源组,则需要主账号对其授权。具体授权方式请参见授权

对于子账号创建(购买)资源组,还需要额外增加该子账号的财务权限,否则无法下单付款,详情请参见授权中的其他注意事项部分。

预付费资源组生命周期

对于预付费资源组,您可以选择到期不续费、到期自动续费或到期手动续费。如果您需要继续使用PAI服务,建议提前续费或选择自动续费。请确保您绑定续费的账户余额充足,如果账户余额不足以支付预付服务费,则无法进行续费。如果资源组到期未续费或续费不成功,则资源组将被停止使用。如果在自到期之日起的15个自然日(15X24=360小时)内续费,即可恢复使用该资源组。如果自到期之日起的15个自然日(15X24=360小时)内仍未续费,则实际欠费满15个自然日后,系统终止该资源组的使用,同时删除该资源组和全部相关数据。

后付费资源组生命周期

后付费资源组是按量计费,一旦创建,就开始计费。系统根据资源组的使用时长,按照计费周期生成账单并扣费。如果无需继续使用该资源组,建议及时停用资源组以结束计费。使用后付费资源组期间,请确保账户可用余额大于或等于上一个计费周期的账单金额,以便阿里云成功扣费,否则您将处于欠费状态。如果在欠费后的24小时内缴清欠费账单,则不会影响资源组的使用,否则系统暂停后付费资源组的使用。如果自欠费之日起15个自然日(15X24=360小时)内充值并结清账单,则可以恢复使用资源组,相关数据仍然得以保留。如果自欠费之日起15个自然日(15X24=360小时)内未结清账单,则实际欠费满15个自然日后,系统终止该后付费资源组的使用,同时删除该资源组及全部相关数据。

资源类型

PAI-EAS支持使用14种类型的资源创建资源组(各地域有差异),各资源的具体配置如下。
机器型号 GPU配置 CPU配置
ecs.c5.6xlarge (仅预付费) 24核+48 GB
ecs.g5.6xlarge (仅预付费) 24核+96 GB
ecs.g6.4xlarge (仅后付费) 16核+64 GB
ecs.g6.6xlarge (仅后付费) 24核+96 GB
ecs.gn5i-c4g1.xlarge 1 Nvidia Tesla P4卡 4核+16 GB
ecs.gn5i-c8g1.2xlarge 1 Nvidia Tesla P4卡 8核+32 GB
ecs.gn6i-c4g1.xlarge 1 Tesla T4卡 4核+15 GB
ecs.gn6i-c8g1.2xlarge 1 Tesla T4卡 8核+31 GB
ecs.gn6i-c16g1.4xlarge 1 Tesla T4卡 16核+62 GB
ecs.gn6i-c24g1.6xlarge 1 Tesla T4卡 24核+93 GB
ecs.gn5-c4g1.xlarge 1 NVIDIA P100卡 4核+30 GB
ecs.gn5-c8g1.2xlarge 1 NVIDIA P100卡 8核+60 GB
ecs.gn5-c28g1.7xlarge 1 NVIDIA P100卡 28核+112 GB
ecs.gn6v-c8g1.2xlarge 1 NVIDIA V100卡 8核+32 GB