使用EAS资源组

EAS资源组包括专属资源组和虚拟资源组。您可以通过专属资源组购买和管理专属资源,通过虚拟资源组实现服务使用不同资源类型(公共资源、专属资源、灵骏资源)混合部署。

专属资源组

资源类型

专属资源按照付费方式分为预付费和后付费两种类型。两者的使用区别如下。

类型

付费方式

资源组管理

支持使用的资源类型

预付费资源

包年包月

购买机器、为预付费机器续费、删除后付费机器、删除资源组,详情请参见管理专属资源组中的机器

请前往EAS专属机器预付费页面查看。

后付费资源

按量计费

请前往EAS专属机器后付费页面查看。

重要

后付费的专属资源一旦购买成功即开始计费,无论是否用于部署服务。请及时删除未使用的后付费机器,以免产生不必要的费用。

创建专属资源组

  1. 登录PAI控制台,在页面上方选择目标地域,并在右侧选择目标工作空间,然后单击进入EAS

  2. 模型在线服务(EAS)页面,单击资源组页签,在专属资源组页签,选择新建资源组 > 新建预付费资源组(包年包月)新建后付费资源组(按量付费)。在相应页面,配置以下参数。

    参数

    描述

    付费模式

    选择包年包月按量付费

    地域及可用区

    参考界面提示选择资源组所属地域和可用区。

    机器规格

    系统支持的GPUCPU规格,详细的资源列表请参见EAS专属机器预付费EAS专属机器后付费

    说明

    在不同地域,系统支持的机器规格不同。

    系统盘

    每台机器节点默认免费提供200 GB的系统盘容量,您可以增加存储空间(支持配置的容量范围为200~2000 GB),超出容量计费详情,请参见EAS计费说明

    说明

    所有服务实例共享系统盘存储空间,当系统盘存储空间不足时会驱逐占用较多空间的服务实例。如果您希望实例运行时读写本地磁盘目录,请参见服务存储挂载

    购买方式

    支持新建资源组已有资源组

    当选择已有资源组时,需要配置资源组ID

    资源组ID

    您可以在列表中选择已创建的资源组ID。

    购买数量

    取值范围:1~9999。

    购买时长

    取值范围:1个月、2个月、3个月、6个月、1等(仅适用于预付费)。

    到期自动续费

    到期后,是否自动续费(仅适用于预付费)。

  1. 单击立即购买

    支付成功后,系统自动分配资源。您可以在资源组标签页查看已创建的所有资源组或修改资源组名称。

    说明

    (仅适用于预付费)如果因为当前地域资源不足等原因,导致资源组创建失败,则系统自动创建退款订单,已支付的费用会原路返回。

管理专属资源组中的机器

购买机器

  1. 资源组页签,选择目标资源组。

  2. 单击购买机器,选择并购买预付费或后付费机器。配置详情请参见创建专属资源组

机器续费

(仅适用预付费机器)

增加指定机器的使用时长。例如续费1个月,即将预付费机器的使用时长延长1个月。

  1. 在专属资源组详情页面机器列表页签,单击预付费机器操作列下的更多,选择续费

  2. 续费页面,配置购买时长,单击立即购买。

删除专属资源组机器

后付费机器:在专属资源组详情页面,单击目标实例操作列下的删除按钮。

预付费机器:参见如何删除专属资源组的预付费机器实例?

查看资源组机器资源用量

资源组页签,单击目标资源组名称。然后在机器列表页签,查看每台机器的CPU、GPU和内存的使用量/总量。

停止调度

当机器实例处于运行中时,您可以单击目标机器实例操作列下的停止调度,使机器实例不可调度。单击重启调度,恢复运行状态。

说明

停止调度后,已经在该机器上正常运行的服务仍运行,但是如果重启服务,将调度资源组下其他可用机器进行部署。

清空节点

单击清空节点,部署在该机器上的服务实例将自动被停止,并调度资源组下其他可用机器重新部署。

重要

清空节点时,机器上运行的任务会被中止,请谨慎操作。

虚拟资源组

EAS虚拟资源组是将多种不同类型的资源(公共资源、资源配额、EAS专属资源)组合而成的逻辑资源组,以便服务进行统一部署调度,从而实现将同一个服务部署在多种不同的资源下。

创建虚拟资源组

  1. 登录PAI控制台,在页面上方选择目标地域,并在右侧选择目标工作空间,然后单击进入EAS

  2. 模型在线服务(EAS)页面,单击资源组页签,在虚拟资源组页签,单击新建虚拟资源组,进入如下新建页面。其中公共资源组支持选择竞价实例,您可以根据需要配置多种资源类型,请注意设置不同资源的调度优先级(1 为最低优先级,9 为最高优先级)。

    image

使用虚拟资源组

部署服务时,在资源部署区域,资源类型选择EAS资源组,在资源组下拉列表中选择虚拟资源组

image

相关文档

常见问题

  1. 一个资源组可以部署多个模型么?

    只要资源足够,一个资源组可以用来部署多个模型服务。

  2. 多余的EAS推理资源可以用于DLC分布式训练么?

    不能。目前EAS专属资源只能用于部署服务,无法在DLC中使用。