EAS资源组包括专属资源组和虚拟资源组。您可以通过专属资源组购买和管理专属资源,通过虚拟资源组实现服务使用不同资源类型(公共资源、专属资源、灵骏资源)混合部署。
专属资源组
资源类型
专属资源按照付费方式分为预付费和后付费两种类型。两者的使用区别如下。
类型 | 付费方式 | 资源组管理 | 支持使用的资源类型 |
预付费资源 | 包年包月 | 购买机器、为预付费机器续费、删除后付费机器、删除资源组,详情请参见管理专属资源组中的机器。 | 请前往EAS专属机器预付费页面查看。 |
后付费资源 | 按量计费 | 请前往EAS专属机器后付费页面查看。 |
后付费的专属资源一旦购买成功即开始计费,无论是否用于部署服务。请及时删除未使用的后付费机器,以免产生不必要的费用。
创建专属资源组
登录PAI控制台,在页面上方选择目标地域,并在右侧选择目标工作空间,然后单击进入EAS。
在模型在线服务(EAS)页面,单击资源组页签,在专属资源组页签,选择
或 。在相应页面,配置以下参数。参数
描述
付费模式
选择包年包月或按量付费。
地域及可用区
参考界面提示选择资源组所属地域和可用区。
机器规格
系统支持的GPU和CPU规格,详细的资源列表请参见EAS专属机器预付费或EAS专属机器后付费。
说明在不同地域,系统支持的机器规格不同。
系统盘
每台机器节点默认免费提供200 GB的系统盘容量,您可以增加存储空间(支持配置的容量范围为200~2000 GB),超出容量计费详情,请参见EAS计费说明。
说明所有服务实例共享系统盘存储空间,当系统盘存储空间不足时会驱逐占用较多空间的服务实例。如果您希望实例运行时读写本地磁盘目录,请参见服务存储挂载。
购买方式
支持新建资源组和已有资源组。
当选择已有资源组时,需要配置资源组ID。
资源组ID
您可以在列表中选择已创建的资源组ID。
购买数量
取值范围:1~9999。
购买时长
取值范围:1个月、2个月、3个月、6个月、1年等(仅适用于预付费)。
到期自动续费
到期后,是否自动续费(仅适用于预付费)。
单击立即购买。
支付成功后,系统自动分配资源。您可以在资源组标签页查看已创建的所有资源组或修改资源组名称。
说明(仅适用于预付费)如果因为当前地域资源不足等原因,导致资源组创建失败,则系统自动创建退款订单,已支付的费用会原路返回。
管理专属资源组中的机器
购买机器 |
|
机器续费 (仅适用预付费机器) | 增加指定机器的使用时长。例如续费1个月,即将预付费机器的使用时长延长1个月。
|
删除专属资源组机器 | 后付费机器:在专属资源组详情页面,单击目标实例操作列下的删除按钮。 预付费机器:参见如何删除专属资源组的预付费机器实例?。 |
查看资源组机器资源用量 | 在资源组页签,单击目标资源组名称。然后在机器列表页签,查看每台机器的CPU、GPU和内存的使用量/总量。 |
停止调度 | 当机器实例处于运行中时,您可以单击目标机器实例操作列下的停止调度,使机器实例不可调度。单击重启调度,恢复运行状态。 说明 停止调度后,已经在该机器上正常运行的服务仍运行,但是如果重启服务,将调度资源组下其他可用机器进行部署。 |
清空节点 | 单击清空节点,部署在该机器上的服务实例将自动被停止,并调度资源组下其他可用机器重新部署。 重要 清空节点时,机器上运行的任务会被中止,请谨慎操作。 |
虚拟资源组
EAS虚拟资源组是将多种不同类型的资源(公共资源、资源配额、EAS专属资源)组合而成的逻辑资源组,以便服务进行统一部署调度,从而实现将同一个服务部署在多种不同的资源下。
创建虚拟资源组
使用虚拟资源组
部署服务时,在资源部署区域,资源类型选择EAS资源组,在资源组下拉列表中选择虚拟资源组。
相关文档
更多关于模型服务部署的配置,请参见控制台自定义部署参数说明。
为部署在专属资源组中的服务配置VPC高速直连。具体操作,请参见配置网络连通。
您可以为资源组配置日志服务,将EAS服务的日志采集到自己的SLS日志仓库中。具体操作,请参见配置资源组日志服务。
常见问题
一个资源组可以部署多个模型么?
只要资源足够,一个资源组可以用来部署多个模型服务。
多余的EAS推理资源可以用于DLC分布式训练么?
不能。目前EAS专属资源只能用于部署服务,无法在DLC中使用。