文档

使用专属资源组

更新时间:

专属资源组包括预付费资源组和后付费资源组,两种资源组的生命周期和计费方式均不相同,您需要根据使用场景,选择合适类型的资源组。本文为您介绍如何创建专属资源组、管理专属资源组、管理专属资源组中的机器实现扩缩容等功能。

背景信息

您可以将模型服务部署到专属资源组,在部署服务数量相对较多,对服务实时性要求比较高的场景,需要使用专属资源组来保障模型服务能正常部署和运行。后续您也可以对专属资源组中的资源进行扩缩容,来满足更多业务需求。

  • 资源组类型

    专属资源组支持预付费资源组和后付费资源组,您可以根据付费类型和支持的资源类型按需选择。

  • 创建专属资源组

    提供预付费和后付费专属资源组购买方法,您可以根据需要灵活选择资源组类型。

  • 管理专属资源组中的机器

    您可以根据业务需求量,在专属资源组中购买或删除机器,完成资源的扩缩容,实现资源的有效利用。

  • 管理专属资源组

    您可以在专属资源组详情页面查看已购买的机器资源和已部署的模型服务,也可以删除无用的资源组。

资源组类型

专属资源组按照付费方式分为预付费专属资源组和后付费专属资源组,简称预付费资源组和后付费资源组 。两者的使用区别如下。

类型

付费方式

资源组管理

支持使用的资源类型

预付费资源组

包年包月

购买机器、为预付费机器续费、删除后付费机器、删除资源组,详情请参见管理专属资源组中的机器

请前往EAS专属机器预付费页面查看。

后付费资源组

按量计费

请前往EAS专属机器后付费页面查看。

创建专属资源组

  1. 进入模型在线服务(EAS)页面。

    1. 登录PAI控制台

    2. 在左侧导航栏单击工作空间列表,在工作空间列表页面中单击待操作的工作空间名称,进入对应的工作空间。

    3. 在工作空间页面的左侧导航栏选择模型部署 > 模型在线服务(EAS),进入模型在线服务(EAS)页面。

  2. 创建资源组。

    您可以根据实际需要,创建预付费资源组或后付费资源组:

    创建预付费资源组

    1. 模型在线服务(EAS)页面,单击资源组页签,选择新建资源组 > 新建预付费资源组(包年包月)。在EAS专属机器预付费页面,配置以下参数。

      参数

      描述

      付费模式

      选择包年包月

      地域及可用区

      参考界面提示选择资源组所属地域和可用区。

      机器规格

      系统支持的GPU和CPU规格,详细的资源列表请参见EAS专属机器预付费

      说明

      在不同地域,系统支持的机器规格不同。

      系统盘

      您可以配置系统盘来增加存储空间,每台机器节点支持配置的容量范围为200~2000 GB。每台机器节点默认提供200 GB的免费使用额度,超出容量计费详情,请参见EAS计费说明

      购买方式

      支持新建资源组已有资源组

      当选择已有资源组时,需要配置资源组ID

      资源组ID

      您可以在列表中选择已创建的资源组ID。关于如何查看专属资源组ID,详情请参见管理专属资源组

      购买数量

      取值范围:1~9999。

      购买时长

      取值范围:1个月、2个月、3个月、6个月或一年

      到期自动续费

      到期后,是否自动续费。

    2. 单击立即购买

      支付成功后,系统自动分配资源。您可以在资源组页签,查看已创建的所有资源组或修改资源组名称。

      说明

      如果因为当前地域资源不足等原因,导致资源组创建失败,则系统自动创建退款订单,已支付的费用会原路返回。

    创建后付费资源组

    1. 模型在线服务(EAS)页面,单击资源组页签,选择新建资源组 > 新建后付费资源组(计时付费)。在EAS专属机器后付费页面,配置以下参数。

      参数

      描述

      地域及可用区

      参考界面提示选择资源组所属地域和可用区。

      机器规格

      系统支持的GPU和CPU规格,详细的资源列表请参见EAS专属机器后付费

      说明

      在不同地域,系统支持的机器规格不同。

      系统盘

      您可以配置系统盘来增加存储空间,每台机器节点支持配置的容量范围为200~2000 GB。每台机器节点默认提供200 GB的免费使用额度,超出容量计费详情,请参见EAS计费说明

      购买方式

      支持新建资源组已有资源组

      当选择已有资源组时,需要配置资源组ID

      资源组ID

      您可以在列表中选择资源组ID。

      购买数量

      取值范围:1~9999。

    2. 单击立即购买

      支付成功后,系统自动分配资源。您可以在资源组页签,查看已创建的所有资源组或修改资源组名称。

管理专属资源组中的机器

  • 为资源组购买机器

    如果当前专属资源组的资源无法满足业务需求,您可以为专属资源组购买新的机器。

    1. 资源组页签,单击目标资源组名称。

    2. 单击购买机器 > 预付费机器(或后付费机器),选择并购买预付费机器或后付费机器,如何配置请参见创建专属资源组

  • 为专属资源的机器续费

    增加指定资源组的使用时长。例如续费1个月,即将预付费资源组的使用时长延长1个月。

    1. 在专属资源组详情页面机器列表页签,单击预付费机器操作列下的更多,在下拉列表中选择续费

    2. 续费页面,配置购买时长,单击立即购买。

  • 当机器实例处于运行中时,您可以单击目标机器实例操作列下的停止调度清空节点,使机器实例不可调度。单击操作列下的重启调度,即可将机器恢复运行状态。

  • 单击机器实例ID,进入机器详情页面,查看机器实例详情。您可以单击机器运行服务实例操作列下的重启,重启服务实例;您也可以单击日志,来查看服务实例运行日志。

  • 删除专属资源组机器

    重要

    预付费机器未到期前无法直接删除退订,如有特殊原因需删除,请联系您的商务经理来处理。

    在专属资源组详情页面,单击目标实例操作列下的image>删除,删除机器。

管理专属资源组

  • 查看专属资源组详情

    1. 资源组页签,单击目标资源组的资源组名称,进入资源组详情页面。

    2. 在专属资源组详情页面,您可以进行以下操作。

      操作

      描述

      查看资源组ID

      资源组ID是资源组的唯一标识。通过EASCMD方式部署模型服务时,需要使用该参数。image

      编辑资源组名称

      资源组信息区域,单击资源组名称后面的image图标,可以编辑资源组名称,建议使用具有业务含义的名称。通过控制台可视化方式部署模型服务时,需要根据资源组名称选择使用的资源组。

      查看资源组中的服务器

      单击机器列表页签。

      查看部署在当前资源组的服务列表

      单击服务列表页签。

  • 删除专属资源组

    资源组页签,单击待删除资源组操作列下的删除,即可删除该资源组。

相关文档

  • 准备好专属资源组后,即可将模型服务部署在此专属资源组上,详情请参见服务部署:控制台

  • 为部署在专属资源组中的服务配置VPC高速直连。具体操作,请参见配置网络连通

  • 您可以为资源组配置日志服务,通过日志服务,将部署在该资源组上的EAS服务打印的日志,采集到自己的SLS日志仓库中。具体操作,请参见配置资源组日志服务

  • 本页导读 (1)