文档

自定义调度资源组概述

更新时间:

Dataphin支持调度资源分组管理的功能。您可以将资源划分为不同配额的资源组,不同资源组之间的资源配额互相独立,并为项目下的任务分别指定可使用资源组,从而保障核心任务的资源不被抢占,同时也提升资源利用率。

权限说明

支持超级管理员系统管理员资源组的负责人管理自定义资源组(编辑、启用、停用、删除)。

应用场景

保障核心任务:通过资源组管理可保障核心任务优先运行,防止低优先级任务先运行时抢占大量调度资源而导致高优任务一直在等待调度资源状态。

按需分配 :资源组支持按照项目分配资源,可使不同业务部门所使用的资源解耦。从而实现业务部门按需结算等应用场景。

名词解释

调度资源:调度资源指任务生成的实例调度所消耗的资源,支持将当前可使用的所有调度资源分配为不同的资源组并关联到可使用的项目,不同资源组之间资源相互隔离互不影响。

默认资源组:每个实例有且仅有一个,在创建实例时系统自动生成,不支持删除。从公共调度集群创建自定义资源组时,自动从默认资源组分配对应资源。为了保证所有任务均有可使用的调度资源,需要设置默认资源组保留的最小资源百分比,从而保证在调度运行时,如果指定的资源组状态不可用,可以使用默认资源组进行兜底,避免影响任务运行。

自定义资源组:在实例内,可以进一步划分为多个自定义资源组。自定义资源组可以设置应用场景,以便更好的管控资源使用范围。应用场景包括任务日常调度批量运维操作。

  • 任务日常调度:任务日常调度的自定义资源组可用于即席查询、临时运行、周期调度等场景,需要配置可使用该资源组的关联项目。

  • 批量运维操作:批量运维操作的资源组可用于对生产任务执行补数据等操作时,临时指定单次调度使用的资源组。

资源组优先级:优先使用每个任务配置的资源组;如果任务在生成实例时指定的自定义资源组已被停用或删除,实例资源组将自动切换为所在项目的默认资源组;如果项目默认资源组状态也不可用,将继续自动切换为使用默认资源组。任务指定资源组>任务所属项目的项目默认资源组>默认资源组。 此外,如果实例调度执行时指定的资源组已经被停用或删除,将自动切换为默认资源组执行。

流程概述

  1. 完成Dataphin实例购买后,系统将根据购买的数据处理单元规格计算您公共调度集群可用的资源总量。更多信息,请参见购买指引--全托管

  2. 在创建自定义资源组前,需要给默认资源组分配最小保留百分比。默认资源组分配的资源量将根据当前默认调度集群资源总量的剩余值动态调整,但不会低于最小保留值;在默认调度集群下创建自定义资源组时,将从租户默认资源组划分对应的百分比。更多信息,请参见资源组配置页面介绍

  3. 您可以在默认调度集群下结合资源管控诉求创建多个自定义资源组,并指定每个自定义资源组使用的调度集群及占用集群可用资源的百分比。创建自定义资源组时,将从默认资源组(公共调度集群)自动扣除自定义资源组配置所需的资源百分比。

资源组生效优先级

任务调度运行时,优先使用任务调度配置指定的资源组;如果指定资源组状态异常或已被删除,则会使用任务所属项目的项目默认资源组;如果项目默认资源组也不可用,将切换为默认资源组兜底。 此外,如果您希望通过调整资源组实现紧急限流,可将指定资源组的资源分配量修改为0,则任务将一直处于等待调度资源状态,直到资源组有可用资源。

任务资源组配置说明

周期任务和手动任务均支持配置调度资源组。Basic模式项目下,任务测试运行、冒烟、周期调度均使用配置的调度资源组;Dev-Prod模式项目下,任务测试运行、冒烟及开发环境调度默认使用开发项目配置的项目默认资源组;生产任务周期调度默认使用每个任务指定的资源组。

资源组配置入口

  1. 在Dataphin首页,单击顶部菜单栏中的管理中心

  2. 按照以下操作指引,进入资源设置页面。

    依次单击系统设置->资源设置->资源组配置

    image

  • 本页导读