配置开源Flink实时模式资源

开源Flink流批一体任务实时模式的资源配置支持配置任务的生产环境和开发的资源队列、引擎版本以及任务的并行读度、Task Manager数量、Job Manager MomoryTask Manager Momory。本文为您介绍如何配置流批一体任务实时模式的资源配置。

操作步骤

  1. Dataphin首页的顶部菜单栏中,选择研发 > 数据开发

  2. 在顶部菜单栏选择项目(Dev-Prod模式还需选择环境)。

  3. 在左侧导航栏选择数据处理 > 计算任务

  4. 在右侧计算任务列表中,选择目标开源Flink计算任务,单击该任务右侧边栏的配置

  5. 在配置面板中,单击实时模式页签,在实时模式页签中的资源配置区域进行配置。

    参数

    描述

    生产环境资源队列

    默认为创建Flink SQL任务时所选择的资源队列。您可在此处进行引擎切换。

    重要

    切换后提交生效的任务执行可能存在差异,请谨慎操作。

    生产环境引擎版本

    默认为创建Flink SQL任务时所选择的引擎版本。您可以在此处切换引擎版本,支持1.13.11.14.21.15.31.20.1版本。

    开发环境资源队列及引擎版本

    默认为创建Flink SQL任务时所选择的配置,您可在此处进行再次配置。支持选择系统默认配置自行配置

    • 系统默认配置:使用与生产环境相同的环境集群与引擎版本。

    • 自行配置:您可自行选择开发环境资源队列开发环境引擎版本,其中版本可选择1.13.11.14.21.15.31.20.1版本。若您的项目空间为Basic模式,则无需配置该配置项。

    并行度

    默认为1,可填任意大于0的整数, -1代表自动推断。

    Task Manager 数量

    默认为1,可填任意大于0的整数。

    Job Manager Memory

    该任务在Flink集群的控制单元中所占用的内存大小。默认为1Gi,建议使用Gi/Mi/单位;可填数字(单位Byte),或填入包含以下内存单位(Gi/Mi)的数字,例如填写1024000、1024Mi、1.5Gi。

    Task Manager Memory

    默认为1Gi,建议使用Gi/Mi单位;可填数字(单位Byte),或填入包含以下内存单位(Gi/Mi)的数字,例如填写1024000、1024Mi、1.5Gi。

    JobManager CPU

    分配给运行JobManager进程的CPU计算资源。默认为1C,可填任意大于0的数,例如填写1、10.5。

    TaskManager CPU

    分配给运行TaskManager进程的CPU计算资源。默认为2C,可填任意大于0的数,例如填写1、10.5。

  6. 单击确定,完成任务实时模式的资源配置。