配置开源Flink实时模式资源

开源Flink流批一体任务实时模式的资源配置支持配置任务的生产环境和开发的资源队列、引擎版本以及任务的并行读度、Task Manager数量、Job Manager Momory和Task Manager Momory。本文为您介绍如何配置流批一体任务实时模式的资源配置。

操作步骤

  1. 在Dataphin首页,单击顶部菜单栏的研发。默认进入数据开发页面。

  2. 按照以下操作指引,进入流批一体任务实时模式配置面板。

    选择项目(Dev-Prod 模式需要选择环境)->单击计算任务->选择并单击计算任务->单击配置->单击实时模式

    image.png

  3. 在实时模式配置面板中资源配置区域,配置实时模式的资源配置信息。

    image..png

    参数

    描述

    生产环境资源队列

    默认为创建Flink SQL任务时所选择的资源队列。您可在此处进行引擎切换。

    重要

    切换后提交生效的任务执行可能存在差异,请谨慎操作。

    生产环境引擎版本

    默认为创建Flink SQL任务时所选择的引擎版本。您可以在此处切换引擎版本。

    开发环境资源队列及引擎版本

    默认为创建Flink SQL任务时所选择的配置,您可在此处进行再次配置。支持选择系统默认配置自行配置

    image

    • 系统默认配置:使用与生产环境相同的环境集群与引擎版本。

    • 自行配置:您可自行选择开发环境任务运行的环境集群及引擎版本。若您的项目空间为Basic模式,则无需配置该配置项。

    并行度

    默认为1,可填任意大于0的整数, -1代表自动推断。

    Task Manager 数量

    默认为1,可填任意大于0的整数。

    Job Manager Memory

    该任务在Flink集群的控制单元中所占用的内存大小。默认为1Gi,建议使用Gi/Mi/单位;可填数字(单位Byte),或填入包含以下内存单位(Gi/Mi)的数字,例如填写1024000、1024Mi、1.5Gi。

    Task Manager Memory

    默认为1Gi,建议使用Gi/Mi单位;可填数字(单位Byte),或填入包含以下内存单位(Gi/Mi)的数字,例如填写1024000、1024Mi、1.5Gi。

    JobManager CPU

    分配给运行JobManager进程的CPU计算资源。默认为1C,可填任意大于0的数,例如填写1、10.5。

    TaskManager CPU

    分配给运行TaskManager进程的CPU计算资源。默认为2C,可填任意大于0的数,例如填写1、10.5。

  4. 单击确定,完成任务实时模式的资源配置。