配置开源Flink离线模式资源

开源Flink流批一体任务离线模式的资源配置支持配置任务的生产环境和开发的资源队列、引擎版本以及任务的并行度、Task Manager数量、Job Manager Memory和Task Manager Memory。本文为您介绍如何配置流批一体任务离线模式的资源配置。

操作步骤

  1. 在Dataphin首页,单击顶部菜单栏的研发。默认进入数据开发页面。

  2. 按照以下操作指引,进入流批一体任务离线模式配置面板。

    选择项目(Dev-Prod 模式需要选择环境)->单击计算任务->选择并单击计算任务->单击配置->单击离线模式

    image

  3. 在配置面板中资源配置区域,配置任务离线模式的资源配置参数信息。

    image.png

    参数

    描述

    生产环境资源队列

    默认为创建Flink_SQL任务时所选择的集群。您可在此处进行引擎切换。

    重要

    切换后提交生效的任务执行可能存在差异,请谨慎操作。

    生产环境引擎版本

    默认为创建Flink_SQL任务时所选择的引擎版本。您可在此处切换引擎版本。

    开发环境资源队列及引擎版本

    默认为创建Flink_SQL任务时所选择的配置,您可在此处进行再次配置。支持选择系统默认配置自行配置

    image

    • 系统默认配置:使用与生产环境相同的环境集群与引擎版本。

    • 自行配置:您可自行选择开发环境任务运行的环境集群及引擎版本。若您的项目空间为Basic模式,则无需配置。

    并行度

    默认为1,可填任意大于0的整数,-1代表自动推断。

    Task Manager 数量

    默认为1,可填入任意大于0的整数。

    Job Manager CPUs

    该任务在Flink集群的控制单元中所占用的CPU资源大小。默认为1Gi,建议使用Gi/Mi/单位;可填数字(单位Byte),或填入包含以下内存单位(Gi/Mi)的数字,例如填写1024000、1024Mi、1.5Gi。

    Task Manager Memory

    默认为1Gi,建议使用Gi/Mi/单位;可填数字(单位Byte),或填入包含以下内存单位(Gi/Mi)的数字,例如填写1024000、1024Mi、1.5Gi。

  4. 单击确定,完成任务离线模式的资源配置。