通过创建StarRocks数据源能够实现Dataphin读取StarRocks的业务数据或向StarRocks写入数据。本文为您介绍如何创建StarRocks数据源。
背景信息
StarRocks是一款高性能分析数据库,支持实时、多维和高度并发的数据分析。StarRocks具有高度可扩展性、可用性且易于维护。它在OLAP场景提供多种支持,例如实时分析、即席查询、数据湖分析等。更多详情可参考StarRocks官网。
权限说明
仅支持拥有新建数据源权限点的自定义全局角色和超级管理员、数据源管理员、板块架构师、项目管理员系统角色创建数据源。
操作步骤
在Dataphin首页的顶部菜单栏中,选择管理中心 > 数据源管理。
在数据源页面,单击+新建数据源。
在新建数据源对话框的关系型数据库区域,选择StarRocks。
如果您最近使用过StarRocks,也可以在最近使用区域选择StarRocks。同时,您也可以在搜索框中,输入StarRocks的关键词,快速筛选。
在新建StarRocks数据源对话框中,配置连接数据源参数。
配置数据源的基本信息
参数
描述
数据源名称
命名规则如下:
只能包含中文、英文字母大小写、数字、下划线(_)或短划线(-)。
长度不能超过64字符。
数据源编码
配置数据源编码后,可在Flink_SQL任务中通过
数据源编码.table
或数据源编码.schema.table
的格式引用数据源中的表;如果需要根据所处环境自动访问对应环境的数据源,请通过${数据源编码}.table
或${数据源编码}.schema.table
的格式访问。重要目前仅支持MySQL、Hologres、MaxCompute数据源。
数据源描述
对数据源的简单描述。不得超过128个字符。
数据源配置
选择需要配置的数据源:
如果业务数据源区分生产数据源和开发数据源,则选择生产+开发数据源。
如果业务数据源不区分生产数据源和开发数据源,则选择生产数据源
标签
您可根据标签给数据源进行分类打标,如何创建标签,请参见管理数据源标签。
配置数据源与Datahpin的连接参数
若您的数据源配置选择生产+开发数据源,则需配置生产+开发数据源的连接信息。如果您的数据源配置为生产数据源,仅需配置生产数据源的连接信息。
说明通常情况下,生产数据源和开发数据源需配置为非同一个数据源,以实现开发数据源与生产数据源的环境隔离,降低开发数据源对生产数据源的影响。但Dataphin也支持配置成同一个数据源,即相同参数值。
参数
描述
JDBC URL
StarRocks的JDBC URL格式为:
jdbc:mysql://host:port/dbname
Load URL
FE(Front End)的Host和HTTP端口,格式为
fe_host:http_port,fe_host:http_port
。用户名、密码
登录数据库的用户名和密码。
配置数据源的高级设置。
参数
描述
connectTimeout
数据库的connectTimeout时长(单位:毫秒),默认900000毫秒(15分钟)。
说明若您在JDBC URL中带有connectTimeout配置,则connectTimeout为JDBC URL中配置的超时时间。
Dataphin V3.11版本之前的创建数据源,connectTimeout默认为
-1
,表示无超时限制。
socketTimeout
数据库的socketTimeout时长(单位:毫秒),默认1800000毫秒(30分钟)。
说明若您在JDBC URL中带有socketTimeout配置,则socketTimeout为JDBC URL中配置的超时时间。
Dataphin V3.11版本之前的创建数据源,socketTimeout默认为
-1
,表示无超时限制。
连接重试次数
数据库连接超时,将自动重试连接直到完成设定的重试次数。若达最大重试次数仍未连接成功,则连接失败。
说明默认重试次数为1次,支持配置0~10之间参数。
连接重试次数将默认应用于离线集成任务与全域质量(需开通资产质量功能模块),离线集成任务中支持单独配置任务级别的重试次数。
单击测试连接,测试数据源是否可以和Dataphin进行正常的连通。
完成数据源的上述信息配置后,您可以单击操作列的测试连接针对公共调度集群或已经在Dataphin注册且正常使用的自定义集群进行连接测试。公共调度集群为系统默认选中,不支持取消选中。自定义集群下不存在资源组时,不支持进行连接测试,需先创建资源组后再进行测试连接。
所选集群只用于测试与当前数据源的网络连通,不用于后续相关任务的运行。
测试连接时长通常在2分钟内,若超时,您可以单击图标查看具体原因并重试。
无论测试结果为连接失败、连接成功或成功有风险,系统都将为您记录最终结果的生成时间。
测试结果为连接失败时,您可以单击图标查看具体失败原因。
测试结果为成功有风险时,代表应用集群连接成功、调度集群连接失败,当前数据源无法用于数据开发和集成。您可以单击图标查看日志信息。
说明仅公共调度集群的测试结果包含成功有风险、连接成功、连接失败三种连接状态;在Dataphin注册的自定义集群的测试结果仅包含连接成功、连接失败两种连接状态。
请确保至少存在一个集群可以与数据源连通,否则不支持保存数据源信息。
重要如果连接测试失败,您可以根据网络连通常见问题进行排查。详细内容,请参见网络连通解决方案。
测试成功后,单击确定,完成StarRocks数据源的创建。