本文为您介绍2024年01月04日发布的实时计算Flink版的重大功能变更和主要缺陷修复。
概述
2024年01月04日正式对外发布实时计算Flink版的引擎新版本VVR 8.0.5,包含连接器更新、性能优化以及缺陷修复。
该版本是基于Apache Flink 1.17.2的企业级Flink引擎。在该版本中,我们对MySQL源表CDC在指定位点(指定偏移量和时间戳)后的数据同步速度进行了优化;对于MongoDB连接器,源表CDC支持表结构变更同步,并新增了对MongoDB作为维表的支持;JDBC连接器新增对Postgres SQL的UUID和JSONB类型的支持;StarRocks结果表支持JSON类型;另外Hologres连接器中的JDBC模式支持攒批时不进行去重,满足在一定吞吐优化下的数据完整性;新增了对PolarDB Postgres (兼容Oracle)版作为结果表写入支持;缺陷修复上,我们修复了Apache Flink 1.17.2版本上发现的多个缺陷(包括Apache社区已修复待发布的缺陷),同时还修复了在引擎上发现的问题,旨在提高系统的稳定性和可靠性。
我们将在全网进行分步骤的灰度,灰度完毕后,欢迎您将作业使用的引擎升级至此版本,具体操作请参见作业引擎版本升级。期待您的使用体验反馈!
主要功能介绍
特性 | 详情 | 相关文档 |
优化MySQL CDC指定偏移量或者时间戳进行启动的数据读取速度 | 可以更快速地定位到开始要读取的数据,减少等待时间。 | |
MongoDB作为源表支持表结构变更同步和自动加列 | MongoDB作为源表时可以通过CTAS或CDAS语句将表结构变更同步到下游存储,支持自动加列。 | |
支持将MongoDB作为维表 | MongoDB连接器支持作为维表进行关联查询。 | |
支持MongoDB Catalog | 通过Catalog的方式注册元数据后,支持Schema推导,在创建SQL时,无需再使用DDL创建MongoDB源表。 | |
JDBC连接器支持更多数据类型 | 新增对PostgreSQL的UUID和JSONB类型的支持。 | |
Hologres连接器支持SSL连接、Bulk Load模式写入和攒批去重。 |
| |
JDBC模式消费Binlog不再需要设置slotname | Hologres 2.1版本开始,JDBC模式消费Binlog不再需要设置slotname。 | |
新增支持PolarDB Postgres (兼容Oracle)连接器 | 支持将数据写入PolarDB Postgres(兼容Oracle)。 | |
StarRocks支持更多数据类型 | StarRocks结果表支持JSON类型。 | 暂无 |
RocketMQ结果表支持partitionField参数 | 支持通过partitionField参数指定字段名,将该字段作为分区列。在数据写入时,会根据该列值计算Hash值,Hash值相同的数据会写入同一个分区。 | |
Elasticsearch连接器支持8.x和忽略text类型字段的.keyword后缀 |
| |
MySQL连接器支持忽略NULL值 | Sink支持忽略更新写入数据中的NULL值。 |