本文为您介绍阿里云数据湖构建(简称DLF)的功能变更。
2024-12版本
推出DLF 2.0 Hive Catalog,支持统一的元数据管理和权限管理,支持纳管OSS-HDFS和OSS存储。Hive Catalog所支持的湖表格式兼容 HMS,支持计算引擎使用 Paimon、Iceberg、Delta lake、Hudi 等湖格式。
DLF2.0 Paimon Catalog 推出文件目录(Volume),支持Paimon ObjectTable,帮助一些更新要求不高的场景,实现对文件元数据的管理。
DLF2.0 Paimon Catalog 推出外表管理功能,支持读取外部数据源。
DLF2.0 Paimon Catalog 推出视图管理功能,降低查询的复杂度。
功能分类 | 功能更新说明 |
元数据管理 |
|
权限管理 |
|
数据存储 |
|
2024-09版本
推出DLF2.0 Paimon Catalog,提供全托管的Paimon元数据及存储服务,支持统一的元数据管理、统一湖表格式、统一存储、统一权限配置,并提供存储概览分析以及存储优化功能。并且与阿里云上多种流批计算引擎、大数据开发平台及AI平台实现了深度集成;支持湖仓存储一体化、流批加工一体化以及大数据与AI一体化的架构;支持所有产品共享一套湖上元数据和存储服务,采用统一的权限配置和存储优化策略。
功能分类 | 功能更新说明 |
完成OpenLake解决方案对接 | 支持EMR Serverless Spark、EMR Serverless StarRocks、实时计算Flink版、MaxCompute、Hologres、DataWorks、PAI、OpenSearch产品的集成。 |
元数据管理 |
|
权限管理 |
|
数据存储 |
|
存储分析 |
|
存储优化 |
|