本文介绍如何使用DataWorks数据同步功能,将 云消息队列 Kafka 版 集群上的数据迁移至阿里云大数据计算服务MaxCompute,方便您对离线数据进行分析加工。前提条件 在开始本教程前,确保您在同一地域中已完成以下操作:云消息队列 Kafka 版 ...
云消息队列 Kafka 版 系统架构 如 云消息队列 Kafka 版的系统架构 所示,一个 云消息队列 Kafka 版 集群包括Producer、Kafka Broker、Group、ZooKeeper。图 1.云消息队列 Kafka 版 的系统架构 Producer 通过push模式向 云消息队列 Kafka 版...
后续步骤 您可以新建一个数据开发任务运行SQL语句,查看当前表中是否已存在从 云消息队列 Kafka 版 同步过来的数据。本文以 select*from testkafka 为例,具体步骤如下:登录 DataWorks控制台,切换至目标地域后,单击左侧导航栏的 数据...
后续步骤 您可以新建一个数据开发任务运行SQL语句,查看当前表中是否已存在从 云消息队列 Kafka 版 同步过来的数据。本文以 select*from testkafka 为例,具体步骤如下:登录 DataWorks控制台,单击左侧导航栏的 数据建模与开发>数据开发,...
迁移路由 云消息队列 Kafka 版 提供全托管、免运维的实例迁移服务,用于自建实例与 云消息队列 Kafka 版 实例之间或者 云消息队列 Kafka 版 实例之间的数据同步,无需借助工具即可在控制台上实现实例迁移,迁移完成后目标集群的元数据与源...
云消息队列 Kafka 版 规定了阿里云向客户提供的阿里云 云消息队列 Kafka 版 的服务可用性等级指标及赔偿方案。如需查看 云消息队列 Kafka 版 的服务可用性等级指标及赔偿方案,请参见 云消息队列 Kafka 版服务等级协议。
您可以将自建Kafka集群元数据导出,然后导入 云消息队列 Kafka 版 实例,云消息队列 Kafka 版 会根据成功导入的元数据在目标 云消息队列 Kafka 版 实例中创建对应的Topic和Group,实现自建Kafka集群元数据迁移上云。导出元数据 使用元数据...
添加Topic 进入Kafka数据管理页。登录 阿里云E-MapReduce控制台。在顶部菜单栏处,根据实际情况选择地域 和资源组。单击上方的 元数据管理 页签。在左侧导航栏,单击 Kafka数据管理。在 Kafka数据管理 页面,单击右上角的 添加Topic。在 ...
新建Kafka数据源,并完成Kafka数据源与数据集成资源组之间的网络连通检测,操作详情请参见 配置Kafka数据源。重要 使用标准模式的工作空间时,您需要确认在Kafka数据源的开发和生产环境对应的Kafka集群中有同名Topic,用于开发和生成环境...
使用说明 云消息队列 Kafka 版 提供的规格评估功能将根据您输入的自建Kafka集群的信息,如集群流量情况、磁盘容量和类型、分区数量等,来为您评估并推荐需要的 云消息队列 Kafka 版 实例规格,帮助您提前根据推荐部署 云消息队列 Kafka 版 ...
根据计费方式的特点,云消息队列 Kafka 版 资源支持的退款情况如下:包年包月的 云消息队列 Kafka 版 资源如需退款,可在控制台上退订实例。详细信息,请参见 实例生命周期管理。按量计费的 云消息队列 Kafka 版 资源在使用后才支付费用,...
新建Kafka数据源,并完成Kafka数据源与数据集成资源组之间的网络连通检测,操作详情请参见 配置Kafka数据源。重要 使用标准模式的工作空间时,您需要确认在Kafka数据源的开发和生产环境对应的Kafka集群中有同名Topic,用于开发和生成环境...
云消息队列 Kafka 版 提供全托管免运维服务,您无需登录机器。云消息队列 Kafka 版 是全托管的,由 云消息队列 Kafka 版 专业团队进行运维保障,您无需登录机器。集群的一些基础信息会通过监控告警进行透传。
本文旨在以简单明了的方式引导您快速上手 云消息队列 Kafka 版。操作流程 根据网络类型不同,快速入门的操作流程有所不同,详情请参见 云消息队列 Kafka 版快速入门操作流程。图 1.云消息队列 Kafka 版 快速入门操作流程 操作步骤 具体操作...
本文介绍 云消息队列 Kafka 版 的产品动态、产品简介及产品计费。云消息队列 Kafka 版 动态与公告 产品简介 产品计费 云消息队列 Confluent 版 什么是云消息队列 Confluent 版?产品计费
如果您首次使用 云消息队列 Kafka 版,您可以参考快速入门文档。快速入门文档 云消息队列 Kafka 版快速入门 云消息队列 Confluent 版快速入门
详细信息 客户端首次接入云消息队列 Kafka 版时如果出现异常,您可以通过以下三个方面进行排查:网络连通问题:通常有如下几种情况可能会导致网络不通,客户端无法连接云消息队列 Kafka 版的服务端。ECS实例(客户端)与云消息队列 Kafka ...
前提条件 您已购买 云消息队列 Kafka 版 V3系列Serverless实例,且实例处于 服务中 状态。规格配置说明 配置项 含义 变更方式 流量规格 发送能力预留 消息生产预留规格,生产弹性上限为此数值的2倍,超出生产弹性上限的部分将会被限流。...
如需使用SDK接入 云消息队列 Kafka 版 收发消息,您需要根据实例的网络环境类型来配置接入点。本文介绍如何在 云消息队列 Kafka 版 控制台查看接入点。背景信息 云消息队列 Kafka 版 提供以下类型的接入点:默认接入点:适用于在VPC环境...
云消息队列 Kafka 版 的Connector组件处于公测阶段,且独立于 云消息队列 Kafka 版 实例,因此不会在 云消息队列 Kafka 版 侧产生费用。同时阿里云不承诺Connector的SLA,Connector显示依赖的其他产品的SLA和费用说明请以对应产品为准。
开通 云消息队列 Kafka 版 服务需要使用阿里云其他云产品中的资源,因此,您需要先授权 云消息队列 Kafka 版 访问您所拥有的其他阿里云资源。前提条件 注册阿里云账号并完成实名认证。详情请参见 注册阿里云账号。背景信息 为了方便您快速...
添加数据源 新建Kafka数据源 您可以手动添加Kafka数据源至DataWorks,详情请参见:Kafka数据源。新建Hologres数据源 获取Hologres数据源信息 进入 Hologres产品控制台。找到您要进行数据同步的Hologres数据源,在 实例详情 界面获取到...
您可以在 云消息队列 Kafka 版 控制台创建实例、进行消息收发。云消息队列 Kafka 版 V3系列Serverless实例管理 V2系列实例管理 Topic Group Connector生态集成 迁移 权限管理 云消息队列 Confluent 版 集群资源规格评估 实例管理 权限管理 ...
本文介绍如何在E-MapReduce中使用Apache Druid Kafka Indexing Service实时消费Kafka数据。前提条件 已创建E-MapReduce的Druid集群和Kafka集群,详情请参见 创建集群。背景信息 Kafka Indexing Service是Apache Druid推出的使用Apache ...
本文介绍如何使用 云消息队列 Kafka 版 提供的迁移工具将某个 云消息队列 Kafka 版 实例的 Group 迁移到另一个 云消息队列 Kafka 版 实例。前提条件 您已完成以下操作:下载JDK 8 下载迁移工具JAR文件 重要 迁移不会删除源 云消息队列 ...
本文主要介绍Kafka数据导入到JindoFS的几种方式。常见Kafka数据导入方式 通过Flume导入 推荐使用Flume方式导入到JindoFS,利用Flume对HDFS的支持,替换路径到JindoFS即可完成。a1.sinks=emr-jfs.a1.sinks.emr-jfs.type=hdfs a1.sinks.emr-...
本文介绍如何使用 云消息队列 Kafka 版 提供的迁移工具将自建Kafka集群的Topic迁移到 云消息队列 Kafka 版 实例。前提条件 您已完成以下操作:下载JDK 8 下载迁移工具kafka-migration-assessment.jar 购买并部署 云消息队列 Kafka 版 实例...
本文介绍 云消息队列 Kafka 版 SDK、支持的多语言SDK。SDK简介 SDK(Software Development Kit)即软件开发工具包,包含示例Demo、库文件、编译工具链以及编译脚本等,不需要开发者进行任何其他的配置,直接可以在SDK对应目录环境下,进行...
消息发布到 云消息队列 Kafka 版 服务器的存储时间。控制台看到的 最近消费时间 是指消息发布到 云消息队列 Kafka 版 服务器的存储时间。如果消费没有堆积,那么这个时间接近发送时间。
云消息队列 Kafka 版 服务端支持收发压缩消息。如需使用压缩消息,您需要在 云消息队列 Kafka 版 的客户端进行设置。在 云消息队列 Kafka 版 客户端进行消息压缩的说明如下:压缩格式:支持Snappy、LZ4、GZIP等压缩格式。其中,GZIP对CPU的...
前提条件 您已购买 云消息队列 Kafka 版 实例,且实例处于服务中状态。操作步骤 登录 云消息队列 Kafka 版 控制台,在 概览 页面的 资源分布 区域,选择地域。在 实例列表 页面,单击目标实例名称。在 实例详情 页面的 配置信息 区域,选择...
问题描述 使用云消息队列 Kafka 版时出现“Not authorized to access group”的错误信息。问题原因 没有创建Consumer Group时会遇到此报错信息。解决方案 您可以选择如下任意一种方式创建Consumer Group。在云消息队列 Kafka 版的控制台...
本文介绍如何在 云消息队列 Kafka 版 控制台创建迁移任务,将元数据迁移至 云消息队列 Kafka 版 已有实例。前提条件 下载JDK 8 购买并部署 云消息队列 Kafka 版 实例:购买并部署VPC实例 购买并部署公网/VPC实例 背景信息 Kafka集群元数据...
操作步骤 重要 云消息队列 Kafka 版 不支持数据迁移和位点迁移信息上报,即如果您已经开始数据迁移或位点迁移,您目前无法在 云消息队列 Kafka 版 控制台查看迁移进度。登录 云消息队列 Kafka 版 控制台。在 概览 页面的 资源分布 区域,...
如需使用客户端连接 云消息队列 Kafka 版 收发消息,您需要根据客户端的网络环境类型及传输的安全需要来配置接入点。默认接入点适用于在保密性较高的VPC环境收发消息;SASL接入点适用于无需对传输链路加密但需对消息收发鉴权;同时需要链路...
网络类型为公网/VPC的 云消息队列 Kafka 版 实例支持通过公网访问。云消息队列 Kafka 版 提供VPC和公网/VPC两种网络类型的实例。如需通过公网访问,请购买公网/VPC实例。如果已购买VPC实例,请升级实例配置,变更VPC实例为公网/VPC实例。更...
问题现象 我在 云消息队列 Kafka 版 控制台 上,未查看到对应的Group,但此Group下却有消费线程在消费消息。可能原因 如果客户端使用 assign 方式消费消息,那么即使不创建Group,也可能消费消息。如果客户端使用 subscribe 方式消费消息,...
本文介绍如何使用Kafka数据源进行数据分析或者交互式开发。建表语法 CREATE TABLE tbName[(columnName dataType[,columnName dataType]*)]USING kafka OPTIONS(propertyName=propertyValue[,propertyName=propertyValue]*);配置参数说明 ...
问题现象 在 云消息队列 Kafka 版 控制台 的 Group 管理 页面查看您Kafka集群上所有存在的Group时,显示的Group数量多于您手动创建的数量。可能原因 若Group的 自动创建 栏为 否,说明此Group创建于 云消息队列 Kafka 版 控制台 的 Group ...