数据治理
当前仅支持面向E-MapReduce中的几类Hive表提供数据预览功能，若无法进行Hive表数据预览，请联系集群管理员确认集群类型及存储类型是否满足以下要求。说明 其中 表示支持预览，表示不支持预览。EMR集群类型 元数据存储类型 数据存储类型：...
Hive作业异常排查及处理
Hive表路径会继承数据库路径，同样也会使用当前集群的HDFS路径（例如 hdfs:/master-1-1.xxx:9000/user/hive/warehouse/test.db/test_tbl）。当启用一个新EMR集群，同时使用Hive读写旧集群创建的Hive表或者数据库时，新集群可能无法连接旧...
Hive采集字段
简介 Hive采集工具通过访问Metastore DB 进行相关资源信息采集，当前支持的类型为MySQL数据库。基本信息 通过对Hive的对象信息进行盘点，采集的字段重点举例为：Hive版本 Hive db名称 Hive db大小 表个数 分区表个数 外部表个数 事物表个数...
配置Hive输入组件
同步Hive数据源的数据至其他数据源的场景中，您需要先配置Hive输入组件读取的数据源，再配置数据同步的目标数据源。本文为您介绍如何配置Hive输入组件。使用限制 Hive输入组件支持数据格式为 orc、parquet、text、rc、seq、iceberg...
通过Hive访问云数据库HBase
云数据库HBase支持通过Hive读写数据，本文介绍如何配置Hive并读写云数据库HBase的数据。前提条件 已将Hive所在的Hadoop集群所有的节点的IP加入到云数据库HBase实例的白名单中，具体操作请参见 设置白名单。已获取云数据库HBase的zookeeper...
创建数据库
若要使用云数据库RDS，您需要在实例中创建数据库。...如果您使用 一键上云 等迁移方式将本地自建数据库迁移上云时，表空间将与本地自建数据库表空间名称相同，支持将数据库和表的表空间修改为 pg_default。下一步 连接PostgreSQL实例。
创建账号和数据库
如果您使用 一键上云 等迁移方式将本地自建数据库迁移上云时，表空间将与本地自建数据库表空间名称相同，支持将数据库和表的表空间修改为 pg_defult。常见问题 创建的账号在只读实例上可以用吗？答：主实例创建的账号会同步到只读实例，...
使用SQL管理外部项目
基于Hadoop外部数据源的外部项目操作 按照如下命令，查询Hadoop中Hive表数据。执行作业需要在普通项目下，不能是外部项目。use;访问阿里云E-MapReduce表必须设置，访问MaxCompute内部表不需要。set odps.sql.hive.compatible=true;指定写出...
ACL权限体系
以下列出AnalyticDB for MySQL 2.0的权限对象和各对象权限：Database（库），即 db_name.*或*（默认数据库），指定数据库或数据库上所有表/表组。TableGroup（表组），即 db_name.table_group_name 或 table_group_name，特定表组。Table...
Dataphin将csv文件同步到hive库，目标hive库字段值为...
hive输出组件配置截图：任务运行日志没有报错，如下图：hive库中查询集成的数据的字段都为空值NULL：问题原因 客户创建hive表时没有指定分隔符，管道中分割符填写不对导致。解决方案 该问题是由于选择的hive目标表创建时没有指定分隔符，...
PyMySQL 连接 OceanBase 数据库示例程序
本文将介绍如何使用 PyMySQL 库和 OceanBase 数据库构建一个应用程序，实现基本的数据库操作，包括创建表、插入数据、查询数据和删除表等。点击下载 python-pymysql 示例工程 前提条件 您已安装 Python 3.x 和 pip。您已安装 OceanBase ...
CREATE SCHEMA
不同数据源的语法示例 创建hive数据库 CREATE DATABASE oss_log_schema with DBPROPERTIES(catalog='hive',location='oss:/analyticdb-bucket/log/');创建MySQL数据库 CREATE SCHEMA mysql_db WITH DBPROPERTIES(CATALOG='mysql',LOCATION=...
Hive连接方式
jdbc</artifactId><version>2.3.9</version></dependency><dependency><groupId>org.apache.hadoop</groupId><artifactId>hadoop-common</artifactId><version>2.8.5</version></dependency>编写代码，连接HiveServer2并操作Hive表数据。...
对接使用CDH与CDP
数据地图配置 在DataWorks上使用CDH引擎时，可使用DataWorks的数据地图服务采集CDH集群中Hive数据库、表、字段、分区元数据，便于实现全局数据检索、元数据详情查看、数据预览、数据血缘和数据类目管理等功能。说明 当前仅支持Hive数据库。...
查看集群日报与分析
Hive库存储格式分布Top信息展示如下：库TextFile存储格式数据量分布Top 库Parquet存储格式数据量分布Top 库ORC存储格式数据量分布Top Hive表信息 Hive表信息包含以下部分：Hive表详细信息 Hive表文件大小分布Top信息 Hive表冷热数据分布Top...
访问JDBC外表
云原生多模数据库Lindorm计算引擎支持访问外部JDBC数据源，您可以通过Spark SQL完成Lindorm与外部数据源之间的数据流转以及联邦计算。前提条件 已开通Lindorm实例的计算引擎服务，具体操作请参见 开通与变配。确保外部数据源已开通访问权限...
基础用户权限
云数据库 SelectDB 版 的权限管理系统借鉴了MySQL的权限管理机制，实现了表级别细粒度的权限控制，并支持基于角色的权限访问控制和白名单机制。本文介绍 云数据库 SelectDB 版 包含的权限管理系统的背景和具备的权限管理能力，及一些使用时...
Tomcat 连接池连接 OceanBase 数据库示例程序
本文将介绍如何使用 Tomcat 连接池、OceanBase Connector/J 和 OceanBase 数据库构建一个应用程序，实现基本的数据库操作，包括创建表、插入、删除、更新和查询数据等。点击下载 tomcat-mysql-client 示例工程 前提条件 您已安装 OceanBase...
CDH Hive数据抽样采集器
您可以通过DataWorks的数据抽样采集器功能，从CDH Hive表中随机抽取表的部分数据用于数据保护伞的敏感数据识别。如果您在数据保护伞中配置了脱敏规则，那么在数据地图表详情页面进行数据预览时，命中的敏感字段将会被脱敏。本文为您介绍...
通过Kafka导入数据
database.server.name=test123#需要同步的数据库和表，默认是同步所有数据库和表 database.include.list=test table.include.list=test.test_table database.history.kafka.bootstrap.servers=localhost:9092#用于存储数据库表结构变化的 ...
Dataphin脚本任务运行报错“Error while processing ...
解决方案 上述报错信息是底层计算源抛的错，需要查看底层hadoop引擎上的日志信息如下：报错原因是：Hive表有新增字段，新增字段后，再往表中插入数据时会报异常。方案1.重新创建一张Hive表，再把历史数据重新插入进去。方案2.在SQL任务前...
管理数据库
Hive 参数 说明 数据库类型 Hive 名称 新建数据库的名称，长度限制为1~64个字符，只允许包含中文、字母、数字、空格、短划线（-）和下划线（_）。网络类型 仅支持专有网络类型。专有网络 默认展示工作空间配置的网络参数，不支持修改。为了...
快速入门
Ganos FDW提供了对于多种空间数据类型的统一访问，会自动将几何空间数据类型映射为Geometry字段类型，从而允许与数据库内部表进行统一地访问与查询。操作步骤 创建时空引擎FDW插件。您可以通过以下两种方式创建扩展。直接创建Ganos_FDW扩展...
快速入门
Ganos FDW提供了对于多种空间数据类型的统一访问，会自动将几何空间数据类型映射为Geometry字段类型，从而允许与数据库内部表进行统一地访问与查询。操作步骤 创建时空引擎FDW插件。您可以通过以下两种方式创建扩展。直接创建Ganos_FDW扩展...
数据源Hive
本文为您介绍如何创建数据源Hive。...将Hive数据库中的数据表或自建的自定义SQL添加到Quick BI，请参见 创建并管理数据集。添加可视化图表并分析数据，请参见 新建仪表板 和 可视化图表概述。钻取并深度分析数据，请参见 钻取设置与展示。
Hive数据源
通过Hive Catalog，您可以直接查询Hive中的数据。本文为您介绍如何创建和查看Hive ...查看Hive表数据 您可以通过SELECT查询目标数据库中的目标表。SELECT*FROM<catalog_name>.<database_name>.;相关文档 Hive更多介绍，请参见 Hive概述。
Hive数据源
再通过Hive JDBC客户端执行LOAD DATA SQL语句，加载HDFS文件中的数据至Hive表。Hive Writer底层的逻辑和HDFS Writer插件一致，您可以在Hive Writer插件参数中配置HDFS Writer相关的参数，配置的参数会透传给HDFS Writer插件。支持的版本 ...
Hive数据源
Hive Catalog是一种External Catalog。通过Hive Catalog，您可以直接查询Hive中的数据。...查看Hive表数据 您可以通过SELECT查询目标数据库中的目标表。SELECT*FROM<catalog_name>.<database_name>.;相关文档 Hive更多介绍，请参见 Hive概述。
Sqoop概述
Sqoop是一款Apache社区的开源软件，支持在Hadoop生态软件和结构化数据集（例如数据库）之间进行高效的批量数据传输。背景信息 常见数据传输场景如下：将MySQL数据导入HDFS 将HDFS数据导入MySQL 将Hive数据导入MySQL 将MySQL数据导入Hive 将...
在EMR Hive或Spark中访问OSS-HDFS
步骤二：获取HDFS服务域名 在OSS管理控制台的 概览 页面，复制HDFS服务的域名，在 步骤三：在EMR集群中使用OSS-HDFS 中创建Hive表时会用到。步骤三：在EMR集群中使用OSS-HDFS 说明 本示例以Hive操作OSS-HDFS为例介绍。您也可以参照此方式...
在EMR Hive或Spark中访问OSS-HDFS
创建指向OSS-HDFS的Hive表。执行以下命令，进入Hive命令行。hive 执行以下命令，创建指向OSS-HDFS的数据库。CREATE DATABASE if not exists dw LOCATION 'oss:/<yourBucketName>.<yourBucketEndpoint>/<path>';说明 上述命令中的 dw 为数据...
自建Hive数据仓库迁移到阿里云E-MapReduce
可靠性 使用阿里云数据库RDS保存Hive的元数据信息，可以提升数据可靠性和服务可用性，免除客户运维自建MySQL数据库的工作。架构图 方案详情 请参见 阿里云自建Hive数据仓库跨版本迁移到阿里云EMR。icmsDocProps={'productMethod':'created'...
DLF统一元数据
切换为MySQL（包括集群内置MySQL、统一meta数据库和自建RDS）：设置 hive.imetastoreclient.factory.class 的值为 org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClientFactory。切换为DLF统一元数据：设置 hive....
Hive访问云HBase数据
返回信息如下：132 acb 212 bab 执行以下命令，删除Hive表并查看HBase表情况。在Hive中删除表hive_hbase_table。drop table hive_hbase_table;在HBase中查看表hive_hbase_table。scan hive_hbase_table;返回信息会提示表已经不存在。
快速使用EMR Notebook
数据库 待访问的Hive数据库名称。访问方式 支持以下访问方式：LDAP：EMR集群中设置的用户名和密码，详情请参见 管理用户。免密登录：仅需设置用户名。网络检测 单击 测试连通性，可以测试网络连通性。单击 添加数据库。步骤三：新建...
访问Kafka数据
返回结果：Output:kafka record（可选）实践：将Kafka数据导入Hive表 如果您有数据分析等相关需求，可以参考以下步骤将Kafka中的数据导入Hive表。假设域名接入点为kafka_addr:9092，topic名称为topic1的Kafka实例中有两条写入时间在2023-04...
EMR Hive功能增强
本文为您介绍E-MapReduce（简称EMR）各版本对应的Hive组件版本，以及各版本中Hive相对开源增强的功能。...EMR-3.23.0之前版本 Hive 2.x 外部统一数据库保存至Hive Meta，所有使用外部Hive Meta的集群共享同一份Meta信息。
创建集群
内置MySQL（不推荐）：该方式的元数据存储在集群本地环境的MySQL数据库中。说明 测试场景：推荐使用 DLF统一元数据。生产场景：可以使用 DLF统一元数据 或 自建RDS。集群存储根路径 当您在可选服务区域选择了OSS-HDFS服务时，需要配置该...
API概览
ListDoctorHiveTables 批量获取Hive表分析结果 通过EMR Doctor批量获取Hive表分析结果。GetDoctorHiveTable 获取Hive表分析结果 通过EMR Doctor获取集群Hive特定表分析结果。ListDoctorHDFSUGI 批量获取属主或属组HDFS分析结果 通过EMR ...
DataWorks on EMR数据安全方案
开源Ranger方案：您需要在集群拉起Ranger服务，管理HDFS、Yarn、Hive库和Hive表等数据权限。DLF Auth方案：您需要在集群拉起DLF Auth服务，来管理库、表、列、函数等数据权限，详细介绍请参见 DLF-Auth。DLF Auth的相关授权操作可直接通过...
- 产品推荐
- 这些文档可能帮助您