大数据体系结构-大数据体系结构文档介绍内容-阿里云

产品简介

大数据专家服务大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、...，帮助用户构建和持续优化的大数据体系架构...

功能概览

1.4 生态融合系出飞天，与阿里云大数据系统深度整合，无缝对接MaxCompute、实时计算、交互式分析等产品，打通整个大数据体系。2.产品功能 2.1 数据接入提供多种SDK、API和Flume、Logstash等第三方插件，让您高效便捷的把数据接入到数据...

概述

DataWorks的安全中心作为云上大数据体系的安全门户，致力于向您提供面向数据安全生命周期全过程的安全能力，同时在符合安全规范要求的前提下，提供各类安全诊断的最佳实践。其核心功能如下：数据权限管理安全中心为您提供精细化的数据权限...

JSON索引（2.0版）

背景信息 大数据时代结构化数据检索已经逐渐有了多元化的、丰富的解决方案。但是，事实上大多数的大数据都是半结构化的，并且半结构化数据的数据量仍旧急剧增长。理解和分析半结构化数据的难度比结构化数据大很多，急需成熟的解决方案来...

PolarDB PostgreSQL版间的迁移

通过数据传输服务DTS（Data Transmission Service），可以实现 PolarDB PostgreSQL版集群间的迁移。前提条件已创建源和目标 PolarDB PostgreSQL版数据库集群，详情请参见创建PolarDB PostgreSQL版数据库集群。已将源和目标 PolarDB ...

PolarDB PostgreSQL版（兼容Oracle）间的迁移

由于全量数据迁移会并发执行INSERT操作，导致目标数据库的表产生碎片，因此全量迁移完成后目标数据库的表存储空间会比源实例的表存储空间大。请确认DTS对数据类型为FLOAT或DOUBLE的列的迁移精度是否符合业务预期。DTS会通过 ROUND(COLUMN,...

2023年

2023-03-30 全部地域向量计算（Proxima CE）概述支持External Volume非结构化数据存储能力 External Volume是MaxCompute提供的非结构化大数据存储方案，是OSS路径在数仓中的映射和管理对象。2023-03-30 全部地域 External Volume操作 ...

产品优势

支持防护常见的结构化数据、非结构化数据和大数据产品，例如对象存储OSS、云数据库RDS、MaxCompute等。智能化运用大数据和机器学习能力，通过智能化的算法，对敏感数据和高风险活动，例如数据异常访问和潜在的泄露风险进行有效识别和监控...

概述

库仓一站式（Zero-ETL）传统数据仓库，会通过数据ETL方式同步数据，采用MPP/BSP等并行计算架构可以很好解决OLAP复杂查询，但面相高并发的数据在线查询（Serving场景）会有明显的资源并发瓶颈，会通过数据回流到OLTP数据库提供在线查询。...

查看敏感数据识别结果

仅支持在结构化数据、半结构化数据、非结构化数据或 大数据 分类下分别选择一个或多个数据类型，不支持跨分类同时选择多个数据类型。如果您未选中任意数据类型，数据安全中心默认展示所有数据类型下的敏感数据识别结果。数据模板：在 ...

采集数据

本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...

采集数据

本教程以MySQL中的用户基本信息（ods_user_info_d）表及OSS中的网站访问日志数据（user_log.txt）文件，通过数据集成离线同步任务分别同步至MaxCompute的ods_user_info_d、ods_raw_log_d表为例，为您介绍如何通过DataWorks数据集成实现异构...

DataWorks on EMR数据安全方案

在大数据领域，阿里云为企业用户提供了一整套数据安全方案，包含用户认证、数据权限、大数据作业管理体系等。本文以联合使用DataWorks与EMR为例，为您介绍DataWorks on EMR场景下的数据安全方案。背景信息 DataWorks on EMR目前支持LDAP...

通用数据开发

数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的数据，存储在业务系统所对应的数据库中，包括MySQL、Oracle和RDS等类型。数据收集与存储：您需要同步不同业务系统的数据至MaxCompute中，方可通过MaxCompute的海量数据...

技术发展趋势

生产处理智能化企业视之为有价值的数据，不再仅仅限于结构化数据，大量半结构化数据（如日志）、非结构化（音视频）等等比例在持续增加。IDC在《Data Age 2025》的报告中预测到2025年非结构化数据占企业数据的80%以上，并且以每年55%的...

IoT数据自动化同步至云端解决方案

物联网的体系结构包括设备、网络、平台、分析、应用和安全，其中分析部分的主要内容为大数据分析。大数据分析是大数据完成数据价值化的重要手段之一，而进行大数据分析的第一步是让数据成功上云。解决方案 IoT数据自动化同步至云端解决方案...

Tair（Redis企业版）简介

磁盘型：基于ESSD/SSD研发，兼容Redis核心数据结构与接口，可提供大容量、低成本、强持久化的数据库服务。Tair将重点建设云原生版，如软硬件技术结合、数据智能分布、数据存储和计算处理一体化等核心能力。2019年11月发布Tair 3.0，即 ...

消息通知管理

例如：当研发人员提交了数据结构变更，大数据开发人员需及时感知到该变更并同步进行大数据侧的联动处理，避免因信息未同步而产生报表异常等现象。单击确认。事件发生时，上述接收对象将收到消息通知，并且可以灵活配置多种通知方式，更多...

什么是云原生内存数据库Tair

更丰富的数据结构 提供TairString，TairHash，TairGIS，TairCpc，TairBloom等多种扩展数据结构，极大降低用户的开发成本，更有利于业务创新。说明更多信息，请参见产品优势和应用场景。实例存储介质随着互联网的高速发展，业务场景变...

Tair（Redis企业版）与Redis社区版特性对比

高兼容性：兼容Redis社区版6.0大部分的数据结构和命令。大存储、低访问密度、低访问延迟要求，且成本作为首要考虑因素的数据存储场景。Redis社区版无兼容开源Redis，高性能。适用于标准化Redis使用和迁移场景。说明关于产品选型的详细...

磁盘型

Tair 推出磁盘（ESSD/SSD）型实例，均兼容Redis核心数据结构与接口，可提供大容量、低成本、持久化的数据库服务。适用于兼容Redis、需要大容量且访问性能较高的温冷数据存储场景。背景信息传统Redis基于内存属于易失性存储介质，随着业务...

磁盘型

云原生内存数据库Tair 推出磁盘（ESSD/SSD）型实例，均兼容Redis核心数据结构与接口，可提供大容量、低成本、持久化的数据库服务。适用于兼容Redis、需要大容量且访问性能较高的温冷数据存储场景。背景信息传统Redis基于内存属于易失性...

功能特性

云原生内存数据库Tair 云原生内存数据库Tair是阿里云自研数据库，兼容Redis的同时提供更多数据结构和企业级能力，包括全球多活、任意时间点恢复和透明加密等。支持多种存储介质和不同场景性价比需求：内存型支持超高吞吐，性能为Redis三倍...

云数据库Redis版产品选型必读

高兼容性：兼容Redis社区版6.0大部分的数据结构和命令。大存储、低访问密度、低访问延迟要求，且成本作为首要考虑因素的数据存储场景。Redis社区版无兼容开源Redis，高性能。适用于标准化Redis使用和迁移场景。选择云原生版或经典版云...

Tair选型指南

高兼容性：兼容Redis社区版6.0大部分的数据结构和命令。各系列支持的命令与参数，请参见 Tair命令支持概览和参数支持。云原生版与经典版若您选择内存型，您可以选择云原生版或经典版，对比如下：对比项云原生实例（推荐）经典 ...

文档修订记录

Check节点 2024.1.12 新增功能最佳实践新增DataWorks大数据安全治理实践新增指南，为您介绍数据安全治理的常见思路、DataWorks产品的安全能力，以及在DataWorks上基于“基础防护建设”、“数据安全防护措施”、“数据安全持续运营”三个...

大数据用户画像解决方案

方案总览作为面向大数据场景的半结构化、结构化存储系统，Lindorm可以很好的满足用户画像：没有强事务要求，大数据量、高并发读写场景这样的业务特征。其架构如下图所示：方案优势 1.低成本：集群内单表冷热分离能力、独有的压缩优化能力...

数据扫描和识别

支持扫描的数据源类型如下：结构化数据：RDS、PolarDB、PolarDB-X、MongoDB、OceanBase、自建数据库非结构化数据：OSS 大数据：TableStore、MaxCompute、ADB-MYSQL、ADB-PG 数据源授权完成后需要多长时间完成扫描？DSC 完成数据源授权后，...

云数据库 Memcache 版支持的数据结构？

云数据库 Memcache 版目前仅支持 Key-Value 的数据结构，暂不支持 List 等数据结构。

典型场景

基于湖构建数据平台，支持BI、挖掘等业务对象存储OSS可以作为湖存储，DLA基于OSS构建一站式的大数据平台。具体包括构建数据湖、数据ETL、交互式查询、机器学习等功能。构建数据湖实时数据湖：支持DB的CDC与消息数据（如Kafka）入湖，构建...

快速体验

DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...

数据集成

数据源支持情况数据集成目前支持40种以上的数据源类型（包括关系型数据库、非结构化存储、大数据存储、消息队列等），通过定义来源与去向数据源，并使用数据集成提供的数据抽取插件（Reader）、数据写入插件（Writer），实现任意结构化、...