账单数据订阅及查询分析
在 成本分析>更多分析工具 单击 查看详情，进入大数据分析页面。开通分析工具。根据界面指引，开通MaxCompute及DataWorks，并完成相关授权及分析环境的准备工作。具体如下：选择开通分析工具的地域。所选地域需已开通DataWorks及MaxCompute...
PostGIS
classOf[GanosSparkKryoRegistrator].getName).getOrCreate()import spark.implicits._/SparkSession加载JTS包用于处理时空数据 spark.withJTS val sc=spark.sparkContext 加载数据：/配置链接参数 val dsParams:JMap[String,String]=Map(...
产品简介
大数据专家服务 大数据专家服务（Bigdata Expert Service）是由阿里云大数据专家基于阿里云多年大数据架构、应用、运维、AI算法建模等最佳实践经验及方法论为用户提供全方位的大数据产品技术、咨询服务及售后专家服务运维保障，帮助用户...
PolarDB
classOf[GanosSparkKryoRegistrator].getName).getOrCreate()import spark.implicits._/SparkSession加载JTS包用于处理时空数据 spark.withJTS val sc=spark.sparkContext 加载数据：Spark format方式：/配置链接参数 val dsParams:JMap...
加载矢量数据
您也可以选择其他模式：a：追加-d:加载数据之前先删除表-p:仅创建表结构SQL，不写入空间数据 无-W<charset>shapefile字符集。GBK"或"UTF8"<path_to_shpfile>shapefile 文件路径，需要被shp2pgsql命令工具访问到。home/roads.shp<schema>....
加载矢量数据
您也可以选择其他模式：a：追加-d:加载数据之前先删除表-p:仅创建表结构SQL，不写入空间数据 无-W<charset>shapefile字符集。GBK"或"UTF8"<path_to_shpfile>shapefile 文件路径，需要被shp2pgsql命令工具访问到。home/roads.shp<schema>....
加载矢量数据
您也可以选择其他模式：a：追加-d:加载数据之前先删除表-p:仅创建表结构SQL，不写入空间数据 无-W<charset>shapefile字符集。GBK"或"UTF8"<path_to_shpfile>shapefile 文件路径，需要被shp2pgsql命令工具访问到。home/roads.shp<schema>....
树形容器
简介 树形容器组件绑定一个数据源列表，将列表的每一项都作为一个可展开的节点，渲染出一个类似Data的数据容器，可通过嵌套树形容器呈现树形结构数据。用于呈现如目录、组织架构等树形内容。属性配置 树形容器组件属性由以下部分组成：分类...
测试方法
insertproportion=0：加载数据操作比例。readproportion=50：读操作比例。updateproportion=50：更新操作比例。mongodb.url="mongodb:/test:*@dds-bp13e84d11*.mongodb.rds.aliyuncs.com:3717/admin" ：云数据库MongoDB实例的连接地址。...
加载矢量数据
您也可以选择其他模式：a：追加-d:加载数据之前先删除表-p:仅创建表结构SQL，不写入空间数据 无-W<charset>shapefile字符集。GBK"或"UTF8"<path_to_shpfile>shapefile 文件路径，需要被shp2pgsql命令工具访问到。home/roads.shp<schema>....
同步数据
本文介绍了多种同步数据的方式。分析型数据库MySQL版支持多种数据加载方式，包括但不限于：...通过DML（INSERT 和 DELETE）命令加载数据到分析型数据库MySQL版中。如果数据在数据库其它表中已经存在，可以使用 INSERT SELECT FROM 加载数据。
IoT数据自动化同步至云端解决方案
大数据分析是大数据完成数据价值化的重要手段之一，而进行大数据分析的第一步是让数据成功上云。解决方案 IoT数据自动化同步至云端解决方案主要包括存储原始数据和同步数据至分析系统两部分。IoT设备大量的数据通常以半结构化的形式存储。...
快速体验
DataWorks为您提供智能建模、数据清洗、周期调度运维、数据治理等一站式大数据开发管理能力，本文以一个零售电商行业的数仓搭建实验为例，为您介绍DataWorks在数仓搭建过程中的技术选型、技术流程以及流程实现，帮助您深入了解阿里云...
什么是DataWorks
DataWorks基于MaxCompute、Hologres、EMR、AnalyticDB、CDP等大数据引擎，为数据仓库、数据湖、湖仓一体等解决方案提供统一的全链路大数据开发治理平台。从2009年起，DataWorks不断沉淀阿里巴巴大数据建设方法论，支撑数据中台建设，同时与...
互联网、电商行业离线大数据分析
通过阿里云MaxCompute、云数据库RDS MySQL、DataWorks等产品，可以实现互联网、电商网站的...可视化编辑：在图形化的编辑页面，通过拖拽即可完成专业级的大数据可视化。方案详情 方案的详情请参见 互联网、电商行业离线大数据分析和大屏展示。
使用DataWorks连接
DataWorks基于MaxCompute等引擎，提供统一的全链路大数据开发治理平台。本文为您介绍如何通过DataWorks使用MaxCompute服务。背景信息 DataWorks支持将计算引擎绑定至DataWorks的工作空间，绑定计算引擎后，您即可在DataWorks上创建对应引擎...
大数据安全治理的难点
存储 众所周知，大数据系统以数据类型多（结构化、非结构化、半结构化）、数据量大（动辄PB级别）著称，某些巨头组织一天就能新增数十万甚至数百万张表，如此体量给数据分级分类带来了极大挑战，通过人工进行数据分级分类显然是不现实的，...
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
查看敏感数据识别结果
仅支持在 结构化数据、半结构化数据、非结构化数据 或 大数据 分类下分别选择一个或多个数据类型，不支持跨分类同时选择多个数据类型。如果您未选中任意数据类型，数据安全中心默认展示所有数据类型下的敏感数据识别结果。数据模板：在 ...
客户案例
价值体现 从大数据平台上云整体“降本增效”的方案快速切入，迁移到大数据MaxCompute、实时计算、DataWorks后，部分任务有10倍以上的性能提升，存储从自建Hadoop 3PB降到900T，利用Flink实时数据处理能力，将宝宝树现有的场景实时化（...
数据标准
数据是由特定的环境产生的，这些环境因素包括生产者、时间、系统等，从而造成了同一个语义的数据，有...说明 目前使用DDM进行数据建模可以进行逻辑建模和物理建模，但物理建模仅支持MaxCompute和Hive两种大数据引擎，不支持自定义数据源类型。
通用数据开发
通常数据开发的总体流程包括数据产生、数据收集与存储、数据分析与处理、数据提取和数据展现与分享。说明 上图中，虚线框内的开发流程均可基于阿里云大数据平台完成。数据开发的流程如下所示：数据产生：业务系统每天会产生大量结构化的...
大数据AI公共数据集分析
本教程通过DataWorks，联合云原生大数据计算服务MaxCompute，使用大数据AI公共数据集（淘宝、飞猪、阿里音乐、Github、TPC等公共数据），指导您如何快速进行大数据分析，快速熟悉DataWorks的操作界面与最基础的数据分析能力。DataWorks的更...
网站图片过多导致网页访问慢
通过压缩减小图片大小，加快数据传输，提高网页加载速度。插图尽量使用外链。由于服务器性能的限制，如果一个页面中的HTTP请求太多，页面往往要等待很久才能完全加载出数据。特别是图片，如果太长时间不能加载的话，浏览器就会断开与服务器...
数据集成概述
背景信息 面对各行各业对大数据的应用，数据集成会有很多的诉求，包括能够简单高效的配置大量数据表的同步任务、能够集成多种异构数据源、能够实现对数据源的数据进行轻度预处理、能够实现数据同步任务的调优（例如容错，限速，并发）等。...
云产品集成
您可以使用 DMS 录入云数据库 OceanBase 的数据，通过 DMS 的全域数据资产管理、数据治理、数据库设计开发、数据集成、数据开发和数据消费等功能，帮助企业高效、安全地挖掘数据价值，助力企业数字化转型。什么是数据管理DMS 支持的数据库...
SQL开发编辑器
加载内置数据集 如果创建 湖仓版（3.0）集群时，您没有选择加载内置数据集，集群创建成功后，如有快速测试的需求，您可以在 SQL开发 页面单击加载内置数据集，在弹窗中单击 确定。内置数据集的详细信息，请参见 管理内置数据集。查看库表...
DataWorks模块使用说明
使用流程概览：参考文档：数据集成概述 数据建模与开发 子模块：数据建模 功能说明：数据建模是全链路数据治理的第一步，沉淀阿里巴巴数据中台建模方法论，从数仓规划、数据标准、维度建模、数据指标四个方面，以业务视角对业务的数据进行...
将云消息队列 Kafka 版的数据迁移至MaxCompute
本文介绍如何使用DataWorks数据同步功能，将 云消息队列 Kafka 版 集群上的数据迁移至阿里云大数据计算服务MaxCompute，方便您对离线数据进行分析加工。前提条件 在开始本教程前，确保您在同一地域中已完成以下操作：云消息队列 Kafka 版 ...
Append Hints
此optimizer hint在批量加载数据时特别有用。语法如下：/*+APPEND*/例如，以下命令与 Oracle 数据库兼容，INSERT 语句中的数据附加到 sales 表末尾：INSERT/*+APPEND*/INTO sales VALUES(10,10,'01-Mar-2011',10,'OR');请注意，在单个 ...
接入数据库
在使用 数据安全中心DSC（Data Security Center）检测云产品（包括OSS、RDS、PolarDB等）中存在的敏感数据或审计数据库活动前，您需要先将数据库接入DSC。本文介绍如何将数据库接入DSC。背景信息 DSC 支持的数据库类型详情，请参见 支持的...
Superset（仅对存量用户开放）
使用Superset访问Hive数据库 Superset提供了SQLAlchemy以多种语言支持各种各样的数据库，包括MySQL、Oracle、PostgreSQL和Microsoft SQL Server等关系型数据库，以及Hive、Presto和Druid等大数据查询引擎。这里以E-MapReduce Hadoop集群...
使用MaxCompute控制台（离线）
查看上传记录 提交上传后，若数据量较大，需要耗费一些时间，您无需在提交页面一直等待，可后续通过单击 数据上传 页面右上角的 查看上传记录 查看通过该功能上传数据的详情记录。说明 通过该页面的 查看上传记录 查询到的记录详情也包含...
识别任务说明
文件或表扫描限制 为了避免数据源中文件或表过大影响整体扫描进度，数据安全中心对可以扫描的文件大小或表的字段大小做了限制，请您在进行敏感数据扫描前了解以下规则：结构化数据（RDS MySQL、RDS PostgreSQL、PolarDB等）、大数据...
Github实时数据同步与分析
本文以使用DataWorks实时同步公共数据至Hologres，并通过Hologres进行实时数据分析为例，为您示例DataWorks的数据同步能力与Hologres的实时分析能力。本教程以申请免费资源为例为您示例详细操作步骤，您也可以使用付费资源，操作类似。教程...
实验介绍
数据采集 数据加工 配置数据质量监控 数据可视化展现 目标人群 开发工程师、数据分析师、产品运营等存在数仓数据获取与数据分析洞察人员。涉及产品 本案例涉及以下产品：一站式大数据开发治理DataWorks 本案例通过DataWorks实现数据采集，...
创建GreenPlum数据源
操作步骤 请参见 数据源管理入口，进入数据源管理页面。按照下图操作指引，进入 新建数据源 对话框。在 新建数据源 对话框的 大数据存储 区域，选择 GreenPlum。如果您最近使用过 GreenPlum，也可以在 最近使用 区域选择 GreenPlum。同时，...
离线同步任务运维
表数据质量监控 数据集成部分目标端数据源支持配置产出表的数据质量监控，您可以进入数据质量规则页面，对数据同步写入的目标表配置数据质量校验规则。对于配置了数据质量监控规则的表，当表关联的调度节点运行（执行节点代码逻辑）完成后...
ActionTrail日志清洗
DLA提供ActionTrail日志自动清洗解决方案，可以将ActionTrail投递到OSS的日志文件转换为DLA中可以直接查询的数据表，同时自动对数据进行分区和压缩，方便您分析和审计对云产品的操作日志。日志分析痛点 ActionTrail是阿里云提供的云账号...
数据库导出
当您需要进行数据库备份、导出数据库表进行数据分析等操作，您可使用 数据管理DMS 的数据导出功能，该功能可通过提交工单的方式导出数据库。前提条件 数据库类型如下：MySQL系列：自建MySQL、RDS MySQL、PolarDB MySQL版、AnalyticDB ...
- 产品推荐
- 这些文档可能帮助您