PolarDB HTAP实时数据分析技术解密
除云上OLTP场景外，大量客户也对PolarDB提出了实时数据分析的性能需求。对此，PolarDB技术团队提出了In-Memory Column Index（IMCI）的技术方案，此方案在复杂分析查询场景获得了数百倍的加速效果。MySQL生态HTAP数据库解决方案 MySQL是一...
通过函数计算节点实现GitHub实时数据分析与结果发送
案例说明 DataWorks为您提供了一个公共的MySQL数据源，存储来自Github的公开实时数据，本案例将此数据进行同步分析，最终将分析结果通过邮件发送至指定邮箱。主要业务过程如下：通过DataWorks的数据集成功能，将MySQL上的Github实时数据...
实时分析链路数据
调用链分析是基于已存储的全量链路明细数据，自由组合筛选条件与聚合维度进行实时分析，可以满足不同场景的自定义诊断需求。例如，查看耗时大于3秒的慢调用时序分布，查看错误请求在不同机器上的分布，或者查看VIP客户的流量变化等。问题一...
Github实时数据同步与分析
实时数据分析与可视化 实时数据分析。进入 HoloWeb SQL编辑器，查询实时更新的过去24小时GitHub最活跃项目。SELECT repo_name,COUNT(*)AS events FROM hologres_dataset_github_event.hologres_github_event WHERE created_at>=now()-...
实时分析海量MaxCompute数据
本文为您介绍交互式分析Hologres如何实时查询海量MaxCompute数据，并以可视化方式分析和展现查询结果的最佳实践。前提条件 开通MaxCompute，详情请参见 开通MaxCompute。说明 请确保MaxCompute和Hologres的地域相同。开通Hologres并连接至...
投递CDN实时日志到SLS来分析用户访问数据
一站式服务 传统的离线日志分析模式，需要用户将日志下载，再重新上传至数据仓库，然后在数据仓库进行一系列的清洗和数据模型定义，这一系列操作处理完以后才能进行数据分析，整个过程需要的人力较多，时间较长；CDN实时日志打通了SLS日志...
投递CDN实时日志到SLS来分析用户访问数据
一站式服务 传统的离线日志分析模式，需要用户将日志下载，再重新上传至数据仓库，然后在数据仓库进行一系列的清洗和数据模型定义，这一系列操作处理完以后才能进行数据分析，整个过程需要的人力较多，时间较长；CDN实时日志打通了SLS日志...
投递CDN实时日志到SLS来分析用户访问数据最佳实践
一站式服务 传统的离线日志分析模式，需要用户将日志下载，再重新上传至数据仓库，然后在数据仓库进行一系列的清洗和数据模型定义，这一系列操作处理完以后才能进行数据分析，整个过程需要的人力较多，时间较长；CDN实时日志打通了SLS日志...
互联网行业实时BI分析
本文以某互联网公司为例，介绍如何将DB...客户价值 1小时短平快即可实现实时数据分析平台建设，无需掌握Hadoop\Spark\Flink\Presto\Impala等复杂的大数据技术。操作简单快捷，全程拖拽式配置，无需编码。业务实时指标数据延时在1分钟以内。
永洪BI
本文介绍如何通过永洪BI连接 云原生数据仓库AnalyticDB MySQL版 集群并进行实时数据分析。前提条件 安装MySQL JDBC驱动。安装永洪BI工具。如果您需要通过外网连接 云原生数据仓库AnalyticDB MySQL版 集群，请先申请外网地址。具体操作，请...
实时大盘
查看数据分析实时大盘的步骤如下：登录控制台，单击 产品与服务>移动开发平台 mPaaS，选择应用。在导航栏左侧，单击 移动分析>数据概览。在右侧页面，单击 实时大盘 标签，进入实时大盘页面。选择平台、版本、渠道，以查看对应的细分数据。...
Power BI
本文介绍如何通过Power BI连接 AnalyticDB MySQL版 集群并进行实时数据分析。前提条件 开始使用Power BI前，您需要完成以下准备工作：安装 Power BI。说明 本文测试使用的Power BI版本为2.79.5768.663 Power BI Desktop，语言为英文。下载...
实时数据集成（Flink版）
背景信息 阿里云实时计算Flink版是一套基于Apache Flink构建的⼀站式实时大数据分析平台，提供端到端亚秒级实时数据分析能力，并通过标准SQL降低业务开发门槛，助力企业向实时化、智能化大数据计算升级转型。详细内容，请参见 阿里云实时...
概述
实时数据分析 实时数据分析指的是根据业务目标，从原始数据中抽取对应信息并整合的过程。例如，查看每天销量前10的商品、仓库平均周转时间、文档平均单击率和推送打开率等。实时数据分析则是上述过程的实时化，通常在终端体现为实时报表或...
应用场景
实时数据分析 数据分析指的是根据业务目标，从原始数据中抽取对应信息并整合的过程。例如，查看每天销量前10的商品、仓库平均周转时间、文档平均单击率、推送打开率等。实时数据分析则是上述过程的实时化，通常在终端体现为实时报表或实时...
应用场景
数据分析：实现了实时数据分析生成的数据可以直接用于Serving，从而实现了实时和离线数据的统一融合。实时数据建模：提供了实时数据建模聚合表，以支持实时聚合能力。强大的引擎和优化器保证了数据库在实时数据建模时的高效性。实时更新：...
应用场景
数据分析：实现了实时数据分析生成的数据可以直接用于Serving，从而实现了实时和离线数据的统一融合。实时数据建模：提供了实时数据建模聚合表，以支持实时聚合能力。强大的引擎和优化器保证了数据库在实时数据建模时的高效性。实时更新：...
阿里云实时数仓产品Hologres的应用场景
Hologres兼容PostgreSQL生态，是新一代的 阿里云实时数仓产品，与大数据生态无缝连接，支持实时与离线数据，对接第三方BI工具，实现可视...Hologres可以联邦分析实时数据和离线数据，对接BI分析工具，快速响应简单查询与复杂查询的业务需求。
构建数据仓库
DataWorks具有通过可视化方式实现数据开发、治理全流程相关的核心能力，本文将为您介绍DataWorks在构建云上大数据仓库和构建智能实时数据仓库两个典型应用场景下的应用示例。构建云上大数据仓库 本场景推荐的架构如下。适用行业：全行业...
互联网教育：尚学博志（上海）教育科技有限公司
依托于IMCI列存索引功能，利用物理复制毫秒级别同步延迟的优势，为用户呈现兼具实时事务处理和实时数据分析的能力。一体化运维访问入口，极大地降低了系统成本。内置的同步机制在提升实时性的同时消除了数据同步的额外成本。原生数据分析...
Hudi概述
近实时数据分析 Hudi支持多种数据分析引擎，包括Hive、Spark、Presto和Impala。Hudi作为一种文件格式，不需要依赖额外的服务进程，在使用上也更加的轻量化。增量数据处理 Hudi支持Incremental Query查询类型，您可以通过Spark Streaming...
游戏运营融合分析
降低使用成本：DLA融合冷数据分析+ADB存储密集型温数据分析+ADB计算密集型热数据分析，在满足各种分析场景需求的同时，有效地降低客户的总体使用成本。学习成本低：Data Lake Analytics（简称DLA）和ADB兼容标准SQL语法，无需额外学习其他...
产品优势
Hologres兼容PostgreSQL生态，支持快速查询分析MaxCompute的数据、实时查询实时写入的数据、联邦分析实时数据与离线数据，帮助您快速搭建企业实时数据仓库。Hologres专注实时数仓需求，从以下几个方面创新，提高数仓开发效率，降低应用门槛...
概述
应用场景 实时数据分析是Apache Druid最典型的使用场景。该场景涵盖的面很广，例如：实时指标监控 推荐模型 广告平台 搜索模型 Apache Druid架构 Apache Druid拥有优秀的架构设计，多个组件协同工作，共同完成数据从摄取到索引、存储和查询...
选型配置说明
广泛用于日志收集和监控数据聚合等场景，支持离线或流式数据处理以及实时数据分析等。Flink、Kafka、YARN OLAP 数据分析场景，其中核心组件ClickHouse是一个面向联机分析处理（OLAP）的开源的面向列式存储的DBMS，与Hadoop和Spark相比，...
列存索引（IMCI）发布说明
通过列存索引，PolarDB MySQL版 实现了一体化的实时事务处理和实时数据分析的能力，成为一站式HTAP数据库产品解决方案。通过一套数据库系统，即可满足业务的OLTP及OLAP需求。版本要求 企业版 集群，集群版本需满足以下条件之一：PolarDB ...
数据上云工具
具体示例请参见 Logstash+DataHub+MaxCompute和StreamCompute 进行实时数据分析。OGG（DataHub通道系列）OGG的DataHub插件可以支持将Oracle数据库的数据实时地以增量方式同步到DataHub中，并最终归档到MaxCompute表中。详情请参见 基于OGG ...
应用场景
数据实时分析 传输方式：数据订阅 数据分析在提高企业洞察力和用户体验方面发挥着举足轻重的作用，且实时数据分析能够让企业更快速、灵活地调整市场策略，适应快速变化的市场方向和消费者体验。DTS提供的数据订阅功能，可以在不影响线上...
创建实例
存算分离版（Beta）适用于对存储成本敏感，同时对查询效率要求略低的业务场景，例如OLAP多维分析、实时数据分析以及数据仓库场景。该实例类型采用存算分离架构，将数据存储在阿里云OSS对象存储中。在创建实例页面，完成实例相关配置。说明 ...
概述
通过列存索引，PolarDB MySQL版 实现了一体化的实时事务处理和实时数据分析的能力，成为一站式HTAP数据库产品解决方案。通过一套数据库系统，即可满足业务的OLTP及OLAP需求。如您有关于列存索引的使用问题，请进钉钉群咨询，群号：...
产品简介
StarRocks作为一款兼容MySQL协议的OLAP分析引擎，提供了极致的性能和丰富的OLAP场景模型，包括OLAP多维分析、数据湖分析、高并发查询以及实时数据分析。关于EMR Serverless的更多介绍，请参见 什么是EMR Serverless StarRocks。产品架构 ...
产品概述
StarRocks作为一款兼容MySQL协议的OLAP分析引擎，提供了极致的性能和丰富的OLAP场景模型，包括OLAP多维分析、数据湖分析、高并发查询以及实时数据分析。关于EMR Serverless的更多介绍，请参见 什么是EMR Serverless StarRocks。产品架构 ...
RDS实时同步至Hologres
待数据同步成功后，前往Hologres进行实时数据分析。查询实时数据 在Hologres中运行如下示例命令查询今日最活跃项目：SELECT repo_name,COUNT(*)AS events FROM hologres_dataset_github_event.hologres_github_event WHERE created_at>=...
基于MaxCompute进行大数据BI分析
本实践以电商行业为例，通过MaxCompute、DataWorks对业务数据和日志数据进行ETL处理，并同步至分析型数据库MySQL（AnalyticDB MySQL）进行实时分析，再通过Quick BI进行可视化展示。背景信息 MaxCompute：用于进行大规模数据计算，详情请...
DataWorks on EMR Serverless StarRocks最佳实践
StarRocks作为一款兼容MySQL协议的OLAP分析引擎，提供了极致的性能和丰富的OLAP场景模型，包括OLAP多维分析、数据湖分析、高并发查询以及实时数据分析。更多关于StarRocks、EMR Serverless StarRocks的介绍请参见 什么是EMR Serverless ...
如何对JSON类型进行高效分析
实时分析 针对半结构化数据分析，PolarDB IMCI实现列式JSON与列存虚拟列等技术，本小节将以GitHub实时事件数据（2023年7月份）来验证 PolarDB IMCI JSON实时数据分析能力。GitHub实时事件JSON数据可以从 GH Archive 获取，如wget，下载2023...
基于GitHub公开事件数据集的离线实时一体化实践
它能够实现实时数据处理和离线数据分析的无缝衔接，从而提高数据分析效率和精度。其优势在于：提高数据处理效率：将实时数据和离线数据整合在同一平台上，大大提高了数据处理效率，降低数据传输和转换成本。提高数据分析精度：将实时数据和...
分析外部OSS上的数据
技术原理 列存索引（IMCI）是一个高性能的列存分析引擎，相关文档请参见 PolarDB HTAP实时数据分析技术解密，ORC和Parquet也是列存格式，OSS支持高并发读取，在高并发时可以获取更高的网络吞吐。因此，IMCI的并行扫描功能可以充分利用OSS的...
- 产品推荐
- 这些文档可能帮助您