快照概述
什么是数据库文件系统快照 数据库文件系统快照是某一时间点文件系统状态的备份文件，文件系统部署在云盘上，因此文件系统快照服务实际上基于云盘快照，对某个文件系统打快照相当于对该文件系统所部署的所有云盘同时打快照。文件系统第一份...
DescribeDataCollction-DescribeDataCollection
获取指定应用的数据采集详情。调试 您可以在OpenAPI Explorer中直接运行该接口，免去您计算签名的困扰。运行成功后，OpenAPI Explorer可以自动生成SDK代码示例。调试 授权信息 当前API暂无授权信息透出。请求语法 GET/v4/openapi/app-...
典型使用场景
而接合LindormStreams+Blink/Spark，可以构建出一套完整的实时数据系统：应用解耦-实时同步到消息队列 通常业务发生之后，应用系统产生的数据需要被其他应用使用或根据这个事件驱动其他应用的业务逻辑，应用之间一般通过消息队列进行消息...
实时数据API
本文为您介绍什么是实时数据API，以及实时数据API的作用。实时数据业务流程。在实时数据业务场景中，最常见的链路是将实时采集的数据，通过实时计算初步清洗，实时写入数据至数据库，再对接BI工具实现数据的可视化分析。数据处理流程如下图...
数据同步概述
无论是实时数据，还是离线数据，同步至Hologres之后就能使用Hologres对数据进行多维分析，例如通过JDBC或者ODBC对数据进行查询、分析、监控，然后直接承接上游的业务例如大屏、报表、应用等可视化展现，实现数据从写入到服务分析一体化。...
推送采集数据
方法 POST URI/v3/openapi/app-groups/{appName}/data-collections/{dataCollectionName}/data-collection-type/{dataCollectionType}/actions/bulk appName 指的是 opensearch 应⽤名称 dataCollectionName 指的是数据采集名称，...
快速入门
Logstash快速入门 Beats Beats是轻量级的数据采集工具，支持一键部署采集器，可视化采集与配置日志文件、网络数据、容器指标等多种类型数据，并集中管理多个采集器。Beats快速入门 高级监控报警 基于Elasticsearch开发的，具备采集、监控、...
什么是ETL
在降低开发门槛和业务系统影响的同时提升效率，丰富企业实时数据处理和计算场景，赋能企业数字化转型。为什么选择ETL ETL支持通过DAG模式和Flink SQL模式配置任务。DAG模式 可视化处理编辑：ETL任务界面当前提供三种组件（输入/维表、转换...
流式ETL
在降低开发门槛和业务系统影响的同时提升效率，丰富企业实时数据处理和计算场景，赋能企业数字化转型。为什么选择ETL ETL支持通过DAG模式和Flink SQL模式配置任务。DAG模式 可视化处理编辑：ETL任务界面当前提供三种组件（输入/维表、转换...
采集-多渠道数据
方式 优势 劣势 例子 批量导入 吞吐率大，面向历史存量数据 实时性较差 FTP、OSS上传、邮寄硬盘、SQL 数据导出 流式导入 实时，所见即所得，面向实时数据 收集端要求高 LogHub、HTTP上传、IoT，Queue 背景“我要点外卖”是一个平台型电商...
SQL审计（数据库审计）
说明 系统是从数据库内采集csvlog文件内容，然后保存到日志服务器后提供给您查看，如果需要调整数据库内csvlog文件的最大保留个数，您可以调整实例参数 rds_max_log_files。关闭SQL审计 为节约成本，您可以在不需要审计SQL时关闭SQL审计...
数据上云工具
它提供了数据迁移、实时数据订阅及数据实时同步等多种数据传输功能。DTS可以支持RDS、MySQL实例的数据实时同步到MaxCompute表中，暂不支持其他数据源类型。详情请参见 创建RDS到MaxCompute数据实时同步作业。开源产品 Sqoop（Tunnel通道...
采集-IoT/嵌入式日志
嵌入式开发需求主要有以下几点：数据采集：如何实时采集分散在全球各地的百万/千万级设备上的数据？调试：如何使用一套方案既满足线上数据采集又满足开发时的实时调试？线上诊断：某个线上设备出现错误，如何快速定位设备，查看引起该设备...
常见问题
消费与投递常见问题 为什么实时消费的速率未达到Shard的读写阈值上限？日志投递到MaxCompute后，如何检查数据完整性？投递日志到OSS失败 告警常见问题 旧版告警常见问题 开发常见问题 日志服务错误代码汇总 CLI参考常见问题
一键建仓
数据管理DMS一键建仓功能可以实现一键创建实时同步的数据仓库，数据可在秒级的延迟下...单击 数据可视化，基于实时数据制作实时报表，更多信息，请参见 数据可视化概览。单击 数据服务，基于实时数据提供API，更多信息，请参见 数据服务概述。
离线人脸识别SDK
人脸算法对接入设备的要求 硬件设备 系统：Android版本在5.0及以上 系统类型：32位、64位 处理器：4核，1.45及以上 内存：1 GB及以上 镜头 分辨率：RGB镜头1080p，红外镜头800×600及以上（使用红外功能时需要关注）。固定30帧，无拖影，...
DataWorks快速入门指引
15分钟 Github实时数据同步与分析 DataWorks、Hologres、DataV 基于GitHub Archive公开数据集实时采集并分析展示数据。30分钟 简单用户画像分析（MaxCompute版）DataWorks、MaxCompute、RDS、OSS 以用户画像分析为例，进行数据采集、清洗...
调用链采样配置最佳实践
基于重保角度考虑，特定时间段全采样 运维过程中也经常会面临重大事件保障的场景，比如大促、新版本压测等，需要针对某一类标签的数据甚至全部应用开启全量数据采集和存储，以便出现问题或者故障时，可以快速定位，甚至影响审计和定责。...
大数据安全治理的难点
通常，大数据系统中的工作流涉及多部门、多责任人且跨系统的数据，如何才能协调好这些业务系统准时、保质保量地产出数据，避免出现因业务系统宕机/脏数据导致数据延时产出、产出脏数据，关乎到企业数据业务的连续性问题甚至高层的信任问题...
Github实时数据同步与分析
通过DataWorks将GitHub中的项目、行为等20多种事件类型数据实时采集至Hologres进行分析，同时使用DataV内置模板，快速搭建实时可视化数据大屏，从开发者、项目、编程语言等多个维度了解GitHub实时数据变化情况。我能学到什么 学会通过...
从Oracle迁移应用至阿里云PolarDB全流程指南
它底层的数据流基础设施为阿里双11异地多活基础架构，为数千下游应用提供实时数据流，已在线上稳定运行6年之久。您可以使用数据传输轻松构建安全、可扩展、高可用的数据架构。云数据库PolarDB：PolarDB是阿里巴巴自主研发的下一代关系型...
实时数据消费概述
实时数据消费功能包含高速数据导入API和实时数据源消费两部分，可实现数据直接写入Segment（分片单元），避免通过COPY或INSERT方式造成的Master写入负载高的问题，也可实现使用 AnalyticDB PostgreSQL版 单产品直接消费Kafka数据。...
常见问题
日志服务一站式提供数据采集、加工、查询与分析、可视化、告警、消费与投递等功能，全面提升您在研发、运维、运营、安全等场景的数字化能力。日志服务可以做什么？存储与分析：存储与分析基础设施日志、应用日志、网站访问日志、容器日志、...
常见问题概述
计费相关 什么是性能监控套件与集群事件采集能力？如何调整指标的存储时长？包年包月方式如何续费？购买时长到期后，已上报指标数据将如何处理 Prometheus监控何时会自动释放实例资源？接入ARMS Prometheus监控后，为什么会产生额外的费用...
简介
HBase Ganos是什么 HBase Ganos是阿里云推出的一款包含管理 空间几何数据、时空轨迹、专题栅格、遥感影像的时空大数据引擎系统。系统兼容开源GeoMesa、GeoServer等生态，内置了高效的时空索引算法、空间拓扑几何算法、遥感影像处理算法等，...
功能使用常见问题
日志分析是移动数据分析（Mobile Analytics）为方便用户使用SDK采集到的原始数据而开发的功能，实现了数据“物归原主”，助力用户数据“物尽其用”。Q5:授权到ODPS的SDK采集的数据字段有哪些？当前的字段有：字段名 类型 注释 app_id ...
什么是实时日志
通过实时日志功能，您可以实时采集节点产生的日志，并投递到日志服务（简称SLS）进行存储和消费，以便快速监控和定位业务问题。如果您想深入了解日志服务，请参见 什么是日志服务。注意事项 通过CDN/DCDN控制台（或者OpenAPI）的监控查询、...
常见问题
数据安全中心DSC根据为不同行业预先定义的敏感数据关键字段，扫描MaxCompute、OSS、阿里云数据库服务（RDS、PolarDB-X、PolarDB、OceanBase、表格存储等）和自建数据库中的数据，通过敏感数据规则，判断和打标敏感数据，为数据安全审计、...
事件中心
请在事件中心获取事件模型，用于采集和上报事件数据程序的编码，并设置上报的事件数据是否存储于分析源，保存为用户行为表。事件模型 采集和上报一次完整的行为事件，可能包含以下数据：事件编码：即事件ID，必传。用户ID：必传。事件属性...
概述
开通全量日志分析后，日志服务将实时采集接入DDoS高防防护的网站业务的日志，并基于采集到的日志数据向您提供日志查询与分析和日志报表服务。什么是全量日志分析 DDoS高防全量日志分析基于阿里云日志服务，在DDoS高防控制台为您提供日志...
Elastic Agent采集NetFlow日志数据
Fleet Agent 轻量级数据采集代理，负责采集源端数据。Fleet Agent可以在多个操作系统上运行，并且可以收集多种类型的数据。Fleet Server 负责将Agent采集的源端数据传输到Elasticsearch。准备环境 创建阿里云Elasticsearch实例，具体操作请...
从采集到分析-TSDB For InfluxDB®让你的数据产生价值
Telegraf-数据的搬运工 Telegraf是一个用Go语言编写的代理程序，可采集系统和服务的统计数据，并写入TSDB For InfluxDB®数据库。Telegraf具有内存占用小的特点，通过插件系统开发人员可轻松添加支持其他服务的扩展。Telegraf安装 完成后，...
数据投递概述
数据投递 数据投递是指将日志服务采集的数据通过控制台投递至其他阿里云产品，便于您存储数据或联合其他系统消费数据。启用数据投递后，日志服务将定时将采集到的数据投递至对应的云产品。应用场景 数据投递适用于数据存储、离线分析等场景...
可观测概述
在Service Mesh中实现可观测性，涉及了日志、监控指标、链路追踪这些可观测性数据的生成规则配置和采集配置，以及如何将这些可观测数据采集到云托管服务或者自建服务中。同时，还需要考虑如何支持针对网格代理与网关Pod分别定义采集配置，...
产品使用流程
本章节内容用于介绍产品业务流程，并提供相关内容索引。创建应用 EMAS平台中的应用即您实际端应用的映射，您需要在EMAS控制台创建应用，与您要加载SDK的端应用进行...同步MaxCompute 查看实时日志 查看数据采集的实时日志，参见 实时日志。
V3.3.41版本说明
V3.3.41中，自动化营销支持通过 阿里云Quick Tracking 数据采集获取实时行为事件，智能实验室的品牌高潜预测、商品匹配推荐分别成为独立模块并更名为复购预测、货品推荐，此外，还对功能、交互进行了多项优化升级。发布时间 2021年12月16日...
空间回收
表中的数据被删除或更新后（UPDATE/DELETE），物理存储层面并不会直接删除数据，而是标记这些数据不可见，所以会在数据页中留下很多“空洞”，在读取数据时，这些“空洞”会随数据页一起加载，拖慢数据扫描速度，需要定期回收删除的空间。...
DataWorks on EMR Serverless StarRocks最佳实践
StarRocks作为一款兼容MySQL协议的OLAP分析引擎，提供了极致的性能和丰富的OLAP场景模型，包括OLAP多维分析、数据湖分析、高并发查询以及实时数据分析。更多关于StarRocks、EMR Serverless StarRocks的介绍请参见 什么是EMR Serverless ...
PolarDB PostgreSQL版（兼容Oracle）间的迁移
为实时保持数据一致性，建议选择结构迁移、全量数据迁移和增量数据迁移。为保障迁移任务的正常进行，避免主备切换导致的逻辑订阅中断，需要 PolarDB PostgreSQL版（兼容Oracle）支持并开启Logical Replication Slot Failover。设置方式，请...
文档修订记录
增强分析（卡片和报告）2023.08.04 新增功能 数据集成 以Kafka实时入湖写入至OSS场景为例，为您介绍如何通过数据集成实时入湖 Kafka单表实时入湖OSS（HUDI）2023年7月更新记录 时间 特性 类别 描述 产品文档 2023.7.31 优化体验 数据服务 ...
- 产品推荐
- 这些文档可能帮助您