计算设置概述
计算引擎 说明 操作文档 离线计算引擎 MaxCompute 阿里原生的大数据计算平台，承载海量数据存储与计算能力，高效率与高稳定性。设置Dataphin实例的计算引擎为MaxCompute AnalyticDB for PostgreSQL 专注于OLAP领域的分析型数据库，是云端...
计算设置概述
计算引擎 说明 操作文档 离线计算引擎 MaxCompute 阿里原生的大数据计算平台，承载海量数据存储与计算能力，高效率与高稳定性。设置Dataphin实例的计算引擎为MaxCompute 实时计算引擎 阿里云实时计算Flink 阿里云新一代计算引擎Flink，支持...
外部表概述
随着大数据业务的不断扩展，新的数据使用场景在不断产生，MaxCompute计算框架也在不断演化。MaxCompute原来主要面对内部特殊格式数据的强大计算能力，正一步步地开放给不同的外部数据。现阶段MaxCompute SQL处理的主要是以 cfile 列格式...
Tablestore外部表
注意事项 MaxCompute与Tablestore是两个独立的大数据计算和存储服务，所以两者之间的网络必须保证连通性。MaxCompute公共云服务访问Tablestore存储时，推荐您使用Tablestore私网地址，即Host名以 ots-internal.aliyuncs.com 作为结尾的地址...
RDS搭配大数据计算服务实现大规模数据计算
本文介绍RDS MySQL如何结合大数据计算服务MaxCompute使用。开放数据处理服务又称为大数据计算服务（MaxCompute，原名ODPS），可服务于批量结构化数据的存储和计算，提供海量数据仓库解决方案以及针对大数据的分析建模服务。通过 数据集成 ...
ECS资源复用版
ECS资源复用版是MaxCompute按量付费类型中的...则04:00~05:00的账单详情（部分字段）示例如下：产品 产品明细 消费时间 实例ID 计费项code 单价 用量 官网价 云原生大数据计算服务 MaxCompute 大数据计算服务MaxCompute（按量付费）2023-12-30...
计量计费
本文为您介绍如何估算MaxCompute SQLML作业的费用。背景信息 通常情况下，每个算法组件由多个子任务组成。...查看账单信息 MaxCompute SQLML作业，在账单中体现的是 大数据计算服务MaxCompute+机器学习（PAI）两个产品的费用。
查询执行模式
相比较于全内存计算的 Interactive 模式，Batch 模式可以对查询的任务进行分批执行，每个子任务在内存不足的情况下，自适应地将内存数据换出到磁盘，降低数据计算的成本，提升数据处理的容量上限。Interactive模式 AnalyticDB MySQL 接收到...
计费常见问题
SQL作业的费用计算方式为 输入数据量×复杂度×单价，因此在复杂度和单价不变情况下，输入数据量越大费用越高。MaxCompute作业跑失败了会收费吗？MaxCompute有两种计费模式：按量计费：如果作业是按照按量计费进行运行的，当运行失败后，...
源服务器迁移至轻量应用服务器
数据盘 数据盘<0>：表示迁移后阿里云轻量应用服务器数据盘的大小，单位为GiB。数据盘大小取值范围：20~32768。您可以设置 数据盘 前复选框的选中情况，自行选择是否迁移目标数据盘。轻量应用服务器最多只能挂载1块数据盘。数据盘取值需要...
源服务器迁移至轻量应用服务器
数据盘 数据盘<0>：表示迁移后阿里云轻量应用服务器数据盘的大小，单位为GiB。数据盘大小取值范围：20~32768。您可以设置 数据盘 前复选框的选中情况，自行选择是否迁移目标数据盘。轻量应用服务器最多只能挂载1块数据盘。数据盘取值需要...
DataWorks V3.0
MaxCompute：大数据计算服务MaxCompute（原ODPS）是一种快速、完全托管的EB级大数据计算引擎，是大规模离线数据仓库的核心引擎。MaxCompute是DataWorks最早支持，且最成熟完备的计算引擎，目前已基本覆盖MaxCompute的所有功能。详情请参见 ...
准备环境
为保证您可以顺利完成本次实验，请您首先确保自己云账号已开通大数据计算服务MaxCompute、数据工场DataWorks和 人工智能平台 PAI。前提条件 注册阿里云账号，详情请参见 注册阿里云账号。实名认证，详情请参见 个人实名认证 背景信息 本次...
选型配置说明
HDFS、YARN、Hive、Spark、Presto、Impala、JindoData、DeltaLake、Hudi、Iceberg、OpenLDAP、Knox、Kyuubi等 Dataflow 实时数据流场景，其中核心组件Flink是阿里云提供的基于Apache Flink和E-MapReduce Hadoop构建的企业级大数据计算平台...
支持的连接器
MySQL√流模式 SQL和DataStream 是 云数据库RDS MySQL版×流模式和批模式 SQL 是 大数据计算服务MaxCompute√流模式和批模式 SQL和DataStream 不支持更新和删除结果表数据，只支持插入数据。数据总线DataHub√流模式和批模式 SQL和...
选择付费方式
对周期性高密度计算作业使用包年包月模式，对非周期性的大规模数据处理作业使用按量计费模式。按量计费模式下可以不存储数据，通过读取其它账号下的表获取数据，从而可以节省数据存储费用。不同账号下跨表计算需要通过授权来实现，详细请...
应用场景
本文将以部门场景和技术领域场景为例，为您介绍实时计算Flink版的大数据是实时化场景。说明 更多场景案例请参见 阿里云实时计算Flink版产品案例和解决方案汇总。背景信息 作为流式计算引擎，Flink可以广泛应用于实时数据处理领域，例如ECS...
与Spark集成分析
DLA Ganos是基于云原生数据湖分析（Data Lake Analytics，DLA）系统设计开发的，面向时空大数据存储与计算的数据引擎产品。基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos提供了不同级别的数据分析模型，...
产品简介
DLA Ganos是基于云原生数据湖分析（Data Lake Analytics，DLA）系统设计开发的，面向时空大数据存储与计算的数据引擎产品。基于DLA无服务器化（Serverless）数据湖分析服务与内置的Spark计算引擎，DLA Ganos打通了阿里云各个存储系统，如...
函数
自定义函数（UDF）：为MaxCompute提供了高度的灵活性，允许您根据具体业务逻辑进行定制化的数据计算和分析。自定义函数（UDF）可以进一步分为标量值函数（UDF）、自定义聚合函数（UDAF）和自定义表值函数（UDTF）三种类型。您在开发完成UDF...
基于混合负载的查询优化
Batch模式：采用批计算架构，通过DAG进行任务切分，分批调度，满足有限资源下大数据量计算，支持计算数据落盘，适用于计算量大，吞吐高的复杂分析场景。资源池混合负载隔离 AnalyticDB MySQL版弹性版本支持资源池多租户隔离。通过一个实例...
操作审计事件数据迁移至MaxCompute
审计事件投递 区域：选择 将事件投递到大数据计算服务MaxCompute。选择 投递到本账号，设置如下参数。参数 描述 大数据计算服务地域 被投递数据的MaxCompute项目所在地域。说明 操作审计会将审计日志投递至MaxCompute指定地域下的...
查看数据盘
单击需要查看数据盘信息的服务器卡片中的实例ID。单击 磁盘 页签，进入磁盘页面。查看服务器内的数据盘信息。您也可以在左侧导航栏单击 磁盘，查看您的阿里云账号下所有轻量应用服务器的数据盘信息。相关操作 创建轻量应用服务器后，您可以...
基本概念
地域（Region）购买 云数据库ClickHouse 的服务器所处地理位置。您需要在购买 云数据库ClickHouse 服务时指定Region，Region一旦指定后就不允许更改。可用区（Zone）同一地域下，电力、网络隔离的物理区域，可用区之间内网互通，可用区内...
创建数据板块
如果您管理诉求较强，数据研发人员较多且能力及分工明确，数据计算存储预算较高，推荐 此模式。创建Dev-Prod模式数据板块，请参见 创建Dev-Prod模式数据板块。Basic模式 生成独立的Basic数据板块，数据生产过程稳定且便捷。如果您关注数据...
创建数据板块
如果您管理诉求较强，数据研发人员较多且能力及分工明确，数据计算存储预算较高，推荐 此模式。创建Dev-Prod模式数据板块，请参见 创建Dev-Prod模式数据板块。Basic模式 生成独立的Basic数据板块，数据生产过程稳定且便捷。如果您关注数据...
名词解释
提供安全可靠的数据计算能力，可供本地处理设备数据，减少上传云端的成本。Link IoT Edge软件包 阿里云IoT的边缘计算产品软件包，包含Link IoT Edge轻量版、标准版、专业版软件包。LE Lite Link IoT Edge轻量版，以二进制 tar.gz 的方式...
羲和分析计算引擎
相对于传统的以数据为中心的计算方式，面向算子为中心的计算方式对现代CPU计算更友好：缓存友好的同时，利用乱序执行扩大了CPU的指令并发，利用SIMD又扩大CPU的数据并发，充分挖掘了现代CPU的算力。面向混合负载的查询执行 羲和分析计算...
创建自定义镜像
通过创建自定义镜像，您可以保存一台轻量应用服务器的数据。创建完成的自定义镜像可用于共享到云服务器ECS或者创建相同配置的轻量应用服务器。前提条件 您已创建了一份轻量应用服务器的系统盘快照。具体操作，请参见 管理快照。说明 如果您...
无法更换轻量应用服务器的操作系统
如果您有恢复服务器数据的需求，可以使用当前服务器对应的快照回滚磁盘数据。非中国内地地域不支持Windows Server系统和Linux系统互相切换，即Windows系统的自定义镜像无法重置Linux服务器；Linux系统的自定义镜像无法重置Windows服务器。...
数据质量保障原则
一致性 一致性通常体现在跨度很大的数据仓库中。例如，某公司有很多业务数仓分支，对于同一份数据，在不同的数仓分支中必须保证一致性。例如，从在线业务库加工到数据仓库，再到各个数据应用节点，用户ID必须保持同一种类型，且长度也要...
迁移ECS实例至轻量应用服务器
警告 建议您分别为ECS实例与轻量应用服务器创建快照，如果因迁移失败造成服务器数据异常，您可以通过快照回滚服务器的云盘数据。确保迁移前后两台服务器内的运行环境版本信息一致。部分网站对服务器的运行环境的版本有较高的要求，如果迁移...
导入导出表数据
MaxCompute Studio可以将CSV、TSV等格式的本地数据文件导入至MaxCompute表中，也可将MaxCompute表中的数据导出到本地文件。MaxCompute Studio通过Tunnel导入导出数据。前提条件 导入导出数据使用MaxCompute Tunnel，因此要求MaxCompute ...
私网传输迁移
操作场景 场景一：源服务器迁移上云，但没有公网访问能力 您需要通过VPN网关、高速通道物理专线、智能接入网关将源服务器和云上VPC打通，并为源服务器设置代理服务器，然后通过代理服务器访问SMC实现私网迁移源服务器。场景二：源服务器...
使用MaxCompute控制台（离线）
MaxCompute控制台提供数据上传功能，支持您将本地文件或阿里云对象存储服务OSS中的文件数据离线（非实时）上传至MaxCompute进行分析处理及相关管理操作。使用限制 仅支持基于 本地文件 或 阿里云对象存储OSS 上传数据，具体如下。本地文件...
调优集群性能
UPDATE SQL 如果单个UPDATE WHERE语句命中了较多行数据，计算引擎需要计算出所有命中行的主键，并更新其对应的字段值，然后再逐个下发给存储节点进行标记旧行以及追加（Append）新行的操作。一个UPDATE SQL操作步骤可能会放大很多倍，从而...
基本概念
项目 在隐私计算的数据应用中，以项目的形式对成员、权限、节点或数据等要素进行隔离。根据不同的应用类别，项目分为不同的类型。虚拟宽表 结合两组数据特征列并且经过 ID 对齐后，物理层面中不存在的宽表被称为虚拟宽表。用户面向虚拟宽表...
轻量应用服务器数据迁移至ECS实例
重要 创建迁移任务后，目标ECS实例中的原数据将会清除（源服务器的数据不会被清除，例如您的源数据服务器为轻量应用服务器，轻量应用服务器的数据不会被清除）。如果ECS实例中存在重要数据，不推荐您使用该方式迁移。推荐您在迁移时，目标...
基本概念
迁移源（源服务器）概指您的待迁移IDC服务器、虚拟机、其他云平台的云主机或其他类型的服务器。SMC客户端 阿里云自主研发的服务器迁移工具，体量小、免安装。迁移任务 导入迁移源信息后，SMC控制台会自动生成迁移源记录，您需要在SMC控制台...
数据传输费用（公网下载）
本文介绍MaxCompute中数据下载计费规则。MaxCompute仅对公网的下载数据进行收费，并按照下载的数据大小按量计费。MaxCompute会在第二天给出您的下载费用账单，您可以进入 费用中心 查看。下载计费规则如下。计费公式 价格 说明 一次下载...
- 产品推荐
- 这些文档可能帮助您