Dataphin同步SQL Server的数据MaxCompute,同步中途...

问题描述 Dataphin同步SQL Server的数据MaxCompute,同步中途报错“该连接已关闭”问题原因 读数据过程中连接中断,原因可能是数据库性能、网络较差。解决方案 给任务配置整型类型的主键或索引,配合并发来提高同步效率。适用于 Dataphin

MaxCompute执行并发插入操作时返回ODPS-0110999错误码

问题描述 阿里云云原生大数据计算服务MaxCompute在执行并发插入操作时,返回如下报错:ODPS-0110999:Critical!Internal error happened in commit operation and rollback failed,possible breach of atomicity-Rename directory failed ...

授权信息

本文为您介绍 云原生大数据计算服务 MaxComputeMaxCompute)为RAM权限策略定义的操作(Action)、资源(Resource)和条件(Condition)。云原生大数据计算服务 MaxComputeMaxCompute)的RAM代码(RamCode)为 odps,支持的授权粒度为 ...

数据类型版本说明

MaxCompute目前提供了三种不同类型的数据类型版本,包括1.0数据类型、2.0数据类型以及Hive兼容数据类型,您可以根据业务需求选择合适的数据类型版本。本文为您介绍三种数据类型版本、选择数据类型版本以及查看和修改项目的数据类型版本。...

SQL其他常见问题

关闭MaxCompute 2.0数据类型之后可进行隐式转换。更多数据类型转换信息,请参见 数据类型转换。查询数据时,提示XXXtypeisnotenabled incurrentmode,如何解决?您可以在Session级别执行 set odps.sql.decimal.odps2=true;命令,打开2.0...

2023年

2023年08月01日-MaxCompute服务等级协议变更公告 尊敬的MaxCompute用户:为了给您提供更加优质的服务,云原生大数据计算服务MaxCompute计划于北京时间 2023年09月01日(周五)变更服务等级协议(SLA),新版SLA协议将根据各服务项分别计算...

1.0数据类型版本

关闭MaxCompute 2.0数据类型。setproject odps.sql.decimal.odps2=false;关闭Decimal 2.0数据类型。setproject odps.sql.hive.compatible=false;关闭Hive兼容模式。适用场景 适用于早期的MaxCompute项目,且该项目依赖的产品组件不支持2.0...

API概览

本产品(云原生大数据计算服务 MaxCompute/2022-01-04)的OpenAPI采用 ROA 签名风格,签名细节参见 签名机制说明。我们已经为开发者封装了常见编程语言的SDK,开发者可通过 下载SDK 直接调用本产品OpenAPI而无需关心技术细节。如果现有SDK...

ECS资源复用版

ECS资源复用版是MaxCompute按量付费类型中的...则04:00~05:00的账单详情(部分字段)示例如下:产品 产品明细 消费时间 实例ID 计费项code 单价 用量 官网价 云原生大数据计算服务 MaxCompute 大数据计算服务MaxCompute(按量付费)2023-12-30...

公告

2023年12月15日-MaxCompute项目生命周期流程改造公告 尊敬的MaxCompute用户:感谢您对云原生大数据计算服务MaxCompute的支持,MaxCompute从北京时间 2023年12月25日(周一)开始陆续对各个地域(Region)的项目生命周期进行改造升级,如果...

2023年

MaxCompute服务不可用赔付案例说明 2023-07-25 新增MaxCompute停止服务规格转换操作指引 新说明 阿里云云原生大数据计算服务MaxCompute将停止提供按量付费开发者版、包年包月套餐以及非预留计算资源服务,您需要将这些版本的计算资源转换为...

实验介绍

云原生大数据计算服务MaxCompute 实现底层加工计算,您需提前开通该服务。详情请参见 开通MaxCompute数据库RDS MySQL版 本案例中用于存储用户信息数据。案例已默认提供该MySQL数据源基本信息,您无需单独开通该服务。对象存储OSS 本...

消息队列 Kafka 版的数据迁移至MaxCompute

本文介绍如何使用DataWorks数据同步功能,将 消息队列 Kafka 版 集群上的数据迁移至阿里云大数据计算服务MaxCompute,方便您对离线数据进行分析加工。前提条件 在开始本教程前,确保您在同一地域中已完成以下操作:消息队列 Kafka 版 ...

操作审计事件数据迁移至MaxCompute

审计事件投递 区域:选择 将事件投递到大数据计算服务MaxCompute。选择 投递到本账号,设置如下参数。参数 描述 大数据计算服务地域 被投递数据的MaxCompute项目所在地域。说明 操作审计会将审计日志投递至MaxCompute指定地域下的...

常见问题

如何理解开源与云原生大数据技术与产品?MaxCompute作为大数据平台,对业务数据是否有好的监控手段?MaxCompute的项目发挥什么作用?如何获取MaxCompute中的Accesskey_ID和AccessKey_Secret?现有账号的AccessKey被禁用,创建一个新的...

SETPROJECT

部分UDF在内存计算、排序的数据量比较时,会报内存溢出错误,这时候可以调该参数,但该方法只能暂时缓解,您需要从业务上去优化UDF代码。取值范围:256 MiB~12288 MiB。默认值为1024 MiB。UDF SQL Session odps.sql.udf.timeout 设置...

Flag参数列表

部分UDF在内存计算、排序的数据量比较时,会报内存溢出错误,这时候可以调该参数,但该方法只能暂时缓解,您需要从业务上去优化UDF代码。取值范围:256 MiB~12288 MiB。默认值为1024 MiB。UDF SQL Session odps.sql.udf.timeout 设置...

支持的云服务

AnalyticDB for MySQL 云原生数据仓库 AnalyticDB MySQL 版(AnalyticDB for MySQL)是海量数据实时高并发在线分析(Realtime OLAP)云计算服务,与MaxCompute结合应用于大数据驱动业务系统的场景。通过MaxCompute离线计算挖掘,产出高质量...

发展历程

2022年 自研一体化大数据计算平台和数据仓库产品ODPS获世界互联网领先科技成果奖。在TPCx-BB 100TB标准测试中,连续6次获得全球冠军,保持性能和性价比第一。Forrester:每两年一次的全球云数仓评测中,进入卓越表现者象限,国内唯一。进入...

开通MaxCompute和DataWorks

角色用途:用于授权MaxCompute访问大数据计算平台其他产品,如Hologres等。绑定的角色策略:AliyunServiceRolePolicyForMaxComputeIdentityMgmt 权限策略详情:{"Statement":[{"Effect":"Allow","Action":"odps:ActOnBehalfOfAUser",...

JDBC常见问题

MaxCompute本身提供REST(REpresentation State Transfer)服务,和传统数据库维持长连接的方式不同。MaxCompute JDBC Driver创建连接是十分轻量的操作,因此并没有必要针对MaxCompute的JDBC刻意使用连接池。当然,使用MaxCompute JDBC支持...

流式数据通道概述

MaxCompute流式数据通道服务提供了以流式的方式把数据写入MaxCompute的能力,使用与原批量数据通道服务不同的一套全新的API及后端服务。流式服务在API上极简化了分布式服务的开发成本,同时解决了批量数据通道在高并发、高QPS(Queries-...

E

返回 e 的值。此函数为MaxCompute 2.0扩展函数。命令格式 double e()返回值说明 返回DOUBLE类型。使用示例-返回2.718281828459045。select e();相关函数 E函数属于数学函数,更多数据计算、数据转换的相关函数请参见 数学函数。

PI

返回π的值。此函数为MaxCompute 2.0扩展函数。命令格式 double pi()返回值说明 返回DOUBLE类型。使用示例-返回3.141592653589793。select pi();相关函数 PI函数属于数学函数,更多数据计算、数据转换的相关函数请参见 数学函数。

数据迁移

本文为您介绍数据迁移的最佳实践,包含将其他业务平台的业务数据或日志数据迁移至MaxCompute,或将...MaxCompute处理业务数据和日志数据后,可以通过Quick BI快速地以可视化方式展现数据处理结果,详情请参见 基于MaxCompute大数据BI分析。

生态对接

v8.6及以上版本 Yonghong BI连接MaxCompute 添加MaxCompute数据源 Quick BI 无特殊要求 Quick BI连接MaxCompute 云数据源MaxCompute 观远BI 无特殊要求 观远BI连接MaxCompute 观远BI 网易有数BI 无特殊要求 网易有数BI连接MaxCompute 网易...

概述

MaxCompute Spark是MaxCompute提供的兼容开源Spark的计算服务。它在统一的计算资源和数据集权限体系之上,提供Spark计算框架,支持您以熟悉的开发使用方式提交运行Spark作业,满足更丰富的数据处理分析需求。使用限制 MaxCompute Spark支持...

什么是MaxCompute

MaxCompute提供离线和实时的数据接入,支持规模数据计算及查询加速能力,为您提供面向多种计算场景的数据仓库解决方案及分析建模服务MaxCompute还为您提供完善的数据导入方案以及多种经典的分布式计算模型,您可以不必关心分布式计算和...

用户与权限

不涉及 数据管理 查看表列表 MaxCompute控制台(新版)MaxCompute客户端 MaxCompute Studio 支持 项目所有者 支持 MaxCompute角色:MaxCompute内置的角色及自定义的具备查看表列表操作权限的角色。不涉及 创建表 MaxCompute客户端 ...

概述

您可以通过标准的JDBC接口基于MaxCompute执行海量数据的分布式计算查询。MaxCompute JDBC驱动还可以用于连接MaxCompute和支持JDBC的工具。JDBC使用说明 使用JDBC连接MaxCompute。详情请参见 使用说明。使用JDBC连接商业智能(BI)分析工具...

功能特性

计算 MaxCompute向用户提供了多种经典的分布式计算模型,提供TB、PB、EB级数据计算能力,能够更快速的解决用户海量数据计算问题,有效降低企业成本。功能集 功能 功能描述 参考文档 SQL开发 DDL语句 DDL语句 DDL DML操作 DML操作 DML操作 ...

外部表概述

随着大数据业务的不断扩展,新的数据使用场景在不断产生,MaxCompute计算框架也在不断演化。MaxCompute原来主要面对内部特殊格式数据的强大计算能力,正一步步地开放给不同的外部数据。现阶段MaxCompute SQL处理的主要是以 cfile 列格式...

函数

自定义函数(UDF):为MaxCompute提供了高度的灵活性,允许您根据具体业务逻辑进行定制化的数据计算和分析。自定义函数(UDF)可以进一步分为标量值函数(UDF)、自定义聚合函数(UDAF)和自定义表值函数(UDTF)三种类型。您在开发完成UDF...

数据分析作业

MaxCompute是适用于数据分析场景的企业级SaaS模式数据仓库,支持在多种工具上使用MaxCompute运行大数据计算分析作业。如果您需要进行简单的查询等数据分析作业,推荐您使用SQL查询或DataWorks的临时查询等工具,高效便捷地完成数据分析...

常见问题

本文为您介绍执行MaxCompute准备工作过程中的...MaxCompute Studio是阿里云MaxCompute平台提供的安装在开发者客户端的大数据集成开发环境工具,目前支持集成安装的平台有IntelliJ IDEA、PyCharm。配置详情,请参见 配置MaxCompute Studio。

整体架构

Transaction Table2.0的增量存储和处理架构的特殊设计主要集中在五个模块:数据接入、计算引擎、数据优化服务、元数据管理、数据文件组织,其他部分与MaxCompute通用的架构一致。本文为您介绍Transaction Table2.0的核心架构要点。...

客户案例

MaxCompute已被广泛应用于各大领域处理大数据,帮助众多企业解决了海量数据分析问题,同时降低企业运维成本,企业人员可更专注于业务开发。本文为您介绍MaxCompute的精选客户案例。MaxCompute的全量客户案例信息,请参见 行业客户案例...

Sugar BI连接MaxCompute

Sugar BI是百度智能推出的敏捷 BI 和数据可视化平台,MaxCompute支持您将MaxCompute项目数据接入Sugar BI,帮助您轻松完成数据分析和数据可视化工作。本文为您介绍如何使用Sugar BI连接MaxCompute项目,并进行可视化数据分析。前提条件 ...

数据传输服务(上传)场景与工具

本文为您介绍如何将数据上传至MaxCompute或从MaxCompute下载数据,包括服务连接、SDK、工具和数据导入导出、上云等常见操作。背景信息 MaxCompute提供了多种数据上传下载的通道支持,方便您在各种场景下进行技术方案选型时参考。批量数据...

技术架构选型

本教程中使用阿里云大数据产品MaxCompute配合DataWorks,完成整体的数据建模和研发流程。完整的技术架构图如下图所示。其中,DataWorks的数据集成负责完成数据的采集和基本的ETL。MaxCompute作为整个大数据开发过程中的离线计算引擎。...
共有200条 < 1 2 3 4 ... 200 >
跳转至: GO
产品推荐
云服务器 安全管家服务 安全中心
这些文档可能帮助您
云原生大数据计算服务 MaxCompute 弹性公网IP 短信服务 人工智能平台 PAI 金融分布式架构 对象存储
新人特惠 爆款特惠 最新活动 免费试用