DML操作常见问题
目标表的字段类型为VARCHAR(10)，插入数据溢出时会报错吗？在执行MaxCompute SQL过程中，报错Transaction timeout because cannot acquire exclusive lock，如何解决？如何更新MaxCompute表或分区中的数据？删除数据 如何删除MaxCompute表...
Hive兼容数据类型版本
函数行为差异+、-、*、/、POW函数 Hive兼容数据类型版本：在数据溢出时绕回（即数据超出范围后返回初始值）。1.0和2.0数据类型版本：在数据溢出时报告异常，其它模式下返回NULL。兼容数据类型版本：在比较DOUBLE类型数据时，直接比较...
SQL其他常见问题
但您需要注意，MaxCompute支持的DECIMAL类型数据的最大长度为38位，但实际业务处理过程中如果数据存储为最大长度，在数据处理过程中很容易出现数据溢出问题，建议调小数据长度。新创建的MaxCompute项目不支持数据类型自动隐式转换，如何...
2.0数据类型版本
函数行为差异+、-、*、/、POW函数 Hive兼容数据类型版本：在数据溢出时绕回（即数据超出范围后返回初始值）。1.0和2.0数据类型版本：在数据溢出时报告异常，其它模式下返回NULL。兼容数据类型版本：在比较DOUBLE类型数据时，直接比较...
修改、删除和新增表属性
不支持 deallocate_unused_clause 子句显式地释放表、分区或子分区、溢出数据段、LOB 数据段或 LOB索引末尾的未使用空间，会报错。不支持 { CACHE|NOCACHE } 子句指定如何在缓冲区存储块，会报错。不支持 RESULT_CACHE(MODE {DEFAULT|FORCE...
内置的安全审计规则
数据库审计规则按照以下攻击场景进行分类：异常操作 应用账号风险操作 运维人员风险操作 数据库探测 数据泄露 拖库攻击 数据库外联 大流量返回 漏洞攻击 缓冲区溢出 存储过程滥用 拒绝服务漏洞 隐通道攻击 SQL注入 SQL注入尝试利用 疑似SQL...
创建单物理表服务单元
用于定义API查询数据时返回的条数，避免一次查询过多数据导致OLTP内存溢出。如果需要查询所有更多数据，您可以在 调用API 的SDK中修改PageSize参数值，以实现查询API时返回更多的数据。如果已有的服务单元与您配置的基础信息相似，则...
创建多物理表服务单元
用于定义API查询数据时返回的条数，避免一次查询过多数据导致OLTP内存溢出。如果需要查询所有更多数据，您可以在 调用API 的SDK中修改PageSize参数值，以实现查询API时返回更多的数据。添加物理表 单击 添加物理表，在 新增物理表 对话框，...
FTP数据源
FTP数据源为您提供读取和写入FTP双向通道的功能，本文为您介绍DataWorks的FTP数据同步的能力支持情况。使用限制 FTP Reader实现了从远程FTP文件读取数据并转为数据同步协议的功能，远程FTP文件本身是无结构化数据存储。对于数据同步而言，...
Tunnel命令常见问题
Tunnel Upload命令支持上传海量数据，如果出现内存溢出，可能是因为数据的行分隔符和列分隔符设置错误，导致整个文本被认为是同一条数据，全部缓存至内存中，导致内存溢出报错。这种情况下可以先用少量的数据进行测试，当-td 及-fd 调试...
MapReduce常见问题
产生原因 某些数据特别大，下载到内存便溢出了。解决措施 把Combiner去掉或者在Combiner中限制Size set odps.mapred.map.min.split.size=512;执行MaxCompute MapReduce时，报错内存溢出，如何解决？内存溢出通常是由于内存不足导致的，可以...
JindoFS实战演示
数据迁移 文档链接 视频链接 视频发布时间 描述 高效迁移HDFS海量文件到OSS 高效迁移HDFS海量文件到OSS 2021-05-11 通过Hadoop DistCp将HDFS海量文件同步到OSS存在很多问题，例如文件数量太大造成内存溢出、同步效率慢、无法保证数据一致性...
多行文本
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
多行文本
过滤器 打开 过滤器，选择已创建的数据过滤器或新建数据过滤器，并配置数据过滤器脚本，实现数据的筛选功能。详情请参见 管理数据过滤器。数据响应结果 实时展示了组件所使用的数据。当组件数据源发生变化时，数据响应结果会对应展示最新的...
轮播饼图
自动换行 打开开关，当中间百分比部分的文本超出其宽度后，内容会自动换行，否则文本会溢出。显示真实值 打开开关，显示数据的真实数值；关闭开关，显示系统自动计算的数据所占的百分比值。说明 默认显示百分比值，打开开关后显示真实数据...
轮播饼图
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
离线同步常见问题
读取Loghub同步某字段有数据但是同步过来为空 读取Loghub同步少数据 读取Loghub字段映射时读到的字段不符合预期 读取kafka配置了endDateTime来指定所要同步的数据的截止范围，但是在目的数据源中发现了超过这个时间的数据 Kafka中数据量少...
外部表常见问题
问题类别 常见问题 OSS外部表 自定义Extractor在读取非结构化数据时，如果数据字段存在DATETIME类型，报错ODPS-0123131，如何解决？在MaxCompute上访问OSS外部表，编写UDF本地测试通过，上传后报错内存溢出，如何解决？通过外部表处理OSS...
Amazon S3数据源
Simple Storage Service（简称S3）是一种专为从任意位置存储和检索任意数量的数据而构建的对象存储，DataWorks数据集成支持使用Amazon S3 Reader插件从S3数据库读取数据，本文为您介绍DataWorks的Amazon S3数据读取能力。支持的Amazon S3...
同步时源库为Redis的注意事项及限制
如果同步的源数据库类型为Redis，如自建Redis、云数据库Redis，您需要在配置具体的同步任务前，参考本文的注意事项及限制，以保障数据同步任务的正常运行。源库为Redis的同步方案概览 根据如下同步方案，查看同步任务的注意事项及限制：...
可观测性能力介绍
当某个Key含有较多数据成员或者占用较大内存时，可以将其称为大Key（Big keys），若未能及时处理大Key会导致执行命令的耗时增加，严重时甚至引发内存溢出（Out Of Memory）。您可以通过 云数据库Redis版 的 实时Top Key统计 功能，帮助定位...
云数据库Redis间的单向同步
数据传输服务DTS（Data Transmission Service）支持Redis数据库的单向同步，适用于异地多活、数据异地容灾等多种应用场景。本文以Redis实例间的单向数据同步为例，介绍数据同步作业的配置流程。前提条件 已创建目标Redis实例，创建方式，请...
云原生内存数据库Tair间的双向同步
数据传输服务DTS（Data Transmission Service）支持Redis企业版（Tair）实例或Tair（云盘版）实例间的双向同步，适用于异地多活、数据容灾等多种应用场景，本文介绍数据同步任务的配置流程。前提条件 已创建源库目标Redis企业版（Tair）...
跨云账号单向同步云数据库Redis实例
若目标实例的架构类型为集群版且某一个分片达到了内存上限，或目标实例的存储空间不足时，DTS任务会因内存溢出（Out of Memory）而失败。若目标数据库内存不足，触发数据逐出时，由于 云数据库Redis版 的默认数据逐出策略（maxmemory-...
跨云账号单向同步云数据库Redis实例
若目标实例的架构类型为集群版且某一个分片达到了内存上限，或目标实例的存储空间不足时，DTS任务会因内存溢出（Out of Memory）而失败。若目标数据库内存不足，触发数据逐出时，由于 云数据库Redis版 的默认数据逐出策略（maxmemory-...
轮播列表柱状图
过滤器 打开 过滤器，选择已创建的数据过滤器或新建数据过滤器，并配置数据过滤器脚本，实现数据的筛选功能。详情请参见 管理数据过滤器。数据响应结果 实时展示了组件所使用的数据。当组件数据源发生变化时，数据响应结果会对应展示最新的...
轮播列表柱状图
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
轮播列表
{"area":"中国","pv":1,"attribute":"示例数据"} 当数据滚动时 当轮播列表的数据行滚动时，触发并抛出当前页的数据和索引值，参考数据示例。{"data":[{/当前页数据"area":"中国","pv":1,"attribute":"示例数据"}],"index":1/列表行索引值，...
轮播列表
数据源 单击 配置数据源，可在 设置数据源 面板中修改数据源类型和数据查询代码、预览数据源返回结果以及查看数据响应结果，详情请参见 配置资产数据。数据过滤器 数据过滤器提供数据结构转换、筛选和一些简单的计算功能。单击 添加过滤器...
配置离线数据集成节点
使用限制 系统在计算数据量过大且缺失主键的表时，会导致内存溢出或内存耗尽（OOM）。周期调度节点最近一次运行成功后，若连续运行失败10次及以上，离线集成任务直接执行失败，且不会再提交Spark任务。此时，您需要手动运行成功该任务节点...
配置跨库Spark SQL节点
系统在计算数据量过大且缺失主键的表时，会导致内存溢出或内存耗尽（OOM）。周期调度节点最近一次运行成功后，若连续运行失败10次及以上，离线集成任务直接执行失败，且不会再提交Spark任务。此时，您需要手动运行成功该任务节点。应用场景...
离线同步数据质量排查
如果写出数据和目标存储已有数据发生数据约束（主键冲突、唯一键约束、外键约束等），数据库则使用来源数据update更新目标表已有数据行，在目标表存在多个数据约束的情况下，数据替换可能会失败并产生脏数据 如果写出数据和目标存储已有...
管理数据
企业管理员使用数据域可以基于业务属性、组织架构、数据特征等维度对数据资产进行分类管理。通过将拥有共同属性的数据资产集中到同一个数据域中，管理员可以高效管理数据资产及资产中的敏感数据。本文介绍首次使用数据域功能的具体操作。...
用户价值
数据资源平台为用户提供了一站式数据资产定义、生产、管理与服务平台，提供企业级数据资产构建能力和一致性使用体验，助力客户快速构建数据智能平台，实现数据资源统一管理，挖掘潜在规律，优化业务决策，让大数据真正的驱动客户业务。...
数据上传
DataWorks的数据上传功能支持将本地文件、数据分析的电子表格、OSS文件等数据上传至MaxCompute、EMR Hive、Hologres等引擎进行分析及管理，为您提供便捷的数据传输服务，助力您快速实现数据驱动业务。本文为您介绍如何使用数据上传功能上传...
查看敏感数据识别结果
敏感数据识别任务扫描完成后，您可以查看敏感数据识别结果。数据安全中心支持以 数据对象、数据库实例为基本单位查看敏感数据的扫描结果。本文介绍如何查看数据对象、数据库实例的敏感数据识别结果。查看数据对象的识别结果 说明 您可以在 ...
数据传输与迁移概述
MaxCompute提供多种渠道，以便您从业务系统或外部数据源写入数据到MaxCompute，或者从MaxCompute写出数据到外部系统或外部数据源。数据传输渠道 SDK-Tunnel渠道 外表（湖仓一体）JDBC渠道 场景数据写入MaxCompute 离线数据批量写入（数据...
功能特性
监控告警 数仓和数据湖 功能集 功能 功能描述 参考文档 数据存储 数据缓存 云数据库SelectDB支持数据缓存功能，当您需要管理缓存数据并提升云数据库 SelectDB 版的访问速度时，可以根据该文档对缓存进行有效管理，并利用LRU和TTL管理策略，...
数据迁移
本文为您介绍数据迁移的最佳实践，包含将其他业务平台的业务数据或日志数据迁移至MaxCompute，或将MaxCompute的数据迁移至其它业务平台。背景信息 传统关系型数据库不适合处理海量数据，如果您的数据存放在传统的关系型数据库且数据量庞大...
- 产品推荐
- 这些文档可能帮助您