SQL结果集导出
业务背景 是 详细描述导出数据的原因或目标，减少沟通成本。影响行数 是 预估本次导出会影响的数据行数，您可以在SQL Console中使用 count 命令进行统计。说明 在预检查阶段，系统将会显示实际影响行数，您可以再次校验是否符合预期，及时...
通过数据同步功能同步Kafka至湖仓版（推荐）
注意事项 Kafka中创建的Topic数据超过一定的时间会被自动清理，如果Topic数据过期，同时数据同步任务失败，重新启动同步任务时读取不到被清理掉的数据，会有丢失数据的风险。因此请适当调大Topic数据的生命周期，并在数据同步任务失败时...
数据水印
业务背景（必选）详细描述导出数据的原因或目标，减少沟通成本。影响行数（必选）预估本次导出会影响的数据行数，您可以在SQLConsole中使用 count 命令进行统计。说明 在预检查阶段，系统将会显示实际影响行数，您可以再次校验是否符合预期...
新建注册上挂指标
您可以将物理表中的指标字段上挂至汇总逻辑表进行数据分析。本文为您介绍如何为汇总逻辑表新建注册上挂标签。前提条件 完成派生指标的创建，详情请参见 创建派生指标。操作步骤 在Dataphin首页，单击顶部菜单栏的 研发。默认进入数据 开发 ...
新建注册上挂指标
您可以将物理表中的指标字段上挂至汇总逻辑表进行数据分析。本文为您介绍如何为汇总逻辑表新建注册上挂标签。前提条件 完成派生指标的创建，详情请参见 创建派生指标。操作步骤 登录 Dataphin控制台。在Dataphin控制台页面，选择工作区地域...
如何处理Tair集群数据倾斜
建议您及时对实例进行数据倾斜的原因排查，并根据对应处理方法在业务层进行改造，对实例进行优化，更多信息请参见 数据倾斜的原因与处理方法。倾斜场景 可能原因 临时方案 内存倾斜 大Key、Hash Tags。升级实例规格，具体操作请参见 变更...
如何处理Redis集群数据倾斜
建议您及时对实例进行数据倾斜的原因排查，并根据对应处理方法在业务层进行改造，对实例进行优化，更多信息请参见 数据倾斜的原因与处理方法。倾斜场景 可能原因 临时方案 内存倾斜 大Key、Hash Tags。升级实例规格，具体操作请参见 变更...
敏感数据溯源
DataWorks的数据溯源功能，支持通过提取数据泄露文件中数据的水印信息，帮助您定位到可能会泄露目标数据的责任人。本文为您介绍如何创建溯源任务，并通过该任务查找可能会泄露数据的责任人。前提条件 已创建 数据识别规则，详情请参见 配置...
配置管理
提交数据变更时的原因分类。示例以及详情请参见 附录：数据变更原因分类。数据变更的执行方式 取值：COMMITOR：表示审批通过后由提交者执行。AUTO：表示审批通过后自动执行。LAST_AUDITOR：表示由最后一个审批人执行。审批流的审批节点是否...
数据倾斜诊断
消除数据倾斜 导致数据倾斜的原因一般都是分布键选择不正确。例如，一张表的某个字段的相同值特别多时，如果选择了该字段作为分布键进行HASH分布，就会导致该字段的这些相同值所在的计算节点上的数据比其他计算节点上的数据多。为了避免...
普通数据变更
数据管理DMS的普通数据变更功能支持INSERT、UPDATE、DELETE、TRUNCATE、CREATE TABLE等SQL语句，可以对数据库中的数据进行变更操作，用于数据初始化、历史数据清理、问题修复、功能测试等场景。本文介绍在DMS中进行普通数据变更的方法。...
导入数据
原因类别 根据实际情况选择数据导入的原因。业务背景 详细填写本次操作的业务背景，减少沟通成本。执行方式 根据需求，选择工单执行方式：审批通过后，提交者执行。审批通过后，自动执行。最后一个审批人执行。文件编码 选择数据库的文件...
授权和回收数据板块权限
授权原因 填写授予数据板块权限的原因。单击 确定，完成数据板块权限的授权。回收数据板块权限 按照下图操作指引，进入 数据板块回收 对话框。在 数据板块回收 对话框，配置参数。参数 描述 回收用户 选择需要回收数据板块权限的用户。逻辑...
授权和回收数据板块权限
授权原因 填写授予数据板块权限的原因。单击 确定，完成数据板块权限的授权。回收数据板块权限 按照下图操作指引，进入 数据板块回收 对话框。在 数据板块回收 对话框，配置参数。参数 描述 回收用户 选择需要回收数据板块权限的用户。逻辑...
授权与回收数据源权限
授权原因 填写授予数据源权限的原因。不超过128字符。单击 确定，完成数据源权限的授权。回收数据源权限 在 数据源权限 页面，单击需要回收数据源权限所在行 操作 列下的 图标。在 数据源权限回收 对话框，配置参数。参数 描述 回收账号 ...
授权与回收数据源权限
授权原因 填写授予数据源权限的原因。不超过128字符。单击 确定，完成数据源权限的授权。回收数据源权限 在 数据源权限 页面，单击需要回收数据源权限所在行 操作 列下的 图标。在 数据源权限回收 对话框，配置参数。参数 描述 回收账号 ...
开发前准备：绑定数据源或集群
说明 不同数据源或集群无法绑定至DataStudio（数据开发）的原因存在差异，平台会自动展示不支持绑定的原因，您可基于具体原因进行排查处理。当前仅支持绑定MaxCompute、E-MapReduce、Hologres、AnalyticDB for MySQL、ClickHouse、CDH/CDP...
管理Dataphin数据源权限
申请原因 填写申请Dataphin数据源权限的原因。对象信息 区域参数不支持修改。如果需要修改，则单击页面下方的 上一步 进行修改。单击 确定。您可以在任务中心查看我发起任务的当前审批状态，详情请参见 查看我发起的任务。交还Dataphin数据...
数据集成侧同步任务配置
完成数据源、网络、资源的准备配置后，您可以根据同步场景选择同步解决方案，创建并执行同步任务，将源端数据同步至目标端。本文为您介绍同步任务的通用配置流程，不同的同步方案配置流程可能存在差异，对应方案配置详情请以界面为准。前提...
使用DTS进行数据迁移是否会覆盖掉已存在数据
概述 本文介绍使用DTS进行数据迁移是否会覆盖掉已存在数据。详细信息 如果配置迁移任务时，只迁移几个表，那么预检查时，会要求目标库中这些表必须没有数据，如果含有数据库的，那么预检查的“目标库是否为空”项会报错。因此在目标库有...
数据库迁移
说明 如果存在不一致数据，可单击 查看详情 查看不一致的概览信息，在概览信息对话框中单击 详情 查看不一致的具体数据：如果数据量比较少，可以通过手动修改的方式同步数据，如果数据量比较大，查明数据不一致的原因，清理目标数据库后...
常见问题
迁移与同步 为什么OSS外表导入ORC、PARQUET等格式的数据，出现内存报错或OOM挂掉？如何处理导入数据报错：too many parts？为什么DataX导入速度慢？为什么Hive导入后其数据行数跟ClickHouse对不上？为什么Kafka导入后其数据行数跟...
权限操作审计
③ 列表区 为您展示数据对象的名称、表环境、数据板块、项目、操作对象/操作人、操作时间、权限类型、操作范围、操作类型、有效期、操作的原因信息。数据源权限操作审计 在 数据源 页签，可查看目标数据源的权限操作记录详情或导出Excel...
权限操作审计
③ 列表区 为您展示数据对象的名称、表环境、数据板块、项目、操作对象/操作人、操作时间、权限类型、操作范围、操作类型、有效期、操作的原因信息。数据源权限操作审计 在 数据源 页签，可查看目标数据源的权限操作记录详情或导出Excel...
配置任务常见错误码及排查方法
原因：通讯链路故障，JDBC驱动程序数据包成功发送到源数据库服务器，但未收到来自源数据库的数据包。解决方法：排查数据库的连接数是否过多。参考 communications link failure 处理。联系技术支持解决。DTS.Msg.SQLExecuteError....
规划工作空间
数据清洗层（ODS）：按部门划分，不同部门内数据统一口径，清洗掉不宜公开的数据，例如“ods_人力资源部”、“ods_生产部”等。任务节点：只有单一输入、单一产出的SQL任务。数据表：ODS层表。空间成员：各部门委派的数据清洗人员。资源...
创建RDS MySQL数据订阅通道
如果订阅的源数据库还处于其他任务中（例如该数据库还存在于某个正在运行的数据迁移任务中），您可能会订阅到订阅对象以外的数据，此类场景中，您需要手动在订阅客户端中过滤掉不需要的数据。操作步骤 购买数据订阅通道，详情请参见 购买...
创建Oracle数据订阅通道
如果订阅的源数据库还处于其他任务中（例如该数据库还存在于某个正在运行的数据迁移任务中），您可能会订阅到订阅对象以外的数据，此类场景中，您需要手动在订阅客户端中过滤掉不需要的数据。准备工作 登录待订阅的Oracle数据库，创建用于...
创建PolarDB MySQL版数据订阅通道
如果订阅的源数据库还处于其他任务中（例如该数据库还存在于某个正在运行的数据迁移任务中），您可能会订阅到订阅对象以外的数据，此类场景中，您需要手动在订阅客户端中过滤掉不需要的数据。操作步骤 购买数据订阅通道，详情请参见 购买...
Tunnel命令常见问题
java.io.IOException:Error writing request body to server 产生原因 这是上传数据到服务器时产生的异常，通常是因为上传过程中的网络连接断开或超时导致的：当您的数据源并非是本地文件，需要从数据库等地方获取时，数据在写入的过程中还...
DQL操作常见问题
产生原因 示例SQL是table1通过ID字段和table2的ID字段做左外关联，所以会出现以下情况：如果table2表中找不到关联数据，table1也会返回一条数据。如果table1找不到但是table2能找到关联数据，则不返回结果。如果table1和table2都能找到关联...
导出数据
配置项 说明 原因类别 选择数据导出的原因，方便后续查找。业务背景 详细描述变更原因或目标，减少沟通成本。相关人 设置的相关人员可查看工单，并协同工作，非相关人员则不能查看工单（管理员、DBA除外）。导出SQL语句 输入导出SQL语句。...
多值数据写入
时序多值模型 多值的模型是针对数据源建模，我们每一行数据针对的是一个数据源，它的被测量的多个指标在同一行上，所以每一个数据源，数据的来源在每一个时间点上都有一行，这就是多值的模型。比如某个机器的cpu，mem和load指标。每次是...
写入数据
请求路径和方法 请求路径 请求方法 描述/api/put POST 一次写入多个数据点。请求参数 名称 类型 是否必需 描述 默认值 举例 summary 无类型 否 是否返回摘要信息。false/api/put?summary details 无类型 否 是否返回详细信息。false/api/...
配置Hologres输入组件
输入过滤 配置Hologres输入组件读取数据时需要过滤掉的数据。例如，ID>112。输出字段 输出字段区域展示了已选中表的所有字段。如果不需要将某些字段输出至下游组件，则您可以删除对应的字段：如果需要删除少量的字段，则可以单击 操作 列下...
配置Hologres输入组件
输入过滤 配置Hologres输入组件读取数据时需要过滤掉的数据。例如，ID>112。输出字段 输出字段区域展示了已选中表的所有字段。如果不需要将某些字段输出至下游组件，则您可以删除对应的字段：如果需要删除少量的字段，则可以单击 操作 列下...
产品服务等级协议
本服务等级协议（Service Level Agreement，以下简称“SLA”）约定了阿里云向客户提供的数据资源平台的服务可用性等级指标及赔偿方案。特别提示您，除非另有约定，本协议不适用于数据资源平台公测、邀测、免费的功能及版本，也不适用于数据...
数据库导出
当您需要进行数据库备份、导出数据库表进行数据分析等操作，您可使用 数据管理DMS 的数据导出功能，该功能可通过提交工单的方式导出数据库。前提条件 数据库类型如下：MySQL系列：自建MySQL、RDS MySQL、PolarDB MySQL版、AnalyticDB ...
RTMP视频流播放器
图表样式 RTMP视频流播放器是媒体组件的一种，支持自定义视频的URL地址和类型，能够在可视化应用中添加视频播放器来播放您的视频。RTMP视频流播放器组件只支持RTMP协议的视频流。配置面板 搜索配置：单击 配置 面板右上角的 搜索配置，可在...
视频个性化推荐（协同过滤）
本案例将 以视频社交平台的'猜你喜欢'和'详情页相关推荐'为例，通过推荐算法为用户呈现最符合其兴趣的视频内容为背景，为您介绍在DataWorks中如何使用阿里云PAI的协同过滤算法 挖掘深层次的数据关联性，实现视频的个性化推荐。背景信息 ...
- 产品推荐
- 这些文档可能帮助您