迁移开源HDFS的数据到文件存储 HDFS 版
本文档介绍如何将开源HDFS的数据平滑地迁移到 文件存储 HDFS 版。背景信息 当前业界有很多公司是以Hadoop技术构建数据中心，而越来越多的公司和企业希望将业务顺畅地迁移到云上。文件存储 HDFS 版 可以帮助您实现将开源HDFS的数据迁移到云...
文件存储 HDFS 版和数据库MySQL双向数据迁移
本文介绍如何使用Sqoop工具实现 文件存储 HDFS 版 和关系型数据库MySQL之间的双向数据迁移。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作，请参见 文件存储HDFS版快速入门。已搭建Hadoop集群。建议您使用的...
将表格存储数据下载到本地文件
表格存储支持通过命令行工具或者DataX工具直接下载数据到本地文件。您也可以通过DataWorks工具将数据同步到OSS后再在OSS侧下载数据到本地文件。下载方式 请根据所需文件格式选择合适的方式进行数据下载，详细说明请参见下表。导出文件格式 ...
文件存储 HDFS 版和对象存储OSS双向数据迁移
本文档介绍 文件存储 HDFS 版 和对象存储OSS之间的数据迁移操作过程。您可以将 文件存储 HDFS 版 数据迁移到对象存储OSS，也可以将对象存储OSS的数据迁移到 文件存储 HDFS 版。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和...
由于数据文件过多导致集群存储空间被占满的解决办法
本文介绍了由于数据文件过多导致存储空间被占满的问题描述、解决方案以及后续维护等内容。问题描述 PolarDB MySQL版 集群可能会由于数据文件长时间未整理导致占用过多存储空间，且在集群的 空间分析 页面的 空间变化趋势 区域中确认数据...
数据库文件存储的审计事件
数据库文件存储已与操作审计服务集成，您可以在操作审计中查询用户操作数据库文件存储产生的管控事件。操作审计支持将管控事件投递到日志服务SLS的LogStore或对象存储OSS的存储空间中，满足实时审计、问题回溯分析等需求。操作审计记录了...
【公告】数据库文件存储按量付费价格下调
尊敬的阿里云用户，阿里云将于2023年01月30日起调整数据库文件存储（公测）按量付费价格。调整时间 2023年01月30日00:00:00。调整地域 华东1（杭州）、华东2（上海）、华北2（北京）、华南1（深圳）。调整内容 版本类型 调整前单价（GB/...
【公告】数据库文件存储计费方式调整
尊敬的阿里云用户，阿里云将于2023年05月04日起调整数据库文件存储计费方式。调整时间 2023年05月04日18:00:00。调整地域 华东1（杭州）、华东2（上海）、华北2（北京）、华南1（深圳）。调整内容 调整前 调整后 计费方式 按小时计费，不足...
数据安全
文件存储NAS提供服务器端加密和客户端加密，可有效防止数据在云端的潜在安全风险。数据加密 数据传输加密 文件存储NAS支持TLS传输链路加密，开启TLS功能后，NAS客户端和服务端之间的通信会进行TLS数据传输加密。开启TLS功能的介绍，请参见 ...
CDH6数据迁移
本文介绍如何将CDH中本地HDFS的数据迁移到 文件存储 HDFS 版，实现存储计算分离。前提条件 已开通 文件存储 HDFS 版 服务并创建文件系统实例和挂载点。具体操作，请参见 文件存储HDFS版快速入门。已在阿里云上创建ECS实例并安装CDH6集群。...
E-MapReduce数据迁移
本文介绍如何将E-MapReduce HDFS上的数据迁移到 文件存储 HDFS 版 文件系统。背景信息 阿里云E-MapReduce是构建在阿里云云服务器ECS上的开源Hadoop、Spark、Hive、Flink生态大数据PaaS产品。提供用户在云上使用开源技术建设数据仓库、离线...
CreateDataFlow-创建数据流动
自动更新 配置自动更新（AutoRefresh）后，当源端存储数据发生变化时，变化的元数据会自动同步到 CPFS 文件系统，变化的数据会在用户访问文件时按需加载，或者启动数据流动任务加载数据。自动更新依赖 EventBridge 收集源端 OSS 存储的对象...
迁移说明
非阿里云服务存储数据迁移至云上NAS 如果您想将线下数据、IDC数据、本地数据等非阿里云服务存储数据迁移至阿里云文件存储NAS，可参照以下方式进行迁移：配置数据传输中转节点 迁移数据至阿里云NAS OSS和NAS之间的数据迁移 对于NAS与OSS之间...
配置数据传输中转节点
使用新购ECS作为数据传输中转节点 上传下载文件数据需要占用ECS公网带宽，建议您新购一台ECS实例专门负责文件数据的上传与下载，避免占用业务带宽。新购ECS挂载NAS文件系统有以下限制：镜像：仅支持ECS官方自营镜像配置自动挂载NAS。如果...
将NAS数据迁移至本地
文件存储NAS支持通过rsync命令行工具、Robocopy工具等直接下载数据到本地文件。您也可以将数据同步到OSS后再在OSS侧下载数据到本地文件。重要 下载文件数据需要占用ECS公网带宽，建议您新购一台ECS实例专门负责文件数据下载，避免占用业务...
迁移数据至阿里云NAS
配置数据传输中转节点后，您还要使用迁移工具迁移数据至阿里云文件存储NAS。本文介绍如何通过迁移工具将非阿里云的数据迁移至文件存储NAS。前提条件 已配置数据传输中转节点ECS实例。具体操作，请参见 配置数据传输中转节点。使用SFTP客户...
OSS和NAS之间的数据迁移
本文介绍如何通过ossutil工具或在线迁移服务实现阿里云对象存储OSS和文件存储NAS之间的数据双向迁移。费用说明 使用ossutil工具迁移 ossutil工具本身不收取费用，但是由于迁移数据时涉及到API请求，所以会产生一定的API请求费用。OSS数据...
ECS实例挂载同一NFS文件系统出现数据不同步的情况
问题描述 当您使用两个ECS实例挂载同一个NFS文件系统，在ECS A实例上追加写文件，在ECS B实例上使用 tail-f 命令查看文件内容的变化时，在ECS A实例上写完之后，在ECS B实例上查看文件内容变化...mount-t nfs4-o noac/mnt/适用于 文件存储NAS
入门概述
通过NFSv3协议访问CPFS文件系统 协议服务 在服务器中卸载挂载的文件系统 卸载文件系统 删除文件系统 删除文件系统 与对象存储OSS之间实现数据流动 数据流动 监测文件的使用量 数据监控 备份文件系统中的数据 文件存储CPFS（NFS协议）备份 ...
快速入门（PAI-DSW）
已开通文件存储NAS服务。首次登录 文件存储NAS产品详情页 时，按照页面引导开通服务。已创建专有网络VPC。如果您还未创建，请前往 VPC控制台 创建。步骤一：创建文件系统 如果您已创建文件系统，请跳转至下一个步骤。登录 NAS控制台。在 ...
添加对象存储OSS数据源
使用阿里云对象存储服务（Object Storage Service，简称OSS），您可以通过网络随时存储和调用文本、图片、音频和视频等各种非结构化数据文件。前提条件 已准备好待添加的对象存储OSS数据源。添加对象存储OSS数据源操作步骤 登录 DataV控制...
使用在线迁移服务迁移数据
迁移步骤 关于文件存储NAS之间的数据迁移的具体操作，请参见：准备工作 迁移实施 后续操作 相关问题 如何处理“检查数据地址超时”报错 如何处理“mgw.service.agent.sAddrPrefixInvalid”报错 如何处理迁移后源端和目的端数据量相差较大 ...
概述
本文简要说明非阿里云数据迁移至阿里云文件存储NAS的费用说明、操作流程及迁移工具选择。费用说明 非阿里云数据迁移至阿里云NAS时，会涉及如下费用：文件存储NAS存储费用，推荐购买资源包抵扣。关于NAS的计费详情，请参见 计费概述。如果您...
数据处理费用
按量付费：归档存储数据取回费用=解冻文件大小（GB）×归档存储文件数据取回单价 资源包：不支持 归档直读数据取回容量（RetrievalDataArchiveDirect）直读归档存储类型文件产生的费用。按直读文件的大小计费。重要 对于已解冻的归档存储...
计费常见问题
本文介绍文件存储NAS（通用型NAS/极速型NAS）计费常见问题。包括通用型NAS资源包如何使用或抵扣、NAS服务如何停止计费、购买资源包为什么还欠费等问题。开通NAS服务后，就开始计费吗？仅开通NAS服务，不会产生费用。当您在通用型NAS中写入...
管理数据流动任务
本文介绍如何在文件存储控制台创建、管理CPFS数据流动任务及查看任务报告。前提条件 已创建CPFS Fileset。具体操作，请参见 创建Fileset。已创建数据流动。具体操作，请参见 创建数据流动。任务说明 任务类型 按任务对数据的操作，可分为...
管理数据流动任务
本文介绍如何在文件存储控制台创建、管理CPFS智算版文件系统的数据流动任务及查看任务报告。前提条件 已创建数据流动。具体操作，请参见 创建数据流动。任务说明 数据流动任务可分为导入（Import）和导出（Export）两种类型。类型 说明 ...
COMPACTION
Compaction会产生新的文件，虽然可以提升查询效率，但也要承担对应的数据文件存储成本，您需要根据业务场景进行权衡，选择合适的触发频率。Compaction会使用计算资源对数据进行读取重写，若您是按量付费模式，将产生Compaction费用，其计费...
配置同步任务
文件存储数据源 HDFS NoSQL数据存储 MongoDB、ElasticSearch 配置同步任务 在Dataphin首页，单击顶部菜单栏的 研发。默认进入数据 开发 页面。按照下图操作指引，进入 同步任务 页面。在 同步任务 页面，单击已创建的同步任务，配置参数。...
基础管理FAQ
如果您未在保留时间内补足欠款，将视为您主动放弃NAS存储服务，阿里云将终止本产品服务条款并停止为您继续提供服务，您保存在阿里云的全部数据将会被清理删除，清理后数据不可恢复。更多信息，请参见 欠费说明。如何查看已创建极速型NAS...
配置跨库Spark SQL节点
支持OSS文件存储数据源，包括CSV、JSON、PARQUET、ORC多种文件格式。操作步骤 登录 数据管理DMS 5.0。在顶部菜单栏中，选择 集成与开发（DTS）>数据开发>任务编排。说明 若您使用的是极简模式的控制台，请单击控制台左上角的 图标，选择 ...
使用curl命令导入数据文件
请替换为存储数据文件的Bucket的名称。请替换为需要导入的数据文件的名称。请替换为您的阿里云账号中AliyunServiceRoleForGDB角色的ARN信息，具体请参见 获取ARN信息。复制时不要在 \ 后加空格 示例：...
导入接口介绍
csv","ramRoleArn":"string","accessKey":"string","secretKey":"string","mode":"NEW|RESUME|AUTO","failOnError":"TRUE/FALSE","parallelism":"HIGH/MEDIUM/LOW"} 请求参数 参数 类型 说明 source string OSS的Bucket中存储数据文件的...
CreateDataFlowTask-创建数据流动任务
Evict：释放 CPFS 上文件的数据块，释放后文件在 CPFS 上只保留元数据，您仍能查询该文件，但文件数据块已清除，不占用 CPFS 上的存储容量。当访问该文件数据时，将再从源端存储按需加载。Inventory：获取 CPFS 上数据流动管理的文件清单，...
导入数据并查询
本文以数据文件存储在OSS中为例，介绍如何将OSS中的数据文件导入 AnalyticDB for MySQL 的 adb_demo 数据库中并进行查询。前提条件 通过以下步骤在OSS中创建存储 AnalyticDB for MySQL 数据的目录。开通OSS服务。详情请参见 开通OSS服务。...
容灾备份
在文件存储NAS服务中，保障数据安全性和业务连续性十分重要。本文列举了NAS文件备份的最佳实践及数据保护方案。阿里云NFS NAS数据保护实战 HBR云上统一备份 阿里云SMB NAS数据保护实战
归档为CSV或ORC格式
归档普通表 冷数据归档执行的是表归档操作，执行冷数据归档操作后的表称为归档表（只读），归档表的引擎为OSS引擎，归档表的数据文件存储在OSS上。执行冷数据归档操作后，原来本地表在PolarStore上占用的空间将被释放。语法 归档为 CSV ...
管理数据流动
本文介绍如何在文件存储控制台创建并管理CPFS智算版数据流动。前提条件 源端OSS Bucket已设置标签（key:cpfs-dataflow,value:true）。在数据流动的使用过程中，不能删除和修改该标签，否则CPFS智算版文件系统数据流动无法访问Bucket的数据...
管理文件元数据
对象存储OSS存储的文件（Object）信息包含Key、Data和Object Meta。Object Meta是对文件的属性描述，包括HTTP标准属性（HTTP Header）和用户自定义元数据（User Meta）两种。您可以通过设置HTTP标准属性来自定义HTTP请求的策略，例如文件...
元数据性能测试
注意事项 在进行open_read、rename、delete测试之前要确保 文件存储 HDFS 版 上已存在待测数据。如果不存在待测数据，请先使用create_open创建待测数据。测试环境 配置名称 配置说明 计算VM配置 CPU核数：4核 内存：16 GB 机器数量：6台 ...