JindoFS元数据服务支持不同的存储后端,默认配置RocksDB为元数据存储后端。本文介绍使用RocksDB作为元数据后端时需要进行的相关配置。

背景信息

RocksDB作为元数据后端时不支持高可用。如果需要高可用,推荐配置Raft作为元数据后端,详情请参见使用Raft-RocksDB-Tablestore作为存储后端
单机RocksDB作为元数据服务的架构图如下所示。RocksDB

配置RocksDB

  1. 进入SmartData服务。
    1. 登录阿里云E-MapReduce控制台
    2. 在顶部菜单栏处,根据实际情况选择地域(Region)和资源组
    3. 单击上方的集群管理页签。
    4. 集群管理页面,单击相应集群所在行的详情
    5. 在左侧导航栏单击集群服务 > SmartData
  2. 进入namespace服务配置。
    1. 单击配置页签。
    2. 单击namespace
      namespace
  3. 设置namespace.backend.typerocksdb
  4. 保存配置。
    1. 单击右上角的保存
    2. 确认修改对话框中,输入执行原因,开启自动更新配置
    3. 单击确定
  5. 单击右上角的操作 > 重启 Jindo Namespace Service
  6. 可选:配置远端Tablestore(OTS)异步存储。

    您可以给集群绑定一个Tablestore(OTS)实例,作为Jindo的元数据服务的额外存储介质,本地的元数据信息会异步地同步至您的Tablestore实例上。

    在SmartData服务的namespace页签,设置如下参数。
    参数 参数说明 示例
    namespace.ots.instance Tablestore实例名称。 emr-jfs
    namespace.ots.accessKey Tablestore实例的AccessKey ID。 kkkkkk
    namespace.ots.accessSecret Tablestore实例的AccessKey Secret。 XXXXXX
    namespace.ots.endpoint Tablestore实例的endpoint地址,推荐使用VPC地址。 http://emr-jfs.cn-hangzhou.vpc.tablestore.aliyuncs.com
    namespace.backend.rocksdb.async.ots.enabled 是否开启OTS异步上传,包括:
    • true
    • false
    当设置为true时,需要在SmartData服务完成初始化前,开启OTS异步上传功能。
    说明 如果SmartData服务已完成初始化,则不能再开启该功能。因为OTS的数据已经落后于本地RocksDB的数据。
    true
  7. 保存配置。
    1. 单击右上角的保存
    2. 确认修改对话框中,输入执行原因,开启自动更新配置
    3. 单击确定
  8. 单击右上角的操作 > 启动 All Components

从Tablestore恢复元数据信息

如果您在原始集群开启了远端Tablestore异步存储,则Tablestore上会有一份完整的JindoFS元数据的副本。您可以在停止或释放原始集群后,在新创建的集群上恢复原先的元数据,从而继续访问之前保存的文件。

  1. 准备工作。
    1. 可选:统计原始集群的元数据信息(文件和文件夹数量)。
      hadoop fs -count jfs://test/
      返回信息类似如下。
       1596      1482809                 25 jfs://test/
    2. 停止原始集群的作业,等待30~120秒左右,等待原始集群的数据已经完全同步到Tablestore。执行以下命令查看状态。如果显示_synced=1,则表示Tablestore为最新数据,同步完成。
      jindo jfs -metaStatus
      返回信息类似如下所示。check_statu
    3. 停止或释放原始集群,确保没有其它集群正在访问当前的Tablestore实例。
  2. 创建新集群。
    新建与Tablestore实例相同Region的EMR集群,暂停SmartData所有服务。
  3. 初始化配置。
    在SmartData服务的namespace页签,添加如下参数。
    参数 描述 示例
    namespace.backend.rocksdb.async.ots.enabled 是否开启OTS异步上传,包括:
    • true
    • false
    false
    namespace.backend.rocksdb.recovery.mode 是否开启从OTS恢复元数据,包括:
    • true
    • false
    true
  4. 保存配置。
    1. 单击右上角的保存
    2. 确认修改对话框中,输入执行原因,开启自动更新配置
    3. 单击确定
  5. 单击右上角的操作 > 启动 All Components
  6. 新集群的SmartData服务启动后,自动从OTS恢复元数据到本地Raft-RocksDB上,可以通过以下命令查看恢复进度。
    jindo jfs -metaStatus
    如图所示,state为FINISH时表示恢复完成。jfs -metaStatus
  7. 可选:执行以下操作,可以比较一下文件数量与原始集群是否一致。
    此时的集群为恢复模式,也是只读模式。
    # 对比文件数量一致
    [hadoop@emr-header-1 ~]$ hadoop fs -count jfs://test/
            1596      1482809                 25 jfs://test/
    
    # 文件可正常读取(cat、get命令)
    [hadoop@emr-header-1 ~]$ hadoop fs -cat jfs://test/testfile
    this is a test file
    # 查看目录
    [hadoop@emr-header-1 ~]$ hadoop fs -ls jfs://test/
    Found 3 items
    drwxrwxr-x   - root   root            0 2020-03-25 14:54 jfs://test/emr-header-1.cluster-50087
    -rw-r-----   1 hadoop hadoop          5 2020-03-25 14:50 jfs://test/haha-12096RANDOM.txt
    -rw-r-----   1 hadoop hadoop         20 2020-03-25 15:07 jfs://test/testfile
    
    # 只读状态,不可修改文件
    [hadoop@emr-header-1 ~]$ hadoop fs -rm jfs://test/testfile
    java.io.IOException: ErrorCode : 25021 , ErrorMsg: Namespace is under recovery mode, and is read-only.
  8. 修改配置,将集群设置为正常模式,开启OTS异步上传功能。
    在SmartData服务的namespace页签,设置以下参数。
    参数 描述 示例
    namespace.backend.rocksdb.async.ots.enabled 是否开启OTS异步上传,包括:
    • true
    • false
    true
    namespace.backend.rocksdb.recovery.mode 是否开启从OTS恢复元数据,包括:
    • true
    • false
    false
  9. 重启集群。
    1. 单击上方的集群管理页签。
    2. 集群管理页面,单击相应集群所在行的更多 > 重启