您可以在数据加工任务中配置阿里云账号或RAM用户的访问密钥来读取源Logstore中的数据以及将数据加工结果写入目标Logstore。阿里云账号的访问密钥具备Logstore数据访问权限,可直接使用。如果您使用的是RAM用户,可参见本文为RAM用户授予Logstore数据访问权限。

前提条件

已创建RAM用户。具体操作,请参见 创建RAM用户
注意
  • 创建RAM用户时,请选择访问方式编程访问,并保存AccessKey信息。
  • AccessKey Secret只在创建时显示,不支持查询,请妥善保管,谨防泄露。

授予RAM用户源Logstore读权限

使用阿里云账号为RAM用户授权后,该RAM用户将具备读取源Logstore数据的权限。您可以在创建数据加工任务时,使用该RAM用户的访问密钥。具体操作,请参见创建数据加工任务

  1. 使用阿里云账号登录RAM控制台
  2. 创建权限策略。
    该权限策略用于读取源Logstore中的数据。
    1. 在左侧导航栏,选择权限管理 > 权限策略管理
    2. 权限策略管理页面,单击创建权限策略
    3. 新建自定义权限策略页面中,配置如下参数,然后单击确定
      参数 说明
      策略名称 配置策略名称,本文以log-etl-source-reader-1-policy为例。
      配置模式 选择脚本配置
      策略内容 将配置框中的原有脚本替换为如下内容。
      • 精确授权。
        例如:源Project名称为log-project-prod,源Logstore名称为access_log。在实际场景中,请根据实际情况替换。
        {
          "Version": "1",
          "Statement": [
            {
              "Action": [
                "log:ListShards",
                "log:GetCursorOrData",
                "log:GetConsumerGroupCheckPoint",
                "log:UpdateConsumerGroup",
                "log:ConsumerGroupHeartBeat",
                "log:ConsumerGroupUpdateCheckPoint",
                "log:ListConsumerGroup",
                "log:CreateConsumerGroup"
              ],
              "Resource": [
                "acs:log:*:*:project/log-project-prod/logstore/access_log",
                "acs:log:*:*:project/log-project-prod/logstore/access_log/*"
              ],
              "Effect": "Allow"
            }
          ]
        }
      • 模糊匹配授权。
        例如:源Project名称为log-project-dev-a、log-project-dev-b、log-project-dev-c等,源Logstore名称为app_a_log、app_b_log、app_c_log等,则使用模糊匹配授权。在实际场景中,请根据实际情况替换。
        {
          "Version": "1",
          "Statement": [
            {
              "Action": [
                "log:ListShards",
                "log:GetCursorOrData",
                "log:GetConsumerGroupCheckPoint",
                "log:UpdateConsumerGroup",
                "log:ConsumerGroupHeartBeat",
                "log:ConsumerGroupUpdateCheckPoint",
                "log:ListConsumerGroup",
                "log:CreateConsumerGroup"
              ],
              "Resource": [
                "acs:log:*:*:project/log-project-dev-*/logstore/app_*_log",
            "acs:log:*:*:project/log-project-dev-*/logstore/app_*_log/*"
              ],
              "Effect": "Allow"
            }
          ]
        }
        更多授权场景,请参见RAM自定义授权场景
  3. 授予RAM用户读取源Logstore的权限。
    1. 在左侧导航栏,选择人员管理 > 用户
    2. 找到目标RAM用户,单击添加权限
    3. 选择自定义策略,然后选中步骤2中创建的权限策略(本文以log-etl-source-reader-1-policy为例),单击确定
      设置权限
    4. 确认授权结果,单击完成

授予RAM用户目标Logstore写权限

使用阿里云账号为RAM用户授权后,该RAM用户将具备写入加工结果到目标Logstore的权限。您可以在创建数据加工任务时,使用该RAM用户的访问密钥。具体操作,请参见创建数据加工任务

  1. 使用阿里云账号登录RAM控制台
  2. 创建权限策略。
    该权限策略用于将加工结果写入到目标Logstore。
    1. 在左侧导航栏,选择权限管理 > 权限策略管理
    2. 权限策略管理页面,单击创建权限策略
    3. 新建自定义权限策略页面中,配置如下参数,然后单击确定
      参数 说明
      策略名称 配置策略名称,本文以log-etl-target-writer-1-policy为例。
      配置模式 选择脚本配置
      策略内容 将配置框中的原有脚本替换为如下内容。
      • 精确授权。
        例如:目标Project名称为log-project-prod,目标Logstore名称为access_log_output。在实际场景中,请根据实际情况替换。
        {
          "Version": "1",
          "Statement": [
            {
              "Action": [
                "log:Post*",
                "log:BatchPost*"
              ],
               "Resource": "acs:log:*:*:project/log-project-prod/logstore/access_log_output",
              "Effect": "Allow"
            }
          ]
        }
      • 模糊匹配授权。
        例如:目标Project名称为log-project-dev-a、log-project-dev-b、log-project-dev-c等,目标Logstore名称为app_a_log_output、app_b_log_output、app_c_log_output等,则使用模糊匹配授权。在实际场景中,请根据实际情况替换。
        {
          "Version": "1",
          "Statement": [
            {
              "Action": [
                "log:Post*",
                "log:BatchPost*"
              ],
               "Resource": "acs:log:*:*:project/log-project-dev-*/logstore/app_*_log_output",
              "Effect": "Allow"
            }
          ]
        }
        更多授权场景,请参见RAM自定义授权场景
  3. 授予RAM用户写入数据到目标Logstore的权限。
    1. 在左侧导航栏,选择人员管理 > 用户
    2. 找到目标RAM用户,单击添加权限
    3. 选择自定义策略,然后选中步骤2中创建的权限策略(本文以log-etl-target-writer-1-policy为例),单击确定
      写入权限
    4. 确认授权结果,单击完成

后续步骤

在数据加工任务中配置RAM用户的访问密钥,更多信息,请参见 创建数据加工任务 修改加工规则