您可以在数据加工任务中配置阿里云账号或RAM用户的访问密钥来读取源Logstore中的数据以及将数据加工结果写入目标Logstore。阿里云账号的访问密钥具备Logstore数据访问权限,可直接使用。如果您使用的是RAM用户,可参见本文为RAM用户授予Logstore数据访问权限。
前提条件
已创建RAM用户。具体操作,请参见创建RAM用户。
创建RAM用户时,请选择访问方式为OpenAPI调用访问,并保存AccessKey信息。
RAM用户的AccessKey Secret只在创建时显示,不支持查询,请妥善保管,谨防泄露。
授予RAM用户源Logstore读权限
使用阿里云账号为RAM用户授权后,该RAM用户将具备读取源Logstore数据的权限。您可以在创建数据加工任务时,使用该RAM用户的访问密钥。具体操作,请参见创建数据加工任务。
使用阿里云账号(主账号)登录RAM控制台。
创建权限策略。
该权限策略用于读取源Logstore中的数据。
在左侧导航栏,选择
。在权限策略页面,单击创建权限策略。
在创建权限策略页面,选择脚本编辑,将配置框中的原有脚本替换为如下内容,然后单击继续编辑基本信息。
精确授权。
例如:源Project名称为log-project-prod,源Logstore名称为access_log。在实际场景中,请根据实际情况替换。
{ "Version": "1", "Statement": [ { "Action": [ "log:ListShards", "log:GetCursorOrData", "log:GetConsumerGroupCheckPoint", "log:UpdateConsumerGroup", "log:ConsumerGroupHeartBeat", "log:ConsumerGroupUpdateCheckPoint", "log:ListConsumerGroup", "log:CreateConsumerGroup" ], "Resource": [ "acs:log:*:*:project/log-project-prod/logstore/access_log", "acs:log:*:*:project/log-project-prod/logstore/access_log/*" ], "Effect": "Allow" } ] }
模糊匹配授权。
例如:源Project名称为log-project-dev-a、log-project-dev-b、log-project-dev-c等,源Logstore名称为app_a_log、app_b_log、app_c_log等,则使用模糊匹配授权。在实际场景中,请根据实际情况替换。
{ "Version": "1", "Statement": [ { "Action": [ "log:ListShards", "log:GetCursorOrData", "log:GetConsumerGroupCheckPoint", "log:UpdateConsumerGroup", "log:ConsumerGroupHeartBeat", "log:ConsumerGroupUpdateCheckPoint", "log:ListConsumerGroup", "log:CreateConsumerGroup" ], "Resource": [ "acs:log:*:*:project/log-project-dev-*/logstore/app_*_log", "acs:log:*:*:project/log-project-dev-*/logstore/app_*_log/*" ], "Effect": "Allow" } ] }
更多授权场景,请参见RAM自定义授权场景。
配置策略名称,本文以log-etl-source-reader-1-policy为例,然后单击确定。
授予RAM用户读取源Logstore的权限。
在左侧导航栏,选择 。
找到目标RAM用户,单击添加权限。
在新增授权面板,选择策略类型为自定义策略,选中步骤2中创建的权限策略(本文以log-etl-source-reader-1-policy为例),然后单击确认新增授权。
确认授权结果,单击关闭。
授予RAM用户目标Logstore写权限
使用阿里云账号为RAM用户授权后,该RAM用户将具备写入加工结果到目标Logstore的权限。您可以在创建数据加工任务时,使用该RAM用户的访问密钥。具体操作,请参见创建数据加工任务。
使用阿里云账号(主账号)登录RAM控制台。
创建权限策略。
该权限策略用于将加工结果写入到目标Logstore。
在左侧导航栏,选择
。在权限策略页面,单击创建权限策略。
在创建权限策略页面,选择脚本编辑,将配置框中的原有脚本替换为如下内容,然后单击继续编辑基本信息。
精确授权。
例如:目标Project名称为log-project-prod,目标Logstore名称为access_log_output。在实际场景中,请根据实际情况替换。
{ "Version": "1", "Statement": [ { "Action": [ "log:Post*", "log:BatchPost*" ], "Resource": "acs:log:*:*:project/log-project-prod/logstore/access_log_output", "Effect": "Allow" } ] }
模糊匹配授权。
例如:目标Project名称为log-project-dev-a、log-project-dev-b、log-project-dev-c等,目标Logstore名称为app_a_log_output、app_b_log_output、app_c_log_output等,则使用模糊匹配授权。在实际场景中,请根据实际情况替换。
{ "Version": "1", "Statement": [ { "Action": [ "log:Post*", "log:BatchPost*" ], "Resource": "acs:log:*:*:project/log-project-dev-*/logstore/app_*_log_output", "Effect": "Allow" } ] }
更多授权场景,请参见RAM自定义授权场景。
配置策略名称,本文以log-etl-target-writer-1-policy为例,然后单击确定。
授予RAM用户写入数据到目标Logstore的权限。
在左侧导航栏,选择 。
找到目标RAM用户,单击添加权限。
在新增授权面板,选择策略类型为自定义策略,然后选中步骤2中创建的权限策略(本文以log-etl-target-writer-1-policy为例),单击确认新增授权。
确认授权结果,单击关闭。
后续步骤
在数据加工任务中配置RAM用户的访问密钥。具体操作,请参见创建数据加工任务。
在①中输入具备源Logstore读权限的访问密钥。具体操作,请参见授予RAM用户源Logstore读权限。
在②中输入具备目标Logstore写权限的访问密钥。具体操作,请参见授予RAM用户目标Logstore写权限。