全部产品
Search
文档中心

开源大数据平台E-MapReduce:创建工作空间

更新时间:Nov 22, 2024

工作空间是Serverless Spark的基本单元,用于管理任务、成员、角色和权限。所有的任务开发都需要在具体的工作空间内进行。因此,在开始任务开发之前,您需要先创建工作空间。本文将为您介绍如何在EMR Serverless Spark页面快速创建工作空间。

前提条件

  • 已注册阿里云账号并完成实名认证。

  • 已准备创建工作空间所需的账号并授权:

    • 使用阿里云主账号创建,授权详情请参见阿里云账号角色授权

    • 如果使用RAM用户(子账号)或RAM角色创建,请确保已授权该RAM用户或RAM角色AliyunEMRServerlessSparkFullAccessAliyunOSSFullAccessAliyunDLFFullAccess权限策略。然后,在EMR Serverless Spark的访问控制页面添加该RAM用户或RAM角色,并授予管理员角色,详情请参见RAM用户授权管理用户和角色

  • 已开通DLF数据湖构建,详情请参见快速入门。支持开通DLF的地域请参见已开通的地域和访问域名

  • 已开通OSS服务并创建了存储空间,详情请参见开通OSS服务创建存储空间

注意事项

代码的运行环境由所属用户负责管理和配置。

操作步骤

  1. 进入EMR Serverless Spark页面。

    1. 登录E-MapReduce控制台

    2. 在左侧导航栏,选择EMR Serverless > Spark

    3. 在顶部菜单栏处,根据实际情况选择地域。

      重要

      创建工作空间后,不能更改地域。

  2. 单击创建工作空间

  3. 在E-MapReduce Serverless Spark页面,完成相关配置。

    参数

    说明

    示例

    地域

    建议选择与您数据所在地相同的地域。

    华东1(杭州)

    付费类型

    目前仅支持按量付费

    按量付费

    工作空间名称

    以字母开头,仅支持英文字母、数字和短划线(-),长度限制为1~60个字符。

    说明

    同一个阿里云账号下的工作空间名称是唯一的,请勿填写已有的名称,否则会提示您重新填写。

    emr-serverless-spark

    瞬时配额上限

    工作空间同时处理任务的最大并发CU数量。

    1000

    工作空间基础路径

    用于存储任务日志、运行事件、资源等数据文件。

    建议选择一个开通了OSS-HDFS服务的Bucket,它提供了原生HDFS接口兼容性。如果您的应用场景不涉及HDFS,则可以直接选择一个OSS Bucket。

    emr-oss-hdfs

    DLF作为元数据服务

    用于存储和管理您的元数据。

    开通DLF后,系统会为您选择默认的DLF数据目录,默认为UID。如果针对不同集群您期望使用不同的数据目录,则可以按照以下方式新建目录。

    1. 单击创建数据目录,在弹出的对话框中输入目录ID,然后单击确定

    2. 在下拉列表中,选择您新建的数据目录。

    emr-dlf

    高级设置

    打开该开关后,您需要配置以下信息:

    执行角色:指定EMR Serverless Spark运行任务所采用的角色名,角色名称为AliyunEMRSparkJobRunDefaultRole。

    EMR Spark使用该角色来访问您在其他云产品中的资源,包括OSS和DLF等产品的资源。

    AliyunEMRSparkJobRunDefaultRole

  4. 当所有的信息确认正确后,阅读并选中服务协议

  5. 单击创建工作空间

相关文档

创建工作空间后,您可以开始进行相关任务的开发,例如SparkSQL任务,详情请参见SQL开发快速入门