管理Livy Gateway

Livy Gateway是一个基于REST的服务,用于简化与 Apache Spark 的交互。它支持通过HTTP提交任务、查询计算结果,兼容多种编程语言。通过Livy Gateway,您可以结合Airflowlivy_operatorJupyter Notebookspark_magic等工具,轻松向Serverless Spark提交任务并获取状态更新。

创建Livy Gateway

  1. 进入Gateway页面。

    1. 登录E-MapReduce控制台

    2. 在左侧导航栏,选择EMR Serverless > Spark

    3. Spark页面,单击目标工作空间名称。

    4. EMR Serverless Spark页面,单击左侧导航栏中的运维中心 > Gateway

  2. Livy Gateway页面,单击创建Livy Gateway

  3. 在创建Livy Gateway页面,配置以下信息,单击创建

    参数

    说明

    名称

    新建Gateway的名称。仅支持小写字母、数字、短划线(-),并且开头和结尾必须是字母或者数字。

    Livy Gateway资源

    默认1 CPU,4 GB

    Livy版本

    默认使用最新版0.8.0。

    引擎版本

    当前Gateway使用的引擎版本。引擎版本号含义等详情请参见引擎版本介绍

    使用Fusion加速

    Fusion可加速Spark负载的运行并降低任务的总成本。有关计费信息,请参见产品计费。有关Fusion引擎介绍,请参见Fusion引擎

    关联队列

    创建的Gateway将部署在所选队列。通过Gateway提交Spark任务时,将使用Gateway创建者的身份提交任务。

    认证方式

    仅支持Token方式。

    在您创建Gateway之后,需要为其生成一个唯一的鉴权Token,以便在之后的请求中使用该Token进行身份验证和访问控制。创建Token的具体操作,请参见Gateway管理

    网络连接

    选择已创建的网络连接,以便直接访问VPC内的数据源或外部服务。有关创建网络连接的具体操作,请参见EMR Serverless Spark与其他VPC间网络互通

    运行环境

    通过Livy Gateway提交任务时,任务运行所需的资源将根据所选环境进行预配置。

    公网Endpoint

    默认关闭。

    开启该功能后,则系统将通过公网Endpoint访问Livy。否则默认通过内网Endpoint访问Livy。

    自动停止

    默认关闭。

    开启该功能后,如果在45分钟内未检测到任何活动,系统将自动停止该Gateway。

    spark-defaults.conf

    Spark的默认配置文件,用于设置Spark任务的全局默认参数。

    livy.conf

    Livy Server的核心配置文件,用于定义Livy Gateway的全局行为,包括鉴权方式(LDAP)、会话管理、超时设置等。该文件控制着Livy Server的运行参数,从而影响所有通过该Gateway提交的任务。

    livy-client.conf

    Livy HTTP客户端的运行参数配置文件,用于定义客户端与Livy Gateway的交互行为。

    spark-blacklist.conf

    这是一个安全相关的配置文件,用于限制用户在提交Spark任务时不允许修改的配置项。列入黑名单的参数将被系统强制忽略,用户无法覆盖这些参数。

    更多关于Livy配置文件及其参数的详情信息,请参见Livy Gateway配置示例

  4. Livy Gateway页面,单击已创建Livy Gateway操作列的启动

管理Token

说明

Token使用时,请在请求的header中添加--header `x-acs-spark-livy-token: token`

  1. Livy Gateway页面,单击目标Gateway操作列的Token管理

  2. 单击创建Token

  3. 创建Token对话框中,配置以下信息,单击确定

    参数

    说明

    名称

    新建Token的名称。

    过期时间

    设置该Token的过期时间。设置的天数应大于或等于1。默认情况下为开启状态,365天后过期。

  4. 复制Token信息。

    重要

    Token创建完成后,请务必立即复制新Token的信息,后续不支持查看。如果您的Token过期或遗失,请选择新建Token或重置Token。

查看Session信息

当您通过Livy创建Spark Session后,该Session的相关信息(例如Session ID、状态等)将显示在列表中。

  1. Livy Gateway页面,单击目标Gateway的名称。

  2. 单击Session 列表页签。

    在该页面,您可以查看通过该Livy创建的Spark Session相关信息。

    image

相关文档

关于Livy Gateway的应用场景,请参见以下信息: