本文为您介绍如何通过SSH隧道方式访问开源组件的Web UI。
背景信息
在E-MapReduce集群中,为保证集群安全,Hadoop、Spark和Flink等开源组件的Web UI的端口均未对外开放。您可以通过控制台的方式访问Web UI,也可以通过在本地服务器上建立SSH隧道以端口转发的方式来访问Web UI,端口转发方式包括端口动态转发和本地端口转发两种。
如果您需要通过控制台的方式访问Web UI时,请参见访问链接与端口。
前提条件
获取主节点的公网IP地址
获取主节点的主机名
使用动态端口转发方式
创建从本地服务器开放端口到集群主节点的SSH隧道,并运行侦听该端口的本地SOCKS代理服务器,端口的数据会由SSH隧道转发到集群主节点。
使用本地端口转发方式
您可以通过SSH本地端口转发(即将主实例端口转发到本地端口),访问当前主节点上运行的网络应用界面,而不使用SOCKS代理。
服务常用端口及配置
服务 | 端口 | 描述 |
---|---|---|
Hadoop 2.X | 50070 | HDFS Web UI的端口。
配置参数为dfs.namenode.http-address或dfs.http.address。
说明 dfs.http.address已过期但仍能使用。
|
50075 | DataNode Web UI的端口。 | |
50010 | Datanode服务端口,用于数据传输。 | |
50020 | IPC服务的端口。 | |
8020 | 高可用的HDFS RPC端口。 | |
8025 | ResourceManager端口。
配置参数为yarn.resourcemanager.resource-tracker.address。 |
|
9000 | 非高可用的HDFS RPC端口。
配置参数为fs.defaultFS或fs.default.name。
说明 fs.default.name已经过期但仍能使用。
|
|
8088 | YARN Web UI的端口。 | |
8485 | JournalNode的RPC端口。 | |
8019 | ZKFC的端口。 | |
19888 | JobHistory Server的Web UI端口。
配置参数为mapreduce.jobhistory.webapp.address。 |
|
10020 | JobHistory Server的Web UI端口。
配置参数为mapreduce.jobhistory.address。 |
|
Hadoop 3.X | 8020 | NameNode的端口。
配置参数为dfs.namenode.http-address或dfs.http.address。
说明 dfs.http.address已过期但仍能使用。
|
9870 | ||
9871 | NameNode的端口。 | |
9866 | DataNode的端口。 | |
9864 | DataNode的端口。 | |
9865 | DataNode的端口。 | |
8088 | ResourceManager的端口。
配置参数为yarn.resourcemanager.webapp.address。 |
|
MapReduce | 8021 | JobTracker的端口。
配置参数为mapreduce.jobtracker.address。 |
Zookeeper | 2181 | 客户端连接Zookeeper的端口。 |
2888 | Zookeeper集群内通讯使用,Leader监听此端口。 | |
3888 | Zookeeper端口,用于选举Leader。 | |
HBase | 16010 | Hbase的Master节点的Web UI端口。
配置参数为hbase.master.info.port。 |
16000 | HMaster的端口。
配置参数为hbase.master.port。 |
|
16030 | Hbase的RegionServer的Web UI管理端口。
配置参数为hbase.regionserver.info.port。 |
|
16020 | HRegionServer的端口。
配置参数为hbase.regionserver.port。 |
|
9099 | ThriftServer的端口。 | |
Hive | 9083 | MetaStore服务默认监听端口。 |
10000 | Hive的JDBC端口。 | |
10001 | Spark Thrift Sever的JDBC端口。 | |
Spark | 7077 |
|
8080 | Master节点的Web UI端口,用于资源调度。 | |
8081 | Worker节点的Web UI端口,用于资源调度。 | |
4040 | Driver的Web UI端口,用于任务调度。 | |
18080 | Spark History Server的Web UI 端口。 | |
Kafka | 9092 | Kafka集群节点之间通信的RPC端口。 |
Redis | 6379 | Redis服务端口。 |
HUE | 8888 | Hue Web UI的端口。 |
Oozie | 11000 | Oozie Web UI的端口。 |
Druid | 18888 | Druid Web UI的端口。 |
18090 | Overlord的端口。
配置参数为overlord.runtime页签下的druid.plaintextPort。 |
|
18091 | MiddleManager的端口。
配置参数为middleManager.runtime页签下的druid.plaintextPort。 |
|
18081 | Coordinator的端口。
配置参数为coordinator.runtime页签下的druid.plaintextPort。 |
|
18083 | Historical的端口。
配置参数为historical.runtime页签下的druid.plaintextPort。 |
|
18082 | Broker的端口。
配置参数为broker.runtime页签下的druid.plaintextPort。 |
|
Ganglia | 9292 | Ganglia Web UI的端口。 |
Ranger | 6080 | Ranger Web UI的端口。 |
Kafka Manager | 8085 | Kafka Manager的端口。 |
Superset | 18088 | Superset Web UI的端口。 |
Impala | 21050 | 使用JDBC连接Impala的端口。 |
Presto | 9090 | Presto Web UI的端口。 |
JindoFS | 8104 | JindoFS Web UI的端口。 |