Hadoop学习指南:探索大数据时代的重要组成——Hadoop运行模式(下)

IT知识
101
0
0
2024-05-25
Hadoop运行模式(下)

前言

接着上篇,我们继续学习Hadoop运行模式。

2.6 配置历史服务器

为了查看程序的历史运行情况,需要配置一下历史服务器。具体配置步骤如下:

1)配置mapred-site.xml

[atguigu@hadoop102 hadoop]$ vim mapred-site.xml 

在该文件里面增加如下配置。

<!-- 历史服务器端地址 --> 
<property> 
<name>mapreduce.jobhistory.address</name> 
<value>hadoop102:10020</value> 
</property> 
<!-- 历史服务器web端地址 --> 
<property> 
<name>mapreduce.jobhistory.webapp.address</name> 
<value>hadoop102:19888</value> 
</property> 

2)分发配置

[atguigu@hadoop102 
hadoop]$ 
$HADOOP_HOME/etc/hadoop/mapred-site.xml 
xsync 

3)在hadoop102启动历史服务器

[atguigu@hadoop102 hadoop]$ mapred --daemon start historyserver 

4)查看历史服务器是否启动

[atguigu@hadoop102 hadoop]$ jps

5)查看JobHistory

http://hadoop102:19888/jobhistory 

2.7 配置日志的聚集

日志聚集概念:应用运行完成以后,将程序运行日志信息上传到HDFS系统上。

在这里插入图片描述

日志聚集功能好处:可以方便的查看到程序运行详情,方便开发调试。 ==注意:开启日志聚集功能,需要重新启动 NodeManager 、ResourceManager 和 HistoryServer。 == 开启日志聚集功能具体步骤如下:

1)配置yarn-site.xml

[atguigu@hadoop102 hadoop]$ vim yarn-site.xml 

在该文件里面增加如下配置。

<!-- 开启日志聚集功能 --> 
<property> 
<name>yarn.log-aggregation-enable</name> 
<value>true</value> 
</property> 
<!-- 设置日志聚集服务器地址 --> 
<property>   
<name>yarn.log.server.url</name>   
<value>http://hadoop102:19888/jobhistory/logs</value> 
</property> 
<!-- 设置日志保留时间为7天 --> 
<property> 
<name>yarn.log-aggregation.retain-seconds</name> 
<value>604800</value> 
</property> 

2)分发配置

[atguigu@hadoop102 hadoop]$ xsync $HADOOP_HOME/etc/hadoop/yarn
site.xml 

3)关闭NodeManager 、ResourceManager和HistoryServer

[atguigu@hadoop103 hadoop-3.1.3]$ sbin/stop-yarn.sh 
[atguigu@hadoop103 
hadoop-3.1.3]$ 
mapred --daemon 
stop 
historyserver 

4)启动NodeManager 、ResourceManage和HistoryServer

[atguigu@hadoop103 ~]$ start-yarn.sh 
[atguigu@hadoop102 ~]$ mapred --daemon start historyserver 

5)删除HDFS上已经存在的输出文件

[atguigu@hadoop102 ~]$ hadoop fs -rm -r /output 

6)执行WordCount程序

[atguigu@hadoop102 hadoop-3.1.3]$ hadoop jar 
share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar 
wordcount /input /output 

7)查看日志

(1)历史服务器地址

http://hadoop102:19888/jobhistory

(2)历史任务列表

在这里插入图片描述

(3)查看任务运行日志

在这里插入图片描述

(4)运行日志详情

在这里插入图片描述

2.8 集群启动/停止方式总结

1)各个模块分开启动/停止(配置ssh是前提)常用

(1)整体启动/停止HDFS
start-dfs.sh/stop-dfs.sh 
(2)整体启动/停止YARN
start-yarn.sh/stop-yarn.sh 

2)各个服务组件逐一启动/停止

(1)分别启动/停止HDFS组件
hdfs --daemon start/stop namenode/datanode/secondarynamenode 
(2)启动/停止YARN
yarn --daemon start/stop  resourcemanager/nodemanager 

2.9 编写Hadoop集群常用脚本

1)Hadoop集群启停脚本(包含HDFS,Yarn,Historyserver):myhadoop.sh

[atguigu@hadoop102 ~]$ cd /home/atguigu/bin 
[atguigu@hadoop102 bin]$ vim myhadoop.sh 

➢ 输入如下内容

#!/bin/bash 
 
if [ $# -lt 1 ] 
then 
    echo "No Args Input..." 
    exit ; 
fi 
 
case $1 in 
"start") 
        echo " =================== 启动 hadoop集群 ===================" 
 
        echo " --------------- 启动 hdfs ---------------" 
        ssh hadoop102 "/opt/module/hadoop-3.1.3/sbin/start-dfs.sh" 
        echo " --------------- 启动 yarn ---------------" 
            ssh hadoop103 "/opt/module/hadoop-3.1.3/sbin/start-yarn.sh" 
        echo " --------------- 启动 historyserver ---------------" 
        ssh hadoop102 "/opt/module/hadoop-3.1.3/bin/mapred --daemon start 
historyserver" 
;; 
"stop") 
        echo " =================== 关闭 hadoop集群 ===================" 
 
        echo " --------------- 关闭 historyserver ---------------" 
        ssh hadoop102 "/opt/module/hadoop-3.1.3/bin/mapred --daemon stop 
historyserver" 
        echo " --------------- 关闭 yarn ---------------" 
        ssh hadoop103 "/opt/module/hadoop-3.1.3/sbin/stop-yarn.sh" 
        echo " --------------- 关闭 hdfs ---------------" 
        ssh hadoop102 "/opt/module/hadoop-3.1.3/sbin/stop-dfs.sh" 
;; 
*) 
    echo "Input Args Error..." 
;; 
esac 

➢ 保存后退出,然后赋予脚本执行权限

[atguigu@hadoop102 bin]$ chmod +x myhadoop.sh 

2)查看三台服务器Java进程脚本:jpsall

[atguigu@hadoop102 ~]$ cd /home/atguigu/bin 
[atguigu@hadoop102 bin]$ vim jpsall 

➢ 输入如下内容

#!/bin/bash 
 
for host in hadoop102 hadoop103 hadoop104 
do 
        echo =============== $host =============== 
        ssh $host jps  
done 

➢ 保存后退出,然后赋予脚本执行权限

[atguigu@hadoop102 bin]$ chmod +x jpsall 

3)分发/home/atguigu/bin目录,保证自定义脚本在三台机器上都可以使用

[atguigu@hadoop102 ~]$ xsync /home/atguigu/bin/ 

2.10 常用端口号说明

端口名称

Hadoop2.x

Hadoop3.x

NameNode内部通信端口

8020 / 9000

8020 / 9000/9820

NameNode HTTP UI

50070

9870

MapReduce查看执行任务端口

8088

8088

历史服务器通信端口

19888

19888

2.11 集群时间同步

如果服务器在公网环境(能连接外网),可以不采用集群时间同步,因为服务器会定期和公网时间进行校准; 如果服务器在内网环境,必须要配置集群时间同步,否则时间久了,会产生时间偏差,导致集群执行任务时间不同步。

1)需求

找一个机器,作为时间服务器,所有的机器与这台集群时间进行定时的同步,生产环境根据任务对时间的准确程度要求周期同步。测试环境为了尽快看到效果,采用1分钟同步一次。

在这里插入图片描述

2)时间服务器配置(必须root用户)

(1)查看所有节点ntpd服务状态和开机自启动状态
[atguigu@hadoop102 ~]$ sudo systemctl status ntpd 
[atguigu@hadoop102 ~]$ sudo systemctl start ntpd 
[atguigu@hadoop102 ~]$ sudo systemctl is-enabled ntpd 
(2)修改hadoop102的ntp.conf 配置文件
[atguigu@hadoop102 ~]$ sudo vim /etc/ntp.conf 

修改内容如下 (a)修改1(授权192.168.10.0-192.168.10.255 网段上的所有机器可以从这台机器上查 询和同步时间)

#restrict 192.168.10.0 mask 255.255.255.0 nomodify notrap 

restrict 192.168.10.0 mask 255.255.255.0 nomodify notrap (b)修改2(集群在局域网中,不使用其他互联网上的时间)

server 0.centos.pool.ntp.org iburst 
server 1.centos.pool.ntp.org iburst 
server 2.centos.pool.ntp.org iburst 
server 3.centos.pool.ntp.org iburst 

#server 0.centos.pool.ntp.org iburst 
#server 1.centos.pool.ntp.org iburst 
#server 2.centos.pool.ntp.org iburst
#server 3.centos.pool.ntp.org iburst

(c)添加3(当该节点丢失网络连接,依然可以采用本地时间作为时间服务器为集群中 的其他节点提供时间同步)

server 127.127.1.0 fudge 127.127.1.0 stratum 10
(3)修改hadoop102的/etc/sysconfig/ntpd 文件
[atguigu@hadoop102 ~]$ sudo vim /etc/sysconfig/ntpd 

增加内容如下(让硬件时间与系统时间一起同步)

SYNC_HWCLOCK=yes 
(4)重新启动ntpd服务
[atguigu@hadoop102 ~]$ sudo systemctl start ntpd 
(5)设置ntpd服务开机启动
[atguigu@hadoop102 ~]$ sudo systemctl enable ntpd 

3)其他机器配置(必须root用户)

(1)关闭所有节点上ntp服务和自启动
[atguigu@hadoop103 ~]$ sudo systemctl stop ntpd 
[atguigu@hadoop103 ~]$ sudo systemctl disable ntpd 
[atguigu@hadoop104 ~]$ sudo systemctl stop ntpd 
[atguigu@hadoop104 ~]$ sudo systemctl disable ntpd 
(2)在其他机器配置1分钟与时间服务器同步一次
[atguigu@hadoop103 ~]$ sudo crontab -e 

编写定时任务如下:

*/1 * * * * /usr/sbin/ntpdate hadoop102 
(3)修改任意机器时间
[atguigu@hadoop103 ~]$ sudo date -s "2021-9-11 11:11:11" 
(4)1分钟后查看机器是否与时间服务器同步
[atguigu@hadoop103 ~]$ sudo date

常见错误及解决方案

1)防火墙没关闭、或者没有启动YARN

INFO client.RMProxy: Connecting to ResourceManager at hadoop108/192.168.10.108:8032

2)主机名称配置错误

3)IP 地址配置错误

4)ssh 没有配置好

5)root 用户和atguigu 两个用户启动集群不统一

6)配置文件修改不细心

7)不识别主机名称

java.net.UnknownHostException: hadoop102: hadoop102 
at 
java.net.InetAddress.getLocalHost(InetAddress.java:1475) 
at 
org.apache.hadoop.mapreduce.JobSubmitter.submitJobInternal(Job
 Submitter.java:146) 
at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1290) 
at org.apache.hadoop.mapreduce.Job$10.run(Job.java:1287) 
at 
java.security.AccessController.doPrivileged(Native 
Method) 
at javax.security.auth.Subject.doAs(Subject.java:415)

解决办法: (1)在/etc/hosts 文件中添加192.168.10.102 hadoop102 (2)主机名称不要起hadoop hadoop000等特殊名称

8)DataNode 和NameNode 进程同时只能工作一个。

在这里插入图片描述

9)执行命令不生效,粘贴Word中命令时,遇到-和长–没区分开。导致命令失效

解决办法:尽量不要粘贴Word中代码。

10)jps 发现进程已经没有,但是重新启动集群,提示进程已经开启。

原因是在 Linux 的根目录下/tmp 目录中存在启动的进程临时文件,将集群相关进程删 除掉,再重新启动集群。

11)jps 不生效

原因:全局变量hadoop java没有生效。解决办法:需要source /etc/profile文件。

12)8088 端口连接不上

[atguigu@hadoop102 桌面]$ cat /etc/hosts 注释掉如下代码

#127.0.0.1   
#::1         
localhost localhost.localdomain localhost4 localhost4.localdomain4 
hadoop102