- 核心设计
- HDFS和MapReduce
- 外文名
- Hadoop
- 类 别
- 电脑程序
- 中文名
- 海杜普
- 学 科
- 信息科学
- 全 称
- Hadoop Distributed File System
-
Hadoop
2020-10-09 08:15:01Hadoop发展史 Hadoop之父 Doug Cutting 2003-2004年 谷歌发布了三篇论文，Doug Cutting基于这三篇论文进行了实现，构成了hadoop的原型。 ———————— 主要技术软件： ———————— Hadoop三大公司 1、 ...展开全文
-
hadoop
2013-03-05 23:45:501:Hadoop 版本: CDH3U5 本框内容为转载 系统 从CDH3b3开始不支持hadoop.job.ugi参数，请使用UserGroupInformation.doAs()方法代替。详细见我博客：http://heipark.iteye.com/blog/1178810 其它...展开全文1:Hadoop 版本: CDH3U5
本框内容为转载
系统
从CDH3b3开始不支持hadoop.job.ugi参数，请使用UserGroupInformation.doAs()方法代替。详细见我博客：http://heipark.iteye.com/blog/1178810
其它见：https://ccp.cloudera.com/display/CDHDOC/Incompatible+Changes
安装
· cloudera CDH3基于hadoop稳定版0.20.2，并集成很多补丁（patch）
· CDH提供rpm包和tar两种方式（cloudera更推荐使用rpm方式，下文所述CDH默认为rpm安装方式）,hadoop0.20.2只提供了tar包安装方式，
· cloudera CDH3 自动设置JAVA_HOME环境变量，apache hadoop需要手工配置
· apache hadoop使用start/stop-dfs.sh start/stop-all.sh脚本维护集群，CDH通过root身份运行/etc/init.d/hadoop-0.20-* 脚本启动、关闭服务，这种方式只可以管理当前服务器，如果希望实现类似start/stop-all.sh需要自己写脚本（详细见我博客：http://heipark.iteye.com/blog/1182223）
· CDH3安装成功后会添加两个用户：hdfs（hdfs文件系统相关）, mapred（mapreduce相关），而apache hadoop大家通常的做法是添加一个hadoop用户来做所有的事情。
· CDH通过alternatives切换多个配置文件，而apache hadoop配置文件只保存在$HADOOP_HOME/conf下面
eclipse插件
cloudera CDH默认没有提供eclipse插件，需要自己编译，而且它的插件和apache hadoop插件不兼容
安全
CDH3支持Kerberos安全认证，apache hadoop则使用简陋的用户名匹配认证
2:Java: jdk-6u43-linux-x64.bin
shell下 ./ jdk-6u43-linux-x64.bin安装java并设置JAVA_HOME PATH环境变量
3:ssh授信:
root@hadoop-master:/hadoop# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa):
Created directory '/root/.ssh'.
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
27:32:44:ea:34:74:b4:64:c2:2d:fb:d5:3f:e6:82:48 root@hadoop-master
The key's randomart image is:
+--[ RSA 2048]----+
| .oo* |
| .oB.. |
| +oo . |
| o.o . . |
| ..o.S .. |
| Eo o + |
| . . . o . |
| . . . . |
| . |
+-----------------+
root@hadoop-master:/hadoop# cp /root/.ssh/id_rsa
id_rsa id_rsa.pub
root@hadoop-master:/hadoop# cp /root/.ssh/id_rsa.pub /root/.ssh/authorized_keys
然后将id_rsa.pub内容添加到slave机器的/root/.ssh/authorized_keys最后即可
hadoop
参照
https://ccp.cloudera.com/display/CDHDOC/CDH3+Installation#CDH3Installation-DebianPackage
root@hadoop-slave:/hadoop# apt-cache search hadoop
ubuntu-orchestra-modules-hadoop - Modules mainly used by orchestra-management-server
flume - reliable, scalable, and manageable distributed data collection application
flume-ng - reliable, scalable, and manageable distributed data collection application
hadoop-0.20 - A software platform for processing vast amounts of data
hadoop-0.20-conf-pseudo - Pseudo-distributed Hadoop configuration
hadoop-0.20-datanode - Data Node for Hadoop
hadoop-0.20-doc - Documentation for Hadoop
hadoop-0.20-fuse - HDFS exposed over a Filesystem in Userspace
hadoop-0.20-jobtracker - Job Tracker for Hadoop
hadoop-0.20-namenode - Name Node for Hadoop
hadoop-0.20-native - Native libraries for Hadoop (e.g., compression)
hadoop-0.20-pipes - Interface to author Hadoop MapReduce jobs in C++
hadoop-0.20-sbin - Server-side binaries necessary for secured Hadoop clusters
hadoop-0.20-secondarynamenode - Secondary Name Node for Hadoop
hadoop-0.20-source - Source code for Hadoop
hadoop-0.20-tasktracker - Task Tracker for Hadoop
hadoop-hbase - HBase is the Hadoop database
hadoop-hbase-doc - Documentation for HBase
hadoop-hbase-master - HMaster is the "master server" for a HBase
hadoop-hbase-regionserver - HRegionServer makes a set of HRegions available to clients
hadoop-hbase-rest - The Apache HBase REST gateway
hadoop-hbase-thrift - Provides an HBase Thrift service
hadoop-hive - A data warehouse infrastructure built on top of Hadoop
hadoop-hive-hbase - Provides integration between Apache HBase and Apache Hive
hadoop-hive-metastore - Shared metadata repository for Hive
hadoop-hive-server - Provides a Hive Thrift service
hadoop-pig - A platform for analyzing large data sets using Hadoop
hadoop-zookeeper - A high-performance coordination service for distributed applications.
hadoop-zookeeper-server - This runs the zookeeper server on startup.
hue-common - A browser-based desktop interface for Hadoop
hue-filebrowser - A UI for the Hadoop Distributed File System (HDFS)
hue-jobbrowser - A UI for viewing Hadoop map-reduce jobs
hue-jobsub - A UI for designing and submitting map-reduce jobs to Hadoop
hue-plugins - Plug-ins for Hadoop to enable integration with Hue
hue-shell - A shell for console based Hadoop applications
libhdfs0 - JNI Bindings to access Hadoop HDFS from C
libhdfs0-dev - Development support for libhdfs0
mahout - A set of Java libraries for scalable machine learning.
oozie - A workflow and coordinator sytem for Hadoop jobs.
sqoop - Tool for easy imports and exports of data sets between databases and HDFS
cdh3-repository - Cloudera's Distribution including Apache Hadoop
部署
10.0.0.123 hadoop-master
10.0.0.125 hadoop-slave
Master:
Slave:
apt-get install hadoop-0.20-datanode
apt-get install hadoop-0.20-tasktracker
root@hadoop-slave:/hadoop# apt-get install hadoop-0.20 hadoop-0.20-native
Reading package lists... Done
Building dependency tree
Reading state information... Done
The following extra packages will be installed:
liblzo2-2 libzip1
The following NEW packages will be installed:
hadoop-0.20 hadoop-0.20-native liblzo2-2 libzip1
0 upgraded, 4 newly installed, 0 to remove and 90 not upgraded.
Need to get 34.2 MB of archives.
After this operation, 56.0 MB of additional disk space will be used.
Do you want to continue [Y/n]? y
Get:1 http://archive.cloudera.com/debian/ lucid-cdh3/contrib hadoop-0.20 all 0.20.2+923.421-1~lucid-cdh3 [33.8 MB]
Get:2 http://us.archive.ubuntu.com/ubuntu/ oneiric/main liblzo2-2 amd64 2.05-1 [52.2 kB]
Get:3 http://us.archive.ubuntu.com/ubuntu/ oneiric/main libzip1 amd64 0.9.3-1 [23.7 kB]
Get:4 http://archive.cloudera.com/debian/ lucid-cdh3/contrib hadoop-0.20-native amd64 0.20.2+923.421-1~lucid-cdh3 [341 kB]
Fetched 34.2 MB in 9min 15s (61.6 kB/s)
Selecting previously deselected package liblzo2-2.
(Reading database ... 185899 files and directories currently installed.)
Unpacking liblzo2-2 (from .../liblzo2-2_2.05-1_amd64.deb) ...
Selecting previously deselected package libzip1.
Unpacking libzip1 (from .../libzip1_0.9.3-1_amd64.deb) ...
Selecting previously deselected package hadoop-0.20.
Unpacking hadoop-0.20 (from .../hadoop-0.20_0.20.2+923.421-1~lucid-cdh3_all.deb) ...
Selecting previously deselected package hadoop-0.20-native.
Unpacking hadoop-0.20-native (from .../hadoop-0.20-native_0.20.2+923.421-1~lucid-cdh3_amd64.deb) ...
Processing triggers for man-db ...
Setting up liblzo2-2 (2.05-1) ...
Setting up libzip1 (0.9.3-1) ...
Setting up hadoop-0.20 (0.20.2+923.421-1~lucid-cdh3) ...
find: `/var/log/hadoop-0.20/userlogs': No such file or directory
update-alternatives: using /etc/hadoop-0.20/conf.empty to provide /etc/hadoop-0.20/conf (hadoop-0.20-conf) in auto mode.
update-alternatives: using /usr/bin/hadoop-0.20 to provide /usr/bin/hadoop (hadoop-default) in auto mode.
Setting up hadoop-0.20-native (0.20.2+923.421-1~lucid-cdh3) ...
Processing triggers for libc-bin ...
ldconfig deferred processing now taking place
root@hadoop-slave:/hadoop# apt-get install hadoop-0.20-datanode
Reading package lists... Done
Building dependency tree
Reading state information... Done
The following NEW packages will be installed:
hadoop-0.20-datanode
0 upgraded, 1 newly installed, 0 to remove and 90 not upgraded.
Need to get 276 kB of archives.
After this operation, 352 kB of additional disk space will be used.
Get:1 http://archive.cloudera.com/debian/ lucid-cdh3/contrib hadoop-0.20-datanode all 0.20.2+923.421-1~lucid-cdh3 [276 kB]
Fetched 276 kB in 3s (81.2 kB/s)
Selecting previously deselected package hadoop-0.20-datanode.
(Reading database ... 186341 files and directories currently installed.)
Unpacking hadoop-0.20-datanode (from .../hadoop-0.20-datanode_0.20.2+923.421-1~lucid-cdh3_all.deb) ...
Processing triggers for ureadahead ...
ureadahead will be reprofiled on next reboot
Setting up hadoop-0.20-datanode (0.20.2+923.421-1~lucid-cdh3) ...
root@hadoop-slave:/hadoop# apt-get install hadoop-0.20-tasktracker
Reading package lists... Done
Building dependency tree
Reading state information... Done
The following NEW packages will be installed:
hadoop-0.20-tasktracker
0 upgraded, 1 newly installed, 0 to remove and 90 not upgraded.
Need to get 276 kB of archives.
After this operation, 352 kB of additional disk space will be used.
Get:1 http://archive.cloudera.com/debian/ lucid-cdh3/contrib hadoop-0.20-tasktracker all 0.20.2+923.421-1~lucid-cdh3 [276 kB]
Fetched 276 kB in 4s (66.4 kB/s)
Selecting previously deselected package hadoop-0.20-tasktracker.
(Reading database ... 186347 files and directories currently installed.)
Unpacking hadoop-0.20-tasktracker (from .../hadoop-0.20-tasktracker_0.20.2+923.421-1~lucid-cdh3_all.deb) ...
Processing triggers for ureadahead ...
Setting up hadoop-0.20-tasktracker (0.20.2+923.421-1~lucid-cdh3) ...
修改配置文件
略,参照http://heylinux.com/archives/2002.html
格式化HDFS分布式文件系统
root@hadoop-master:/hadoop# sudo -u hdfs hadoop namenode -format
13/03/05 07:17:46 INFO namenode.NameNode: STARTUP_MSG:
/************************************************************
STARTUP_MSG: Starting NameNode
STARTUP_MSG: host = hadoop-master/10.0.0.123
STARTUP_MSG: args = [-format]
STARTUP_MSG: version = 0.20.2-cdh3u5
STARTUP_MSG: build = file:///data/1/tmp/nightly_2012-10-05_17-10-50_3/hadoop-0.20-0.20.2+923.421-1~lucid -r 30233064aaf5f2492bc687d61d72956876102109; compiled by 'root' on Fri Oct 5 18:46:24 PDT 2012
************************************************************/
13/03/05 07:17:46 INFO util.GSet: VM type = 64-bit
13/03/05 07:17:46 INFO util.GSet: 2% max memory = 19.33375 MB
13/03/05 07:17:46 INFO util.GSet: capacity = 2^21 = 2097152 entries
13/03/05 07:17:46 INFO util.GSet: recommended=2097152, actual=2097152
13/03/05 07:17:46 INFO namenode.FSNamesystem: fsOwner=hdfs (auth:SIMPLE)
13/03/05 07:17:46 INFO namenode.FSNamesystem: supergroup=supergroup
13/03/05 07:17:46 INFO namenode.FSNamesystem: isPermissionEnabled=true
13/03/05 07:17:46 INFO namenode.FSNamesystem: dfs.block.invalidate.limit=1000
13/03/05 07:17:46 INFO namenode.FSNamesystem: isAccessTokenEnabled=false accessKeyUpdateInterval=0 min(s), accessTokenLifetime=0 min(s)
13/03/05 07:17:47 INFO common.Storage: Image file of size 110 saved in 0 seconds.
13/03/05 07:17:47 INFO common.Storage: Storage directory /hadoop/data/storage/dfs/name has been successfully formatted.
13/03/05 07:17:47 INFO namenode.NameNode: SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at hadoop-master/10.0.0.123
************************************************************/
启动master的hadoop
sudo /etc/init.d/hadoop-0.20-datanode start
sudo /etc/init.d/hadoop-0.20-namenode start
sudo /etc/init.d/hadoop-0.20-jobtracker start
sudo /etc/init.d/hadoop-0.20-secondarynamenode start
root@hadoop-master:/hadoop# sudo /etc/init.d/hadoop-0.20-datanode start
Starting Hadoop datanode daemon: starting datanode, logging to /usr/lib/hadoop-0.20/logs/hadoop-hadoop-datanode-hadoop-master.out
hadoop-0.20-datanode.
root@hadoop-master:/hadoop# sudo /etc/init.d/hadoop-0.20-namenode start
Starting Hadoop namenode daemon: starting namenode, logging to /usr/lib/hadoop-0.20/logs/hadoop-hadoop-namenode-hadoop-master.out
hadoop-0.20-namenode.
root@hadoop-master:/hadoop# sudo /etc/init.d/hadoop-0.20-jobtracker start
Starting Hadoop jobtracker daemon: starting jobtracker, logging to /usr/lib/hadoop-0.20/logs/hadoop-hadoop-jobtracker-hadoop-master.out
ERROR. Could not start Hadoop jobtracker daemon
root@hadoop-master:/hadoop# sudo /etc/init.d/hadoop-0.20-secondarynamenode start
Starting Hadoop secondarynamenode daemon: starting secondarynamenode, logging to /usr/lib/hadoop-0.20/logs/hadoop-hadoop-secondarynamenode-hadoop-master.out
hadoop-0.20-secondarynamenode.
root@hadoop-master:/hadoop#
启动slave的hadoop
root@hadoop-slave:/hadoop# sudo /etc/init.d/hadoop-0.20-datanode start
Starting Hadoop datanode daemon: starting datanode, logging to /usr/lib/hadoop-0.20/logs/hadoop-hadoop-datanode-hadoop-slave.out
hadoop-0.20-datanode.
root@hadoop-slave:/hadoop# sudo /etc/init.d/hadoop-0.20-tasktracker start
Starting Hadoop tasktracker daemon: starting tasktracker, logging to /usr/lib/hadoop-0.20/logs/hadoop-hadoop-tasktracker-hadoop-slave.out
hadoop-0.20-tasktracker.
root@hadoop-slave:/hadoop#
后续hbase
-
Hadoop介绍
2020-10-06 11:22:51Hadoop介绍Hadoop的介绍以及发展历史Hadoop的历史版本介绍Hadoop三大公司发型版本介绍Hadoop的模块组成 Hadoop的介绍以及发展历史 Hadoop之父Doug Cutting Hadoop最早起源于lucene下的Nutch。Nutch的设计目标是...展开全文Hadoop的介绍以及发展历史
Hadoop之父Doug Cutting
- Hadoop最早起源于lucene下的Nutch。Nutch的设计目标是构建一个大型的全网搜索引擎，包括网页抓取、索引、查询等功能，但随着抓取网页数量的增加，遇到了严重的可扩展性问题——如何解决数十亿网页的存储和索引问题。
- 2003年、2004年谷歌发表的三篇论文为该问题提供了可行的解决方案。
——分布式文件系统（GFS），可用于处理海量网页的存储
——分布式计算框架MAPREDUCE，可用于处理海量网页的索引计算问题。
——分布式的结构化数据存储系统Bigtable，用来处理海量结构化数据。 - Doug Cutting基于这三篇论文完成了相应的开源实现HDFS和MAPREDUCE，并从Nutch中剥离成为独立项目HADOOP，到2008年1月，HADOOP成为Apache顶级项目(同年，cloudera公司成立)，迎来了它的快速发展期。
为什么叫Hadoop? Logo为什么是黄色的大象？
狭义上来说，Hadoop就是单独指代Hadoop这个软件（HDFS+MAPREDUCE）
广义上来说，Hadoop指代大数据的一个生态圈（Hadoop生态圈），包括很多其他的软件。
Hadoop的历史版本介绍
0.x系列版本：Hadoop当中最早的一个开源版本，在此基础上演变而来的1.x以及2.x的版本
1.x版本系列：Hadoop版本当中的第二代开源版本，主要修复0.x版本的一些bug等
2.x版本系列：架构产生重大变化，引入了yarn平台等许多新特性
Hadoop三大公司发型版本介绍
1、免费开源版本apache：http://Hadoop.apache.org/
优点：拥有全世界的开源贡献者，代码更新迭代版本比较快，
缺点：版本的升级，版本的维护，版本的兼容性，版本的补丁都可能考虑不太周到，学习可以用，实际生产工作环境尽量不要使用
apache所有软件的下载地址（包括各种历史版本）：
http://archive.apache.org/dist/
2、免费开源版本hortonWorks：https://hortonworks.com/
hortonworks主要是雅虎主导Hadoop开发的副总裁，带领二十几个核心成员成立Hortonworks，核心产品软件HDP（ambari），HDF免费开源，并且提供一整套的web管理界面，供我们可以通过web界面管理我们的集群状态，web管理界面软件HDF网址（http://ambari.apache.org/）
3、服务收费版本ClouderaManager: https://www.cloudera.com/
cloudera主要是美国一家大数据公司在apache开源Hadoop的版本上，通过自己公司内部的各种补丁，实现版本之间的稳定运行，大数据生态圈的各个版本的软件都提供了对应的版本，解决了版本的升级困难，版本兼容性等各种问题，生产环境推荐使用。Hadoop的模块组成
1、HDFS：一个高可靠、高吞吐量的分布式文件系统。
2、MapReduce：一个分布式的离线并行计算框架。
3、YARN：作业调度与集群资源管理的框架。
4、Common：支持其他模块的工具模块。
-
史上最详细的Hadoop环境搭建
2017-10-10 15:23:59GitChat 作者：鸣宇淳 原文： 史上最详细的Hadoop环境搭建 关注公众号：GitChat 技术杂谈，一本正经的讲技术 【不要错过文末活动哦】前言Hadoop在大数据技术体系中的地位至关重要，Hadoop是大数据技术的基础，对...展开全文GitChat 作者：鸣宇淳
原文： 史上最详细的Hadoop环境搭建
关注公众号：GitChat 技术杂谈，一本正经的讲技术
【不要错过文末活动哦】前言
Hadoop在大数据技术体系中的地位至关重要，Hadoop是大数据技术的基础，对Hadoop基础知识的掌握的扎实程度，会决定在大数据技术道路上走多远。
这是一篇入门文章，Hadoop的学习方法很多，网上也有很多学习路线图。本文的思路是：以安装部署Apache Hadoop2.x版本为主线，来介绍Hadoop2.x的架构组成、各模块协同工作原理、技术细节。安装不是目的，通过安装认识Hadoop才是目的。
本文分为五个部分、十三节、四十九步。
第一部分：Linux环境安装
Hadoop是运行在Linux，虽然借助工具也可以运行在Windows上，但是建议还是运行在Linux系统上，第一部分介绍Linux环境的安装、配置、Java JDK安装等。
第二部分：Hadoop本地模式安装
Hadoop本地模式只是用于本地开发调试，或者快速安装体验Hadoop，这部分做简单的介绍。
第三部分：Hadoop伪分布式模式安装
学习Hadoop一般是在伪分布式模式下进行。这种模式是在一台机器上各个进程上运行Hadoop的各个模块，伪分布式的意思是虽然各个模块是在各个进程上分开运行的，但是只是运行在一个操作系统上的，并不是真正的分布式。
第四部分：完全分布式安装
完全分布式模式才是生产环境采用的模式，Hadoop运行在服务器集群上，生产环境一般都会做HA，以实现高可用。
第五部分：Hadoop HA安装
HA是指高可用，为了解决Hadoop单点故障问题，生产环境一般都做HA部署。这部分介绍了如何配置Hadoop2.x的高可用，并简单介绍了HA的工作原理。
安装过程中，会穿插简单介绍涉及到的知识。希望能对大家有所帮助。
第一部分：Linux环境安装
第一步、配置Vmware NAT网络
一、Vmware网络模式介绍
参考：http://blog.csdn.net/collection4u/article/details/14127671
二、NAT模式配置
NAT是网络地址转换，是在宿主机和虚拟机之间增加一个地址转换服务，负责外部和虚拟机之间的通讯转接和IP转换。
我们部署Hadoop集群，这里选择NAT模式，各个虚拟机通过NAT使用宿主机的IP来访问外网。
我们的要求是集群中的各个虚拟机有固定的IP、可以访问外网，所以进行如下设置：
1、 Vmware安装后，默认的NAT设置如下：
2、 默认的设置是启动DHCP服务的，NAT会自动给虚拟机分配IP，但是我们需要将各个机器的IP固定下来，所以要取消这个默认设置。
3、 为机器设置一个子网网段，默认是192.168.136网段，我们这里设置为100网段，将来各个虚拟机Ip就为 192.168.100.*。
4、 点击NAT设置按钮，打开对话框，可以修改网关地址和DNS地址。这里我们为NAT指定DNS地址。
5、 网关地址为当前网段里的.2地址，好像是固定的，我们不做修改，先记住网关地址就好了，后面会用到。
第二步、安装Linux操作系统
三、Vmware上安装Linux系统
1、 文件菜单选择新建虚拟机
2、 选择经典类型安装，下一步。
3、 选择稍后安装操作系统，下一步。
4、 选择Linux系统，版本选择CentOS 64位。
5、 命名虚拟机，给虚拟机起个名字，将来显示在Vmware左侧。并选择Linux系统保存在宿主机的哪个目录下，应该一个虚拟机保存在一个目录下，不能多个虚拟机使用一个目录。
6、 指定磁盘容量，是指定分给Linux虚拟机多大的硬盘，默认20G就可以，下一步。
7、 点击自定义硬件，可以查看、修改虚拟机的硬件配置，这里我们不做修改。
8、 点击完成后，就创建了一个虚拟机，但是此时的虚拟机还是一个空壳，没有操作系统，接下来安装操作系统。
9、 点击编辑虚拟机设置，找到DVD，指定操作系统ISO文件所在位置。
10、 点击开启此虚拟机，选择第一个回车开始安装操作系统。
11、 设置root密码。
12、 选择Desktop，这样就会装一个Xwindow。
13、 先不添加普通用户，其他用默认的，就把Linux安装完毕了。
四、设置网络
因为Vmware的NAT设置中关闭了DHCP自动分配IP功能，所以Linux还没有IP，需要我们设置网络各个参数。
1、 用root进入Xwindow，右击右上角的网络连接图标，选择修改连接。
2、 网络连接里列出了当前Linux里所有的网卡，这里只有一个网卡System eth0，点击编辑。
3、 配置IP、子网掩码、网关（和NAT设置的一样）、DNS等参数，因为NAT里设置网段为100.*，所以这台机器可以设置为192.168.100.10网关和NAT一致，为192.168.100.2
4、 用ping来检查是否可以连接外网，如下图，已经连接成功。
五、修改Hostname
1、 临时修改hostname
- 1
这种修改方式，系统重启后就会失效。
2、 永久修改hostname
想永久修改，应该修改配置文件 /etc/sysconfig/network。
- 1
打开文件后，
- 1
- 2
六、配置Host
- 1
- 2
七、关闭防火墙
学习环境可以直接把防火墙关闭掉。
(1) 用root用户登录后，执行查看防火墙状态。
- 1
(2) 用[root@bigdata-senior01 hadoop]# service iptables stop关闭防火墙，这个是临时关闭防火墙。
- 1
- 2
- 3
- 4
(3) 如果要永久关闭防火墙用。
- 1
关闭，这种需要重启才能生效。
八、关闭selinux
selinux是Linux一个子安全机制，学习环境可以将它禁用。
- 1
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
第三步、安装JDK
九、安装Java JDK
1、 查看是否已经安装了java JDK。
- 1
注意：Hadoop机器上的JDK，最好是Oracle的Java JDK，不然会有一些问题，比如可能没有JPS命令。
如果安装了其他版本的JDK，卸载掉。2、 安装java JDK
(1) 去下载Oracle版本Java JDK：jdk-7u67-linux-x64.tar.gz
(2) 将jdk-7u67-linux-x64.tar.gz解压到/opt/modules目录下
- 1
(3) 添加环境变量
设置JDK的环境变量 JAVA_HOME。需要修改配置文件/etc/profile，追加
- 1
- 2
修改完毕后，执行 source /etc/profile
(4)安装后再次执行 java –version,可以看见已经安装完成。
- 1
- 2
- 3
- 4
第二部分：Hadoop本地模式安装
第四步、Hadoop部署模式
Hadoop部署模式有：本地模式、伪分布模式、完全分布式模式、HA完全分布式模式。
区分的依据是NameNode、DataNode、ResourceManager、NodeManager等模块运行在几个JVM进程、几个机器。
模式名称 各个模块占用的JVM进程数 各个模块运行在几个机器数上 本地模式 1个 1个 伪分布式模式 N个 1个 完全分布式模式 N个 N个 HA完全分布式 N个 N个 第五步、本地模式部署
十、本地模式介绍
本地模式是最简单的模式，所有模块都运行与一个JVM进程中，使用的本地文件系统，而不是HDFS，本地模式主要是用于本地开发过程中的运行调试用。下载hadoop安装包后不用任何设置，默认的就是本地模式。
十一、解压hadoop后就是直接可以使用
1、 创建一个存放本地模式hadoop的目录
- 1
2、 解压hadoop文件
- 1
3、 确保JAVA_HOME环境变量已经配置好
- 1
- 2
十二、运行MapReduce程序，验证
我们这里用hadoop自带的wordcount例子来在本地模式下测试跑mapreduce。
1、 准备mapreduce输入文件wc.input
- 1
- 2
- 3
- 4
- 5
2、 运行hadoop自带的mapreduce Demo
- 1
这里可以看到job ID中有local字样，说明是运行在本地模式下的。
3、 查看输出文件
本地模式下，mapreduce的输出是输出到本地。
- 1
- 2
- 3
- 4
输出目录中有_SUCCESS文件说明JOB运行成功，part-r-00000是输出结果文件。
第三部分：Hadoop伪分布式模式安装
第六步、伪分布式Hadoop部署过程
十三、Hadoop所用的用户设置
1、 创建一个名字为hadoop的普通用户
- 1
- 2
2、 给hadoop用户sudo权限
- 1
设置权限，学习环境可以将hadoop用户的权限设置的大一些，但是生产环境一定要注意普通用户的权限限制。
- 1
- 2
注意：如果root用户无权修改sudoers文件，先手动为root用户添加写权限。
- 1
3、 切换到hadoop用户
- 1
- 2
4、 创建存放hadoop文件的目录
- 1
5、 将hadoop文件夹的所有者指定为hadoop用户
如果存放hadoop的目录的所有者不是hadoop，之后hadoop运行中可能会有权限问题，那么就讲所有者改为hadoop。
- 1
十四、解压Hadoop目录文件
1、 复制hadoop-2.5.0.tar.gz到/opt/modules目录下。
2、 解压hadoop-2.5.0.tar.gz
- 1
- 2
十五、配置Hadoop
1、 配置Hadoop环境变量
- 1
追加配置：
- 1
- 2
执行：source /etc/profile 使得配置生效
验证HADOOP_HOME参数：
- 1
- 2
2、 配置 hadoop-env.sh、mapred-env.sh、yarn-env.sh文件的JAVA_HOME参数
- 1
- 1
- 2
3、 配置core-site.xml
[hadoop@bigdata-senior01 ~]
sudovim {HADOOP_HOME}/etc/hadoop/core-site.xml（1） fs.defaultFS参数配置的是HDFS的地址。
- 1
- 2
- 3
- 4
（2）
hadoop.tmp.dir配置的是Hadoop临时目录，比如HDFS的NameNode数据默认都存放这个目录下，查看*-default.xml等默认配置文件，就可以看到很多依赖${hadoop.tmp.dir}的配置。默认的
hadoop.tmp.dir是/tmp/hadoop-${user.name},此时有个问题就是NameNode会将HDFS的元数据存储在这个/tmp目录下，如果操作系统重启了，系统会清空/tmp目录下的东西，导致NameNode元数据丢失，是个非常严重的问题，所有我们应该修改这个路径。- 创建临时目录：
- 1
- 将临时目录的所有者修改为hadoop
- 1
- 修改hadoop.tmp.dir
- 1
- 2
- 3
- 4
十六、配置、格式化、启动HDFS
1、 配置hdfs-site.xml
- 1
- 1
- 2
- 3
- 4
dfs.replication配置的是HDFS存储时的备份数量，因为这里是伪分布式环境只有一个节点，所以这里设置为1。
2、 格式化HDFS
- 1
格式化是对HDFS这个分布式文件系统中的DataNode进行分块，统计所有分块后的初始元数据的存储在NameNode中。
格式化后，查看core-site.xml里hadoop.tmp.dir（本例是/opt/data目录）指定的目录下是否有了dfs目录，如果有，说明格式化成功。
注意：
格式化时，这里注意hadoop.tmp.dir目录的权限问题，应该hadoop普通用户有读写权限才行，可以将/opt/data的所有者改为hadoop。
[hadoop@bigdata-senior01 hadoop-2.5.0]$ sudo chown -R hadoop:hadoop /opt/data查看NameNode格式化后的目录。
- 1
fsimage是NameNode元数据在内存满了后，持久化保存到的文件。
fsimage*.md5是校验文件，用于校验fsimage的完整性。seen_txid是hadoop的版本vession文件里保存：
namespaceID：NameNode的唯一ID。
clusterID:集群ID，NameNode和DataNode的集群ID应该一致，表明是一个集群。
- 1
- 2
- 3
- 4
- 5
- 6
- 7
3、 启动NameNode
- 1
- 2
4、 启动DataNode
- 1
- 2
5、 启动SecondaryNameNode
- 1
- 2
6、 JPS命令查看是否已经启动成功，有结果就是启动成功了。
- 1
- 2
- 3
- 4
- 5
7、 HDFS上测试创建目录、上传、下载文件
HDFS上创建目录
- 1
上传本地文件到HDFS上
- 1
- 2
读取HDFS上的文件内容
- 1
从HDFS上下载文件到本地
- 1
十七、配置、启动YARN
1、 配置mapred-site.xml
默认没有mapred-site.xml文件，但是有个mapred-site.xml.template配置模板文件。复制模板生成mapred-site.xml。
- 1
添加配置如下：
- 1
- 2
- 3
- 4
指定mapreduce运行在yarn框架上。
2、 配置yarn-site.xml
添加配置如下：
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
yarn.nodemanager.aux-services配置了yarn的默认混洗方式，选择为mapreduce的默认混洗算法。
yarn.resourcemanager.hostname指定了Resourcemanager运行在哪个节点上。
3、 启动Resourcemanager
- 1
4、 启动nodemanager
- 1
5、 查看是否启动成功
- 1
- 2
- 3
- 4
- 5
- 6
- 7
可以看到ResourceManager、NodeManager已经启动成功了。
6、 YARN的Web页面
YARN的Web客户端端口号是8088，通过http://192.168.100.10:8088/可以查看。
十八、运行MapReduce Job
在Hadoop的share目录里，自带了一些jar包，里面带有一些mapreduce实例小例子，位置在share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.0.jar，可以运行这些例子体验刚搭建好的Hadoop平台，我们这里来运行最经典的WordCount实例。
1、 创建测试用的Input文件
创建输入目录:
- 1
创建原始文件:
在本地/opt/data目录创建一个文件wc.input,内容如下。
将wc.input文件上传到HDFS的/wordcountdemo/input目录中:
- 1
2、 运行WordCount MapReduce Job
- 1
- 2
3、 查看输出结果目录
- 1
- 2
- 3
output目录中有两个文件，_SUCCESS文件是空文件，有这个文件说明Job执行成功。
part-r-00000文件是结果文件，其中-r-说明这个文件是Reduce阶段产生的结果，mapreduce程序执行时，可以没有reduce阶段，但是肯定会有map阶段，如果没有reduce阶段这个地方有是-m-。
一个reduce会产生一个part-r-开头的文件。
查看输出文件内容。
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
结果是按照键值排好序的。
十九、停止Hadoop
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
二十、 Hadoop各个功能模块的理解
1、 HDFS模块
HDFS负责大数据的存储，通过将大文件分块后进行分布式存储方式，突破了服务器硬盘大小的限制，解决了单台机器无法存储大文件的问题，HDFS是个相对独立的模块，可以为YARN提供服务，也可以为HBase等其他模块提供服务。
2、 YARN模块
YARN是一个通用的资源协同和任务调度框架，是为了解决Hadoop1.x中MapReduce里NameNode负载太大和其他问题而创建的一个框架。
YARN是个通用框架，不止可以运行MapReduce，还可以运行Spark、Storm等其他计算框架。
3、 MapReduce模块
MapReduce是一个计算框架，它给出了一种数据处理的方式，即通过Map阶段、Reduce阶段来分布式地流式处理数据。它只适用于大数据的离线处理，对实时性要求很高的应用不适用。
第七步、开启历史服务
二十一、历史服务介绍
Hadoop开启历史服务可以在web页面上查看Yarn上执行job情况的详细信息。可以通过历史服务器查看已经运行完的Mapreduce作业记录，比如用了多少个Map、用了多少个Reduce、作业提交时间、作业启动时间、作业完成时间等信息。
二十二、开启历史服务
- 1
开启后，可以通过Web页面查看历史服务器：
http://bigdata-senior01.chybinmy.com:19888/
二十三、Web查看job执行历史
1、 运行一个mapreduce任务
- 1
- 2
2、 job执行中
3、 查看job历史
历史服务器的Web端口默认是19888，可以查看Web界面。
但是在上面所显示的某一个Job任务页面的最下面，Map和Reduce个数的链接上，点击进入Map的详细信息页面，再查看某一个Map或者Reduce的详细日志是看不到的，是因为没有开启日志聚集服务。
二十四、开启日志聚集
4、 日志聚集介绍
MapReduce是在各个机器上运行的，在运行过程中产生的日志存在于各个机器上，为了能够统一查看各个机器的运行日志，将日志集中存放在HDFS上，这个过程就是日志聚集。
5、 开启日志聚集
配置日志聚集功能：
Hadoop默认是不启用日志聚集的。在yarn-site.xml文件里配置启用日志聚集。
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
yarn.log-aggregation-enable:是否启用日志聚集功能。
yarn.log-aggregation.retain-seconds：设置日志保留时间，单位是秒。
将配置文件分发到其他节点：
- 1
- 2
重启Yarn进程：
- 1
- 2
重启HistoryServer进程：
- 1
- 2
6、 测试日志聚集
运行一个demo MapReduce，使之产生日志：
- 1
查看日志：
运行Job后，就可以在历史服务器Web页面查看各个Map和Reduce的日志了。
第四部分：完全分布式安装
第八步、完全布式环境部署Hadoop
完全分部式是真正利用多台Linux主机来进行部署Hadoop，对Linux机器集群进行规划，使得Hadoop各个模块分别部署在不同的多台机器上。
二十五、环境准备
1、 克隆虚拟机
Vmware左侧选中要克隆的机器，这里对原有的BigData01机器进行克隆，虚拟机菜单中，选中管理菜单下的克隆命令。
选择“创建完整克隆”，虚拟机名称为BigData02，选择虚拟机文件保存路径，进行克隆。
再次克隆一个名为BigData03的虚拟机。
2、 配置网络
修改网卡名称：
在BigData02和BigData03机器上编辑网卡信息。执行sudo vim /etc/udev/rules.d/70-persistent-net.rules命令。因为是从BigData01机器克隆来的，所以会保留BigData01的网卡eth0，并且再添加一个网卡eth1。并且eth0的Mac地址和BigData01的地址是一样的，Mac地址不允许相同，所以要删除eth0，只保留eth1网卡，并且要将eth1改名为eth0。将修改后的eth0的mac地址复制下来，修改network-scripts文件中的HWADDR属性。
- 1
修改网络参数：
BigData02机器IP改为192.168.100.12
BigData03机器IP改为192.168.100.13
3、 配置Hostname
BigData02配置hostname为 bigdata-senior02.chybinmy.com
BigData03配置hostname为 bigdata-senior03.chybinmy.com
4、 配置hosts
BigData01、BigData02、BigData03三台机器hosts都配置为：
- 1
- 2
- 3
- 4
5、 配置Windows上的SSH客户端
在本地Windows中的SSH客户端上添加对BigData02、BigData03机器的SSH链接。
二十六、服务器功能规划
bigdata-senior01.chybinmy.com bigdata-senior02.chybinmy.com bigdata-senior03.chybinmy.com NameNode ResourceManage DataNode DataNode DataNode NodeManager NodeManager NodeManager HistoryServer SecondaryNameNode 二十七、在第一台机器上安装新的Hadoop
为了和之前BigData01机器上安装伪分布式Hadoop区分开来，我们将BigData01上的Hadoop服务都停止掉，然后在一个新的目录/opt/modules/app下安装另外一个Hadoop。
我们采用先在第一台机器上解压、配置Hadoop，然后再分发到其他两台机器上的方式来安装集群。6、 解压Hadoop目录：
- 1
7、 配置Hadoop JDK路径修改hadoop-env.sh、mapred-env.sh、yarn-env.sh文件中的JDK路径：
- 1
8、 配置core-site.xml
- 1
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
fs.defaultFS为NameNode的地址。
hadoop.tmp.dir为hadoop临时目录的地址，默认情况下，NameNode和DataNode的数据文件都会存在这个目录下的对应子目录下。应该保证此目录是存在的，如果不存在，先创建。
9、 配置hdfs-site.xml
- 1
- 1
- 2
- 3
- 4
- 5
- 6
dfs.namenode.secondary.http-address是指定secondaryNameNode的http访问地址和端口号，因为在规划中，我们将BigData03规划为SecondaryNameNode服务器。
所以这里设置为：bigdata-senior03.chybinmy.com:50090
10、 配置slaves
- 1
- 2
- 3
- 4
slaves文件是指定HDFS上有哪些DataNode节点。
11、 配置yarn-site.xml
- 1
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
根据规划
yarn.resourcemanager.hostname这个指定resourcemanager服务器指向bigdata-senior02.chybinmy.com。yarn.log-aggregation-enable是配置是否启用日志聚集功能。yarn.log-aggregation.retain-seconds是配置聚集的日志在HDFS上最多保存多长时间。12、 配置mapred-site.xml
从mapred-site.xml.template复制一个mapred-site.xml文件。
- 1
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
mapreduce.framework.name设置mapreduce任务运行在yarn上。
mapreduce.jobhistory.address是设置mapreduce的历史服务器安装在BigData01机器上。
mapreduce.jobhistory.webapp.address是设置历史服务器的web页面地址和端口号。
二十八、设置SSH无密码登录
Hadoop集群中的各个机器间会相互地通过SSH访问，每次访问都输入密码是不现实的，所以要配置各个机器间的
SSH是无密码登录的。
1、 在BigData01上生成公钥
- 1
一路回车，都设置为默认值，然后再当前用户的Home目录下的
.ssh目录中会生成公钥文件（id_rsa.pub）和私钥文件（id_rsa）。2、 分发公钥
- 1
- 2
- 3
3、 设置BigData02、BigData03到其他机器的无密钥登录
同样的在BigData02、BigData03上生成公钥和私钥后，将公钥分发到三台机器上。
二十九、分发Hadoop文件
1、 首先在其他两台机器上创建存放Hadoop的目录
- 1
- 2
2、 通过Scp分发
Hadoop根目录下的share/doc目录是存放的hadoop的文档，文件相当大，建议在分发之前将这个目录删除掉，可以节省硬盘空间并能提高分发的速度。
doc目录大小有1.6G。
- 1
- 2
- 3
- 4
三十、格式NameNode
在NameNode机器上执行格式化：
- 1
注意：
如果需要重新格式化NameNode,需要先将原来NameNode和DataNode下的文件全部删除，不然会报错，NameNode和DataNode所在目录是在
core-site.xml中hadoop.tmp.dir、dfs.namenode.name.dir、dfs.datanode.data.dir属性配置的。- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
因为每次格式化，默认是创建一个集群ID，并写入NameNode和DataNode的VERSION文件中（VERSION文件所在目录为dfs/name/current 和 dfs/data/current），重新格式化时，默认会生成一个新的集群ID,如果不删除原来的目录，会导致namenode中的VERSION文件中是新的集群ID,而DataNode中是旧的集群ID，不一致时会报错。
另一种方法是格式化时指定集群ID参数，指定为旧的集群ID。
三十一、启动集群
1、 启动HDFS
- 1
2、 启动YARN
- 1
在BigData02上启动ResourceManager:
- 1
3、 启动日志服务器
因为我们规划的是在BigData03服务器上运行MapReduce日志服务，所以要在BigData03上启动。
- 1
- 2
- 1
- 2
- 3
- 4
- 5
- 6
4、 查看HDFS Web页面
http://bigdata-senior01.chybinmy.com:50070/
5、 查看YARN Web 页面
http://bigdata-senior02.chybinmy.com:8088/cluster
三十二、测试Job
我们这里用hadoop自带的wordcount例子来在本地模式下测试跑mapreduce。
1、 准备mapreduce输入文件wc.input
- 1
- 2
- 3
- 4
- 5
2、 在HDFS创建输入目录input
- 1
3、 将wc.input上传到HDFS
- 1
4、 运行hadoop自带的mapreduce Demo
- 1
5、 查看输出文件
- 1
- 2
- 3
- 4
第五部分：Hadoop HA安装
HA的意思是High Availability高可用，指当当前工作中的机器宕机后，会自动处理这个异常，并将工作无缝地转移到其他备用机器上去，以来保证服务的高可用。
HA方式安装部署才是最常见的生产环境上的安装部署方式。Hadoop HA是Hadoop 2.x中新添加的特性，包括NameNode HA 和 ResourceManager HA。因为DataNode和NodeManager本身就是被设计为高可用的，所以不用对他们进行特殊的高可用处理。
第九步、时间服务器搭建
Hadoop对集群中各个机器的时间同步要求比较高，要求各个机器的系统时间不能相差太多，不然会造成很多问题。可以配置集群中各个机器和互联网的时间服务器进行时间同步，但是在实际生产环境中，集群中大部分服务器是不能连接外网的，这时候可以在内网搭建一个自己的时间服务器（NTP服务器），集群的各个机器与这个时间服务器进行时间同步。
三十三、配置NTP服务器
我们选择第三台机器（bigdata-senior03.chybinmy.com）为NTF服务器，其他机器和这台机器进行同步。
1、 检查ntp服务是否已经安装
- 1
- 2
- 3
显示已经安装过了ntp程序，其中
ntpdate-4.2.6p5-1.el6.centos.x86_64是用来和某台服务器进行同步的，ntp-4.2.6p5-1.el6.centos.x86_64是用来提供时间同步服务的。2、 修改配置文件ntp.conf
- 1
启用restrice,修改网段
restrict 192.168.100.0 mask 255.255.255.0 nomodify notrap
将这行的注释去掉，并且将网段改为集群的网段，我们这里是100网段。注释掉server域名配置
- 1
- 2
- 3
- 4
是时间服务器的域名，这里不需要连接互联网，所以将他们注释掉。
修改
server 127.127.1.0
fudge 127.127.1.0 stratum 10
3、 修改配置文件ntpd
- 1
添加一行配置：SYNC_CLOCK=yes
4、 启动ntp服务
- 1
这样每次机器启动时，ntp服务都会自动启动。
三十四、配置其他机器的同步
切换到root用户进行配置通过contab进行定时同步：
- 1
- 2
- 3
- 4
三十五、 测试同步是否有效
1、 查看目前三台机器的时间
- 1
- 2
- 3
- 4
- 5
- 6
2、 修改bigdata-senior01上的时间
将时间改为一个以前的时间：
- 1
- 2
- 3
- 4
等10分钟，看是否可以实现自动同步，将bigdata-senior01上的时间修改为和bigdata-senior03上的一致。
3、 查看是否自动同步时间
- 1
- 2
可以看到bigdata-senior01上的时间已经实现自动同步了。
第十步、Zookeeper分布式机器部署
三十六、zookeeper说明
Zookeeper在Hadoop集群中的作用。
Zookeeper是分布式管理协作框架，Zookeeper集群用来保证Hadoop集群的高可用，（高可用的含义是：集群中就算有一部分服务器宕机，也能保证正常地对外提供服务。）
Zookeeper保证高可用的原理。
Zookeeper集群能够保证NamaNode服务高可用的原理是：Hadoop集群中有两个NameNode服务，两个NaameNode都定时地给Zookeeper发送心跳，告诉Zookeeper我还活着，可以提供服务，单某一个时间只有一个是Action状态，另外一个是Standby状态，一旦Zookeeper检测不到Action NameNode发送来的心跳后，就切换到Standby状态的NameNode上，将它设置为Action状态，所以集群中总有一个可用的NameNode，达到了NameNode的高可用目的。
Zookeeper的选举机制。
Zookeeper集群也能保证自身的高可用，保证自身高可用的原理是，Zookeeper集群中的各个机器分为Leader和Follower两个角色，写入数据时，要先写入Leader，Leader同意写入后，再通知Follower写入。客户端读取数时，因为数据都是一样的，可以从任意一台机器上读取数据。
这里Leader角色就存在单点故障的隐患，高可用就是解决单点故障隐患的。Zookeeper从机制上解决了Leader的单点故障问题，Leader是哪一台机器是不固定的，Leader是选举出来的。选举流程是，集群中任何一台机器发现集群中没有Leader时，就推荐自己为Leader，其他机器来同意，当超过一半数的机器同意它为Leader时，选举结束，所以Zookeeper集群中的机器数据必须是奇数。这样就算当Leader机器宕机后，会很快选举出新的Leader，保证了Zookeeper集群本身的高可用。
写入高可用。
集群中的写入操作都是先通知Leader，Leader再通知Follower写入，实际上当超过一半的机器写入成功后，就认为写入成功了，所以就算有些机器宕机，写入也是成功的。
读取高可用。
zookeeperk客户端读取数据时，可以读取集群中的任何一个机器。所以部分机器的宕机并不影响读取。
zookeeper服务器必须是奇数台，因为zookeeper有选举制度，角色有：领导者、跟随者、观察者，选举的目的是保证集群中数据的一致性。
三十七、安装zookeeper
我们这里在BigData01、BigData02、BigData03三台机器上安装zookeeper集群。
1、 解压安装包
在BigData01上安装解压zookeeper安装包。
- 1
2、 修改配置
拷贝conf下的zoo_sample.cfg副本，改名为zoo.cfg。zoo.cfg是zookeeper的配置文件：
- 1
dataDir属性设置zookeeper的数据文件存放的目录：
dataDir=/opt/modules/zookeeper-3.4.8/data/zData
指定zookeeper集群中各个机器的信息：
- 1
- 2
- 3
server后面的数字范围是1到255，所以一个zookeeper集群最多可以有255个机器。
3、 创建myid文件
在dataDir所指定的目录下创一个名为myid的文件，文件内容为server点后面的数字。
4、 分发到其他机器
- 1
- 2
5、 修改其他机器上的myid文件
- 1
- 2
- 3
- 1
- 2
- 3
6、 启动zookeeper
需要在各个机器上分别启动zookeeper。
- 1
- 2
- 3
三十八、zookeeper命令
进入zookeeper Shell
在zookeeper根目录下执行 bin/zkCli.sh进入zk shell模式。
zookeeper很像一个小型的文件系统，/是根目录，下面的所有节点都叫zNode。
进入zk shell 后输入任意字符，可以列出所有的zookeeper命令
查询zNode上的数据：get /zookeeper
创建一个zNode : create /znode1 “demodata “
列出所有子zNode：ls /
删除znode : rmr /znode1
退出shell模式：quit
第十一步、Hadoop 2.x HDFS HA 部署
三十九、HDFS HA原理
单NameNode的缺陷存在单点故障的问题，如果NameNode不可用，则会导致整个HDFS文件系统不可用。所以需要设计高可用的HDFS（Hadoop HA）来解决NameNode单点故障的问题。解决的方法是在HDFS集群中设置多个NameNode节点。但是一旦引入多个NameNode，就有一些问题需要解决。
HDFS HA需要保证的四个问题：
保证NameNode内存中元数据数据一致，并保证编辑日志文件的安全性。
多个NameNode如何协作
客户端如何能正确地访问到可用的那个NameNode。
怎么保证任意时刻只能有一个NameNode处于对外服务状态。
解决方法
对于保证NameNode元数据的一致性和编辑日志的安全性，采用Zookeeper来存储编辑日志文件。
两个NameNode一个是Active状态的，一个是Standby状态的，一个时间点只能有一个Active状态的
NameNode提供服务,两个NameNode上存储的元数据是实时同步的，当Active的NameNode出现问题时，通过Zookeeper实时切换到Standby的NameNode上，并将Standby改为Active状态。客户端通过连接一个Zookeeper的代理来确定当时哪个NameNode处于服务状态。
四十、HDFS HA架构图
HDFS HA架构中有两台NameNode节点，一台是处于活动状态（Active）为客户端提供服务，另外一台处于热备份状态（Standby）。
元数据文件有两个文件：fsimage和edits，备份元数据就是备份这两个文件。JournalNode用来实时从Active NameNode上拷贝edits文件，JournalNode有三台也是为了实现高可用。
Standby NameNode不对外提供元数据的访问，它从Active NameNode上拷贝fsimage文件，从JournalNode上拷贝edits文件，然后负责合并fsimage和edits文件，相当于SecondaryNameNode的作用。最终目的是保证Standby NameNode上的元数据信息和Active NameNode上的元数据信息一致，以实现热备份。
Zookeeper来保证在Active NameNode失效时及时将Standby NameNode修改为Active状态。
ZKFC（失效检测控制）是Hadoop里的一个Zookeeper客户端，在每一个NameNode节点上都启动一个ZKFC进程，来监控NameNode的状态，并把NameNode的状态信息汇报给Zookeeper集群，其实就是在Zookeeper上创建了一个Znode节点，节点里保存了NameNode状态信息。当NameNode失效后，ZKFC检测到报告给Zookeeper，Zookeeper把对应的Znode删除掉，Standby ZKFC发现没有Active状态的NameNode时，就会用shell命令将自己监控的NameNode改为Active状态，并修改Znode上的数据。
Znode是个临时的节点，临时节点特征是客户端的连接断了后就会把znode删除，所以当ZKFC失效时，也会导致切换NameNode。DataNode会将心跳信息和Block汇报信息同时发给两台NameNode，DataNode只接受Active NameNode发来的文件读写操作指令。
四十一、搭建HDFS HA 环境
1、 服务器角色规划
bigdata-senior01.chybinmy.com bigdata-senior01.chybinmy.com bigdata-senior01.chybinmy.com NameNode NameNode Zookeeper Zookeeper Zookeeper DataNode DataNode DataNode ResourceManage ResourceManage NodeManager NodeManager NodeManager 2、 创建HDFS HA 版本Hadoop程序目录
在bigdata01、bigdata02、bigdata03三台机器上分别创建目录/opt/modules/hadoopha/用来存放Hadoop HA环境。
- 1
3、 新解压Hadoop 2.5.0
- 1
4、 配置Hadoop JDK路径
- 1
- 2
5、 配置hdfs-site.xml
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
6、 配置core-site.xml
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
hadoop.tmp.dir设置hadoop临时目录地址，默认时，NameNode和DataNode的数据存在这个路径下。7、 配置slaves文件
- 1
- 2
- 3
8、 分发到其他节点
分发之前先将share/doc目录删除，这个目录中是帮助文件，并且很大，可以删除。
- 1
- 2
9、 启动HDFS HA集群
三台机器分别启动Journalnode。
- 1
- 2
- 3
jps命令查看是否启动。
10、 启动Zookeeper
在三台节点上启动Zookeeper：
- 1
- 2
- 3
11、 格式化NameNode
在第一台上进行NameNode格式化：
- 1
在第二台NameNode上：
- 1
12、 启动NameNode
在第一台、第二台上启动NameNode：
- 1
- 2
查看HDFS Web页面，此时两个NameNode都是standby状态。
切换第一台为active状态：
- 1
可以添加上forcemanual参数，强制将一个NameNode转换为Active状态。
- 1
此时从web 页面就看到第一台已经是active状态了。
13、 配置故障自动转移
利用zookeeper集群实现故障自动转移，在配置故障自动转移之前，要先关闭集群，不能在HDFS运行期间进行配置。
关闭NameNode、DataNode、JournalNode、zookeeper
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
修改hdfs-site.xml
- 1
- 2
- 3
- 4
修改core-site.xml
- 1
- 2
- 3
- 4
将hdfs-site.xml和core-site.xml分发到其他机器
- 1
- 2
- 3
- 4
启动zookeeper
三台机器启动zookeeper
- 1
创建一个zNode
- 1
- 2
在Zookeeper上创建一个存储namenode相关的节点。
14、 启动HDFS、JournalNode、zkfc
启动NameNode、DataNode、JournalNode、zkfc
- 1
zkfc只针对NameNode监听。
四十二、测试HDFS HA
1、 测试故障自动转移和数据是否共享
在nn1上上传文件
目前bigdata-senior01节点上的NameNode是Active状态的。
- 1
将nn1上的NodeNode进程杀掉
- 1
nn1上的namenode已经无法访问了。
查看nn2是否是Active状态
在nn2上查看是否看见文件
经以上验证，已经实现了nn1和nn2之间的文件同步和故障自动转移。
第十二步、Hadoop 2.x YARN HA 部署
四十三、YARN HA原理
Hadoop2.4版本之前，ResourceManager也存在单点故障的问题，也需要实现HA来保证ResourceManger的高可也用性。
ResouceManager从记录着当前集群的资源分配情况和JOB的运行状态，YRAN HA 利用Zookeeper等共享存储介质来存储这些信息来达到高可用。另外利用Zookeeper来实现ResourceManager自动故障转移。
MasterHADaemon：控制RM的 Master的启动和停止，和RM运行在一个进程中，可以接收外部RPC命令。
共享存储：Active Master将信息写入共享存储，Standby Master读取共享存储信息以保持和Active Master同步。
ZKFailoverController：基于Zookeeper实现的切换控制器，由ActiveStandbyElector和HealthMonitor组成，ActiveStandbyElector负责与Zookeeper交互，判断所管理的Master是进入Active还是Standby；HealthMonitor负责监控Master的活动健康情况，是个监视器。
Zookeeper：核心功能是维护一把全局锁控制整个集群上只有一个Active的ResourceManager。
四十四、搭建YARN HA环境
1、 服务器角色规划
bigdata-senior01.chybinmy.com bigdata-senior01.chybinmy.com bigdata-senior01.chybinmy.com NameNode NameNode Zookeeper Zookeeper Zookeeper DataNode DataNode DataNode ResourceManage ResourceManage NodeManager NodeManager NodeManager 2、 修改配置文件yarn-site.xml
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
3、 分发到其他机器
- 1
- 2
4、 启动
在bigdata-senior01上启动yarn：
- 1
在bigdata-senior02、bigdata-senior03上启动resourcemanager：
- 1
- 2
启动后各个节点的进程。
Web客户端访问bigdata02机器上的resourcemanager正常，它是active状态的。
http://bigdata-senior02.chybinmy.com:8088/cluster
访问另外一个resourcemanager，因为他是standby,会自动跳转到active的resourcemanager。
http://bigdata-senior03.chybinmy.com:8088/cluster
四十五、测试YARN HA
5、 运行一个mapreduce job
- 1
6、 在job运行过程中，将Active状态的resourcemanager进程杀掉。
- 1
7、 观察另外一个resourcemanager是否可以自动接替。
bigdata02的resourcemanage Web客户端已经不能访问，bigdata03的resourcemanage已经自动变为active状态。
8、 观察job是否可以顺利完成。
而mapreduce job 也能顺利完成，没有因为resourcemanager的意外故障而影响运行。
经过以上测试，已经验证YARN HA 已经搭建成功。
第十三步、HDFS Federation 架构部署
四十六、HDFS Federation 的使用原因
1、 单个NameNode节点的局限性
命名空间的限制。
NameNode上存储着整个HDFS上的文件的元数据，NameNode是部署在一台机器上的，因为单个机器硬件的限制，必然会限制NameNode所能管理的文件个数，制约了数据量的增长。
数据隔离问题。
整个HDFS上的文件都由一个NameNode管理，所以一个程序很有可能会影响到整个HDFS上的程序，并且权限控制比较复杂。
性能瓶颈。
单个NameNode时HDFS文件系统的吞吐量受限于单个NameNode的吞吐量。因为NameNode是个JVM进程，JVM进程所占用的内存很大时，性能会下降很多。
2、 HDFS Federation介绍
HDFS Federation是可以在Hadoop集群中设置多个NameNode，不同于HA中多个NameNode是完全一样的，是多个备份，Federation中的多个NameNode是不同的，可以理解为将一个NameNode切分为了多个NameNode，每一个NameNode只负责管理一部分数据。
HDFS Federation中的多个NameNode共用DataNode。四十七、HDFS Federation的架构图
四十八、HDFS Federation搭建
1、 服务器角色规划
bigdata-senior01.chybinmy.com bigdata-senior01.chybinmy.com bigdata-senior01.chybinmy.com NameNode1 NameNode2 NameNode3 ResourceManage DataNode DataNode DataNode NodeManager NodeManager NodeManager 2、 创建HDFS Federation 版本Hadoop程序目录
在bigdata01上创建目录/opt/modules/hadoopfederation /用来存放Hadoop Federation环境。
- 1
3、 新解压Hadoop 2.5.0
- 1
4、 配置Hadoop JDK路径
修改hadoop-env.sh、mapred-env.sh、yarn-env.sh文件中的JDK路径。
export JAVA_HOME=”/opt/modules/jdk1.7.0_67”
5、 配置hdfs-site.xml
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
- 20
- 21
- 22
- 23
- 24
- 25
- 26
- 27
- 28
- 29
- 30
- 31
- 32
- 33
- 34
- 35
- 36
- 37
- 38
- 39
- 40
- 41
- 42
- 43
- 44
- 45
- 46
- 47
- 48
- 49
- 50
- 51
- 52
- 53
- 54
- 55
- 56
- 57
- 58
- 59
- 60
- 61
- 62
- 63
6、 配置core-site.xml
- 1
- 2
- 3
- 4
- 5
- 6
hadoop.tmp.dir设置hadoop临时目录地址，默认时，NameNode和DataNode的数据存在这个路径下。
7、 配置slaves文件
- 1
- 2
- 3
8、 配置yarn-site.xml
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
9、 分发到其他节点
分发之前先将share/doc目录删除，这个目录中是帮助文件，并且很大，可以删除。
- 1
- 2
10、 格式化NameNode
在第一台上进行NameNode格式化。
- 1
这里一定要指定一个集群ID，使得多个NameNode的集群ID是一样的，因为这三个NameNode在同一个集群中，这里集群ID为hadoop-federation-clusterId。
在第二台NameNode上。
- 1
在第二台NameNode上。
- 1
11、 启动NameNode
在第一台、第二台、第三台机器上启动NameNode：
- 1
- 2
- 3
启动后，用jps命令查看是否已经启动成功。
查看HDFS Web页面，此时三个NameNode都是standby状态。
12、 启动DataNode
- 1
- 2
- 3
启动后，用jps命令确认DataNode进程已经启动成功。
四十九、测试HDFS Federation
1、 修改core-site.xml
在bigdata-senior01机器上,修改core-site.xml文件，指定连接的NameNode是第一台NameNode。
[hadoop@bigdata-senior01 hadoop-2.5.0]$ vim etc/hadoop/core-site.xml
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
2、 在bigdate-senior01上传一个文件到HDFS
- 1
- 2
3、 查看HDFS文件
可以看到，刚才的文件只上传到了bigdate-senior01机器上的NameNode上了，并没有上传到其他的NameNode上去。
这样，在HDFS的客户端，可以指定要上传到哪个NameNode上，从而来达到了划分NameNode的目的。
后记
这篇文章的操作步骤并不是工作中标准的操作流程，如果在成百上千的机器全部这样安装会被累死，希望读者可以通过文章中一步步地安装，从而初步了解到Hadoop的组成部分，协助过程等，这对于Hadoop的深入使用有很大的帮助。
-
大数据_04 【Hadoop】
2020-10-12 16:56:50大数据_04 【Hadoop】01 Hadoop的介绍以及发展历史02 Hadoop的历史版本介绍04 Hadoop三大公司发型版本介绍05 Hadoop的模块组成06 Hadoop集群安装部署 01 Hadoop的介绍以及发展历史 1. Hadoop最早起源于lucene下的... -
hadoop安装部署
2020-10-06 20:00:13hadoop安装部署 这里写目录标题hadoop安装部署安装流程1、Hadoop安装部署1、1Hadoop安装部署 安装流程 1、 上传软件包到管理节点，在管理节点解压并配置 2、 将修改完的解压包，远程拷贝到所有的从节点 3、 启动软件... -
Hadoop大数据技术简介及 伪分布式集群 的搭建教程
2020-05-07 21:25:45在大学时学习Hadoop大数据技术的时候，安装配置Hadoop框架，发现找的一些资料介绍得不够详细，比如一些路径的变化没有说清楚，这对于初学者来说是不够友好的，所以在这里做个详细总结介绍一下Hadoop框架，以及Ubuntu... -
Hadoop_MapReduce_数据去重示例
2020-05-13 16:46:44Hadoop_MapReduce_数据去重 示例：删除输入文件中的重复数据，重复的数据只保留一个 输入文件1：D:\data\distinct\file1.txt zhangsan 500 450 jan lisi 200 150 jan jerry 200 150 feb amy 200 150 feb 输入文件2... -
hadoop笔记
2020-09-08 09:38:39【1】Hadoop框架核心：MapReduce、HDFS。 【2】Hadoop单机部署 【3】伪分布式部署 【4】eclipse-hadoop 插件问题汇总 【5】ubuntu16.04部署hadoop2.9集群 【6】配置hadoop集群HA 【1】Hadoop框架核心：MapReduce、... -
Hadoop01-入门&集群环境搭建
2020-08-19 19:23:08大数据概述 ...Hadoop是一个分布式系基础框架,它允许使用简单的编程模型跨大型计算机的大型数据集进行分布式处理. 它主要解决两个问题 大数据存储问题： HDFS 大数据计算问题：MapReduce 问题一: -
使用docker搭建hadoop分布式集群
2016-01-13 18:16:26使用docker搭建部署hadoop分布式集群 在网上找了很长时间都没有找到使用docker搭建hadoop分布式集群的文档，没办法，只能自己写一个了。 一：环境准备： 1：首先要有一个Centos7操作系统，可以在虚拟机中安装... -
大数据Hadoop系列之Hadoop Web控制台添加身份验证
2018-11-08 17:00:32本文档介绍如何配置Hadoop HTTP Web控制台以要求用户身份验证。 默认情况下，Hadoop HTTP Web控制台（ResourceManager，NameNode，NodeManagers和DataNodes）允许访问而无需任何形式的身份验证。 可以将Hadoop ... -
Hadoop组成
2020-10-08 08:13:54Hadoop HDFS：一个高可靠、高吞吐量的分布式文件系统，对海量数据的存储。 Hadoop MapReduce：一个分布式的资源调度和离线并行计算框架。 Hadoop Yarn：基于HDFS,用于作业调度和集群资源管理的框架。 ... -
hadoop详细安装及配置
2018-08-26 21:51:21一、下载 ... ...添加HADOOP_HOME配置：自己安装hadoop路径，我的是D:\hadoop-3.0.3 在Path中添加如下：自己安装hadoop路径/bin，如：D:/hadoop-3.0.3/bin 四、hadoop需要jdk支持，jdk... -
Hadoop之—— WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform...
2016-05-30 15:58:11转载请注明出处：http://blog.csdn.net/l1028386804/article/details/51538611 注：升级glib库解决问题请参加链接：... 配置完hadoop启动的时候出现如下警告信息： WARN util.NativeCodeLoad... -
Hadoop概述
2019-11-06 14:48:00Hadoop是一个由Apache基金会所开发的分布式系统基础架构,主要解决，海量数据的存储和海量数据的分析计算问题。,广义上来说，HADOOP通常是指一个更广泛的概念——Hadoop生态圈。 -
Hadoop大数据从入门到精通
2016-09-28 10:02:15Hadoop分布式文件系统（HDFS）和MapReduce的工作原理 如何优化Hadoop机群所需要的硬件配置 搭建Hadoop机群所需要考虑的网络因素 如何利用Hadoop配置选项进行系统性能调优 如何利用FairScheduler为多用户提供服务级别... -
Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0)
2017-05-11 23:13:17Linux上安装Hadoop集群(CentOS7+hadoop-2.8.0) 版本：CentOS7 Hadoop2.8.0 JDK1.8 -
【Hadoop】Hadoop Shell操作
2020-06-26 20:36:14hadoop fs -mkdir /test 2.在test文件夹下创建.txt文件 hadoop fs -touchz /test/file.txt 3.查看根目录下所有文件 hadoop fs -ls / 4.递归查看所有文件 hadoop fs -ls -R / 5.移动文件到其他目录并重命名 移动... -
Windows的eclipse下开发Hadoop
2015-08-01 15:51:42Windows的eclipse下开发Hadoop 1. 使用与服务器对应版本的Hadoop的jar包 2. 下载hadoop-common-2.2.0-bin-master文件 修改环境变量-> (1) 建立HADOOP_HOME:D:\hadoop-common-2.2.0-bin-master -
Hadoop的安装和使用
2020-05-11 23:10:58Hadoop的安装和使用 本文是基于CentOS 7.3系统环境，进行Hadoop的安装和使用 CentOS 7.3 hadoop-2.7.2 一、Hadoop简介 (1) 什么是Hadoop RabbitMQ是实现了高级消息队列协议（AMQP）的开源消息代理软件（亦称面向... -
用通俗易懂的话说下hadoop是什么,能做什么
2014-04-10 10:36:331、hadoop是什么？ (1)Hadoop是一个开源的框架，可编写和运行分布式应用处理大规模数据，是专为离线和大规模数据分析而设计的，并不适合那种对几个记录随机读写的在线事务处理模式。Hadoop=HDFS（文件系统，数据... -
hadoop-eclipse-plugin-2.6.0.jar程序文件
2014-12-20 17:39:40It takes me two days to find the root cause for the exceptions and finally generate this jar file for hadoop 2.6.0. 1.use hadoop 2.6.0. 2.change the hadoop_home and path to point to hadoop 2.6.0 3.... -
Hadoop：hadoop fs、hadoop dfs与hdfs dfs命令的区别
2016-05-07 23:58:26'Hadoop DFS'和'Hadoop FS'的区别 While exploring HDFS, I came across these two syntaxes for querying HDFS: > hadoop dfs > hadoop fs why -
Windows下配置Hadoop环境（全过程）
2018-08-23 10:28:21首先到官方下载官网的hadoop2.7.7,链接如下 https://mirrors.tuna.tsinghua.edu.cn/apache/hadoop/common/ 找网盘的hadooponwindows-master.zip 链接如下 https://pan.baidu.com/s/1VdG6PBnYKM91ia0hlhIeHg 把... -
Hadoop：Hadoop单机伪分布式的安装和配置
2016-06-10 19:47:58之前是在docker中配置的hadoop单机伪分布式[Hadoop：Hadoop单机伪分布式的安装和配置 ]，并且在docker只有root用户，所有没有权限问题存在。官方安装文档[Hadoop: Setting up a Single Node Cluster] ... -
hadoop错误Could not locate Hadoop executable: D:\sorftware\hadoop\hadoop-2.8.0\bin\winutils.exe
2018-07-04 16:53:57在hadoop/bin目录下缺少了winutils.exe和hadoop.dllException in thread "main" java.lang.RuntimeException: java.io.FileNotFoundException: Could not locate Hadoop executable: D:\sorftware\hadoop\... -
Hadoop安装部署
2020-10-07 08:16:14Hadoop安装部署 1、 软件包上传并解压 a) tar -zxvf hadoop-2.6.0-cdh5.14.0-with-centos6.9.tar.gz -C …/servers/ 2、 第二步查看hadoop支持的压缩方式以及本地库 a) ./hadoop checknative b) 安装openssl yum -y...
-
（新）备战2021软考信息安全工程师通关套餐
-
图像测量技术_图像二值化和细化.rar
-
跟我练内测小分队学习礼包
-
博士笔记 | 周志华《机器学习》手推笔记第二章-模型评估与选择
-
（新）备战2021软考系统集成顺利通关套餐
-
uni-app实战专题
-
彻底学会正则表达式
-
Redis数据库入门与使用
-
HDUOJ 2001题计算球体积
-
int *p[4]与int(*p)[4]具体差别以及例题用法
-
NangateOpenCellLibrary_fast_conditional_ccs.rar
-
hadoop自动化运维工具Ambari应用实践
-
从零开始学习PPO算法编程（pytorch版本）
-
SC200手册.pdf
-
最小二乘法曲线拟合(源码)
-
如何使用stm32CubeMX建立stm32工程
-
解决ping unknown host
-
UE4 Wiki Archive
-
开源的人脸识别toolbox和SDK
-
事务和视图