当前位置: 首页 / 技术干货 / 正文
Hadoop分布式集群的详细介绍

2020-10-16

大数据培训 Hadoop

  好程序员大数据培训分享Hadoop分布式集群的详细介绍,首先Hadoop的搭建有三种方式,单机版适合开发调试;伪分布式版,适合模拟集群学习;完全分布式,生产使用的模式。这篇文件介绍如何搭建完全分布式的hadoop集群,一个主节点,三个数据节点为例来讲解。

Hadoop

  基础环境

  环境准备

  1、软件版本

  四台服务器配置,系统:centos6.5、内存:1G(视自己配置而定)、硬盘:20G(视自己配置而定)

  四台服务器分配的IP地址:

  192.168.10.131

  192.168.10.132

  192.168.10.133

  192.168.10.134

  规划:131用作主节点用作master,其它三台为数据节点132133134用作salve1~3

  jdk和生成保持一致使用1.8版本

  hadoop使用2.7.3版本

  2host配置和主机名(四台)

  修改四台服务器的hosts文件

  vim /etc/hosts

  192.168.10.131 master

  192.168.10.132 slave1

  192.168.10.133 slave2

  192.168.10.134 slave3

  分别斯塔服务器的主机名:HOSTNAMEmaster为例说明

  vi /etc/sysconfig/network

  HOSTNAME=master

  执行reboot后生效,完成之后依次修改其它salve服务器为:slave1~3

  3、服务器安装jdk(四台)

  建议使用yum安装jdk,也可以自行下载安装

  yum -y install java-1.8.0-openjdk*

  配置环境变量,修改配置文件vim/etc/profile

  export JAVA_HOME=/usr/lib/jvm/jre-1.8.0-openjdk.x86_64

  export PATH=$JAVA_HOME/bin:$PATH

  export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

  使用souce命令让立刻生效

  source /etc/profile

  免密登陆

  一、首先关闭四台服务器的防火墙和SELINUX

  查看防火墙状态

  service iptables status

  关闭防火墙

  service iptables stop

  chkconfig iptables off

  关闭SELINUX后,需要重启服务器

  —关闭SELINUX

  # vim /etc/selinux/config

  —注释掉

  #SELINUX=enforcing

  #SELINUXTYPE=targeted

  —添加

  SELINUX=disabled

  二、免密码登录本机

  下面以配置master本机无密码登录为例进行讲解,用户需参照下面步骤完成salve1~3三台子节点机器的本机无密码登录;

  1)生产秘钥

  ssh-keygen -t rsa

  2)将公钥追加到”authorized_keys”文件

  cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

  3)赋予权限

  chmod 600 .ssh/authorized_keys

  4)验证本机能无密码访问

  ssh master

  最后,依次配置salve1~3无密码访问

  二、master本机无密码登录slave1slave2slave3,以master无密码登录slave1为例进行讲解:

  1)登录slave1,复制master服务器的公钥”id_rsa.pub”到slave1服务器的”root”目录下。

  scp root@master:/root/.ssh/id_rsa.pub /root/

  2)master的公钥(id_rsa.pub)追加到slave1authorized_keys

  cat id_rsa.pub >> .ssh/authorized_keys

  rm -rf id_rsa.pub

  3)master上面测试

  ssh slave1

  三、配置slave1~slave3本机无密码登录master

  下面以slave1无密码登录master为例进行讲解,用户需参照下面步骤完成slave2~slave3无密码登录master

  1)登录master,复制slave1服务器的公钥”id_rsa.pub”到master服务器的”/root/”目录下。

  scp root@slave1:/root/.ssh/id_rsa.pub /root/

  2)slave1的公钥(id_rsa.pub)追加到masterauthorized_keys中。

  cat id_rsa.pub >> .ssh/authorized_keys

  rm -rf id_rsa.pub //删除id_rsa.pub

  3)slave1上面测试

  ssh master

  依次配置slave2slave3

  到此主从的无密登录已经完成了。

  Hadoop环境搭建

  配置masterhadoop环境

  1master上解压缩安装包及创建基本目录

  #下载

  wget http://apache.claz.org/hadoop/common/hadoop-2.7.3/hadoop-2.7.

  #解压

  tar -xzvf hadoop-2.7.3.tar.gz -C /usr/local

  #重命名

  mv hadoop-2.7.3 hadoop

  2、配置masterhadoop环境变量

  1)配置环境变量,修改配置文件vi/etc/profile

  export HADOOP_HOME=/usr/local/hadoop

  export PATH=$PATH:$HADOOP_HOME/bin

  使得hadoop命令在当前终端立即生效

  source /etc/profile

  下面配置,文件都在:/usr/local/hadoop/etc/hadoop路径下

  2、配置core-site.xml

  修改Hadoop核心配置文件/usr/local/hadoop/etc/hadoop/core-site.xml,通过fs.default.name指定NameNodeIP地址和端口号,通过hadoop.tmp.dir指定hadoop数据存储的临时文件夹。

  <configuration>

  <property>

  <name>hadoop.tmp.dir</name>

  <value>file:/usr/local/hadoop/tmp</value>

  <description>Abase for other temporary directories.</description>

  </property>

  <property>

  <name>fs.defaultFS</name>

  <value>hdfs://master:9000</value>

  </property>

  </configuration>

  特别注意:如没有配置hadoop.tmp.dir参数,此时系统默认的临时目录为:/tmp/hadoo-hadoop。而这个目录在每次重启后都会被删除,必须重新执行format才行,否则会出错。

  3、配置hdfs-site.xml

  修改HDFS核心配置文件/usr/local/hadoop/etc/hadoop/hdfs-site.xml,通过dfs.replication指定HDFS的备份因子为3,通过dfs.name.dir指定namenode节点的文件存储目录,通过dfs.data.dir指定datanode节点的文件存储目录。

  <configuration>

  <property>

  <name>dfs.replication</name>

  <value>3</value>

  </property>

  <property>

  <name>dfs.name.dir</name>

  <value>/usr/local/hadoop/hdfs/name</value>

  </property>

  <property>

  <name>dfs.data.dir</name>

  <value>/usr/local/hadoop/hdfs/data</value>

  </property>

  </configuration>

  4、配置mapred-site.xml

  拷贝mapred-site.xml.templatemapred-site.xml,在进行修改

  cp /usr/local/hadoop/etc/hadoop/mapred-site.xml.template /usr/local/hadoop/etc/hadoop/mapred-site.xml

  vim /usr/local/hadoop/etc/hadoop/mapred-site.xml

  <configuration>

  <property>

  <name>mapreduce.framework.name</name>

  <value>yarn</value>

  </property>

  <property>

  <name>mapred.job.tracker</name>

  <value>http://master:9000</value>

  </property>

  </configuration>

  5、配置yarn-site.xml

  <configuration>

  <!Site specific YARN configuration properties >

  <property>

  <name>yarn.nodemanager.aux-services</name>

  <value>mapreduce_shuffle</value>

  </property>

  <property>

  <name>yarn.resourcemanager.hostname</name>

  <value>master</value>

  </property>

  </configuration>

  6、配置masters文件

  修改/usr/local/hadoop/etc/hadoop/masters文件,该文件指定namenode节点所在的服务器机器。删除localhost,添加namenode节点的主机名master;不建议使用IP地址,因为IP地址可能会变化,但是主机名一般不会变化。

  vi /usr/local/hadoop/etc/hadoop/masters

  ##内容

  master

  7、配置slaves文件(Master主机特有)

  修改/usr/local/hadoop/etc/hadoop/slaves文件,该文件指定哪些服务器节点是datanode节点。删除locahost,添加所有datanode节点的主机名,如下所示。

  vi /usr/local/hadoop/etc/hadoop/slaves

  ## 内容

  slave1

  slave2

  slave3

  配置hadoop-slavehadoop环境

  下面以配置slave1hadoop为例进行演示,用户需参照以下步骤完成其他slave2~3服务器的配置。

  1)复制hadoopslave1节点

  scp -r /usr/local/hadoop slave1:/usr/local/

  登录slave1服务器,删除slaves内容

  rm -rf /usr/local/hadoop/etc/hadoop/slaves

  2)配置环境变量

  vi /etc/profile

  ## 内容

  export HADOOP_HOME=/usr/local/hadoop

  export PATH=$PATH:$HADOOP_HOME/bin

  使得hadoop命令在当前终端立即生效;

  source /etc/profile

  依次配置其它slave服务

  启动集群

  1、格式化HDFS文件系统

  进入master~/hadoop目录,执行以下操作

  bin/hadoop namenode -format

  格式化namenode,diyi次启动服务前执行的操作,以后不需要执行。

  2、然后启动hadoop

  sbin/start-all.sh

  3、使用jps命令查看运行情况

  #master 执行 jps查看运行情况

  25928 SecondaryNameNode

  25742 NameNode

  26387 Jps

  26078 ResourceManager

  #slave 执行 jps查看运行情况

  24002 NodeManager

  23899 DataNode

  24179 Jps

  4、命令查看Hadoop集群的状态

  通过简单的jps命令虽然可以查看HDFS文件管理系统、MapReduce服务是否启动成功,但是无法查看到Hadoop整个集群的运行状态。我们可以通过hadoopdfsadmin-report进行查看。用该命令可以快速定位出哪些节点挂掉了,HDFS的容量以及使用了多少,以及每个节点的硬盘使用情况。

  hadoop dfsadmin -report

  输出结果:

  Configured Capacity: 50108030976 (46.67 GB)

  Present Capacity: 41877471232 (39.00 GB)

  DFS Remaining: 41877385216 (39.00 GB)

  DFS Used: 86016 (84 KB)

  DFS Used%: 0.00%

  Under replicated blocks: 0

  Blocks with corrupt replicas: 0

  Missing blocks: 0

  Missing blocks (with replication factor 1): 0

  ……

  5hadoop重启

  sbin/stop-all.sh

  sbin/start-all.sh

  错误

  在搭建完成启动的时候,发生过两个错误:

  1xxx:Error:JAVA_HOMEisnotsetandcouldnotbefound

  这个错误意思没有找到jdk的环境变量,需要在hadoop-env.sh配置。

  vi /usr/local/hadoop/etc/hadoop/hadoop-env.sh

  ## 配置项

  export JAVA_HOME=/usr/lib/jvm/jre-1.7.0-openjdk.x86_64

  2Theauthenticityofhost0.0.0.0(0.0.0.0)cantbeestablished.

  解决方案关闭SELINUX

  — 关闭SELINUX

  # vim /etc/selinux/config

  — 注释掉

  #SELINUX=enforcing

  #SELINUXTYPE=targeted

  — 添加

  SELINUX=disabled

  以上就是关于好程序员大数据培训带你探索Hadoop分布式集群的详细介绍,希望对同学们有所帮助

分享: 更多

上一篇:大数据与Hadoop有什么关系

下一篇:

好程序员公众号

  • · 剖析行业发展趋势
  • · 分享大厂面试心得
  • · 汇聚企业项目源码
  • · 下载全套高精尖教程

好程序员开班动态

More+
  • HTML5大前端 <高端班>

    开班时间:2020-11-16(北京)

    预约报名

    开班时间:2020-12-07(深圳)

    预约报名
  • 大数据+人工智能 <高端班>

    开班时间:2020-11-16(深圳)

    预约报名

    开班时间:2020-11-09(北京)

    预约报名
  • JavaEE分布式开发 <高端班>

    开班时间:2020-12-07(北京)

    预约报名

    开班时间:2020-07-20(北京)

    开班盛况
  • Python人工智能+数据分析 <高端班>

    开班时间:2020-07-20(上海)

    开班盛况

    开班时间:2020-09-21(上海)

    开班盛况
  • 云计算开发 <高端班>

    开班时间:2019-07-22(北京)

    开班盛况

    开班时间:2019-07-15(深圳)

    开班盛况
在线咨询
免费试听
入学教程
立即报名

Copyright 2011-2020 北京千锋互联科技有限公司 .All Right 京ICP备12003911号-5 京公安网11010802011455号