Hadoop2.6集群环境搭建(伪分布式)


以前安装过Hadoop几个版本的单机版,主要是为了研究Hadoop源代码,现在想更加深入Hadoop整个生态系统,选择安装Hadoop完全分布式,由于目前Hadoop最新版本为2.6,于是选择这个版本安装使用

准备工作:

1、笔记本4G内存 ,操作系统WIN7(纯屌丝配置)

2、工具:VMware Workstation

3、虚拟机:CentOS6.5(64位)共3台,一个master,两个slave,

安装好一个主机master的CentOS系统,

1、系统环境设置(先配置master节点)

1.1 修改主机名

# vim /etc/sysconfig/network

NETWORKING=yes
HOSTNAME=master
NTPSERVERARGS=iburst

1.2 修改主机名和IP的映射关系(hosts)

# vim /etc/hosts

添加:192.168.111.131 master

1.3 关闭防火墙

# service iptables status   //查看防火墙的状态

# service iptables stop  //关闭防火墙

# chkconfig iptables --list  //查看防火墙开机启动状态

# chkconfig iptables off  //关闭防火墙开机启动

1.4 重启系统

#reboot

2.安装jdk

1、下载jdk,地址:http://www.Oracle.com/technetwork/java/javase/downloads/jdk7-downloads-1880260.html

2、上传到虚拟机

3、解压jdk

#mkdir opt

#tar -zxvf jdk-7u79-linux-x64.tar.gz

4、将java添加到环境变量中

#vim /etc/profile

//在文件的最后添加

export JAVA_HOME=/home/master/opt/jdk1.7.0_79
export PATH=$PATH:$JAVA_HOME/bin

# source /etc/profile

# java -version

3. 配置ssh免登录

$ ssh-keygen -t rsa  (四个回车)

$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

$ ~/.ssh/authorized_keys   //查看rsa

4. 安装hadoop2.6.0

首先将hadoop解压缩到opt文件夹

4.1 配置hadoop

4.1.1 配置hadoop-env.sh

将 JAVA_HOME 修改为刚才配置的位置
export JAVA_HOME=/home/master/opt/jdk1.7.0_79

4.1.2 配置core-site.xml

添加下面的内容:

相关内容