hadoop 集群完全分布式模式

1 、实验环境

64位centos6.5 ，安装参考链接。

jdk-8u101-linux-x64.tar，安装参考链接。

hadoop-1.2.1.tar.gz

集群架构：包括4个节点：1个Master，3个Salve

节点IP地址分布如下：

主机名 IP系统版本Hadoopnodehadoop进程名

master192.168.8.200CentOS 6.5masternamenode,jobtracker

slave1192.168.8.201CentOS 6.5slavedatanode,tasktracker

slave2192.168.8.202CentOS 6.5slavedatanode,tasktracker

slave3192.168.8.203CentOS 6.5slavedatanode,tasktracker

四个节点上均是CentOS 6.5系统，并且有一个相同的用户hadoop。master机器主要配置NameNode和JobTracker的角色，负责总管分布式数据和分解任务的执行；3个salve机器配置DataNode和TaskTracker的角色，负责分布式数据存储以及任务的执行。

2 、配置网络

1.修改主机名

master:

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=master

slave1

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=slave1

slave2

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=slave2

slave3

vi /etc/sysconfig/network

NETWORKING=yes

HOSTNAME=slave3

2.修改ip地址（这里只示范master）

vi /etc/sysconfig/network-scripts/ifcfg-eth0

BOOTPROTO=dhcp

ONBOOT=yes#开机启用本配置

service network restart

3.修改ip地址和主机名的映射关系（这里只示范master）

vi /etc/hosts

127.0.0.1   localhost localhost.localdomain localhost4 localhost4.localdomain4

::1         localhost localhost.localdomain localhost6 localhost6.localdomain6

192.168.8.200 master

192.168.8.201 slave1

192.168.8.202 slave2

192.168.8.203 slave3

3、centos6.5关闭防火墙和SELinux(这里只示范master)

关闭命令：  service iptables stop

永久关闭防火墙：chkconfig iptables off

两个命令同时运行，运行完成后查看防火墙关闭状态

service iptables status

使用getenforce命令查看是否关闭

修改vi /etc/selinux/config 文件

将SELINUX=enforcing改为SELINUX=disabled，执行该命令后重启机器生效

查看：

4 创建用户（用来操作hadoop）(这里只示范master)

创建新用户

[root@localhost ~]# adduser pang

为这个用户初始化密码，linux会判断密码复杂度，不过可以强行忽略：

[root@localhost ~]# passwd pang

更改用户 pang的密码

新的 密码：

无效的密码： 密码未通过字典检查 - 过于简单化/系统化

重新输入新的 密码：

passwd：所有的身份验证令牌已经成功更新。

    2.授权 

[root@localhost ~]# ls -l /etc/sudoers

-r--r-----1root root42519月2515:08 /etc/sudoers

sudoers只有只读的权限，如果想要修改的话，需要先添加w权限：

[root@localhost ~]# chmod -v u+w /etc/sudoers

modeof"/etc/sudoers"changedfrom0440(r--r-----)to0640(rw-r----

作者：清风_d587
链接：https://www.jianshu.com/p/e724a9e9219a