为了账号安全,请及时绑定邮箱和手机立即绑定

伪分布式(hdfs)运行Hadoop案例(二)

标签:
大数据 Hadoop

一 介绍

HDFS中如下组件:

1) NameNode : 存储文件的元数据,如文件名,文件目录结构,文件属性等。

2) DataNode: 在文件系统中存储文件块的数据等。

3)Secondary NameNode: 用来监控HDFS状态的辅助后台程序,每隔一段时间获取HDFS元数据的快照。


二 使用HDFS并运行MapReduce程序

1 首先将 etc/hadoop/hadoop-env.sh  中的

export JAVA_HOME=/opt/module/jdk1.8.0_144

JAVA_HOME改成本地jdk的路径

 


2 配置 core-site.xml

https://img1.sycdn.imooc.com//5bd47c690001109512020323.jpg

3 配置hdfs-site.xml

https://img1.sycdn.imooc.com//5bd47cc10001cc7112350321.jpg

4 启动集群

(a) 格式化 namenode(第一次启动时格式化,以后就不要总格式化)
 https://img1.sycdn.imooc.com//5bd47e0a0001475510510046.jpg

(b) 启动 namenode,jps查看是否启动成功

https://img1.sycdn.imooc.com//5bd4856e00013f1515070134.jpg 
(c) 启动 datanode
 https://img1.sycdn.imooc.com//5bd485980001a06a15020189.jpg

5 web查看

https://img1.sycdn.imooc.com//5bd485d80001352519180795.jpg

出现如图则表示已经成功搭建好文件系统


6 操作集群进行工作

https://img1.sycdn.imooc.com//5bd486640001afa611050070.jpg

在文件系统上创建目录,在web端查看

https://img1.sycdn.imooc.com//5bd486880001203f19200570.jpg

将文件上传到文件系统进行测试

https://img1.sycdn.imooc.com//5bd487140001e01913500073.jpg

https://img1.sycdn.imooc.com//5bd4872d0001d0fc18620222.jpg

运行mapreduce程序

https://img1.sycdn.imooc.com//5bd487d40001e85219190241.jpg

https://img1.sycdn.imooc.com//5bd487fc0001b38d18950453.jpg

可直接点击下载文件,查看结果,也可通过命令获取到本机

https://img1.sycdn.imooc.com//5bd4887900017ec213700353.jpg

https://img1.sycdn.imooc.com//5bd488d30001f83614400085.jpg

https://img1.sycdn.imooc.com//5bd488e000012c8912690366.jpg

删除结果

https://img1.sycdn.imooc.com//5bd489230001f5d316960156.jpg


点击查看更多内容
TA 点赞

若觉得本文不错,就分享一下吧!

评论

作者其他优质文章

正在加载中
JAVA开发工程师
手记
粉丝
7796
获赞与收藏
665

关注作者,订阅最新文章

阅读免费教程

  • 推荐
  • 评论
  • 收藏
  • 共同学习,写下你的评论
感谢您的支持,我会继续努力的~
扫码打赏,你说多少就多少
赞赏金额会直接到老师账户
支付方式
打开微信扫一扫,即可进行扫码打赏哦
今天注册有机会得

100积分直接送

付费专栏免费学

大额优惠券免费领

立即参与 放弃机会
意见反馈 帮助中心 APP下载
官方微信

举报

0/150
提交
取消