亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定

偽分布式(hdfs)運行Hadoop案例(二)

標簽:
大數據 Hadoop

一 介绍

HDFS中如下组件:

1) NameNode : 存储文件的元数据,如文件名,文件目录结构,文件属性等。

2) DataNode: 在文件系统中存储文件块的数据等。

3)Secondary NameNode: 用来监控HDFS状态的辅助后台程序,每隔一段时间获取HDFS元数据的快照。


二 使用HDFS并运行MapReduce程序

1 首先将 etc/hadoop/hadoop-env.sh  中的

export JAVA_HOME=/opt/module/jdk1.8.0_144

JAVA_HOME改成本地jdk的路径

 


2 配置 core-site.xml

https://img1.sycdn.imooc.com//5bd47c690001109512020323.jpg

3 配置hdfs-site.xml

https://img1.sycdn.imooc.com//5bd47cc10001cc7112350321.jpg

4 启动集群

(a) 格式化 namenode(第一次启动时格式化,以后就不要总格式化)
 https://img1.sycdn.imooc.com//5bd47e0a0001475510510046.jpg

(b) 启动 namenode,jps查看是否启动成功

https://img1.sycdn.imooc.com//5bd4856e00013f1515070134.jpg 
(c) 启动 datanode
 https://img1.sycdn.imooc.com//5bd485980001a06a15020189.jpg

5 web查看

https://img1.sycdn.imooc.com//5bd485d80001352519180795.jpg

出现如图则表示已经成功搭建好文件系统


6 操作集群进行工作

https://img1.sycdn.imooc.com//5bd486640001afa611050070.jpg

在文件系统上创建目录,在web端查看

https://img1.sycdn.imooc.com//5bd486880001203f19200570.jpg

将文件上传到文件系统进行测试

https://img1.sycdn.imooc.com//5bd487140001e01913500073.jpg

https://img1.sycdn.imooc.com//5bd4872d0001d0fc18620222.jpg

运行mapreduce程序

https://img1.sycdn.imooc.com//5bd487d40001e85219190241.jpg

https://img1.sycdn.imooc.com//5bd487fc0001b38d18950453.jpg

可直接点击下载文件,查看结果,也可通过命令获取到本机

https://img1.sycdn.imooc.com//5bd4887900017ec213700353.jpg

https://img1.sycdn.imooc.com//5bd488d30001f83614400085.jpg

https://img1.sycdn.imooc.com//5bd488e000012c8912690366.jpg

删除结果

https://img1.sycdn.imooc.com//5bd489230001f5d316960156.jpg


點擊查看更多內容
TA 點贊

若覺得本文不錯,就分享一下吧!

評論

作者其他優質文章

正在加載中
JAVA開發工程師
手記
粉絲
7794
獲贊與收藏
665

關注作者,訂閱最新文章

閱讀免費教程

  • 推薦
  • 評論
  • 收藏
  • 共同學習,寫下你的評論
感謝您的支持,我會繼續努力的~
掃碼打賞,你說多少就多少
贊賞金額會直接到老師賬戶
支付方式
打開微信掃一掃,即可進行掃碼打賞哦
今天注冊有機會得

100積分直接送

付費專欄免費學

大額優惠券免費領

立即參與 放棄機會
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號

舉報

0/150
提交
取消