亚洲在线久爱草,狠狠天天香蕉网,天天搞日日干久草,伊人亚洲日本欧美

為了賬號安全,請及時綁定郵箱和手機立即綁定

偽分布式(yarn)運行Hadoop案例(二)

標簽:
大數據 Hadoop

YARN 上运行 MapReduce 程序

1  首先配置yarn-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_144

2 配置 yarn-site.xml

<!-- reducer 获取数据的方式 -->
<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
</property>
<!-- 指定 YARN 的 ResourceManager 的地址 -->
<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>hadoop101</value>
</property>

3 配置 mapred-env.sh

export JAVA_HOME=/opt/module/jdk1.8.0_144

4  对 mapred-site.xml.template 重新命名为   mapred-site.xml 并配置如下:

<!-- 指定 mr 运行在 yarn 上 -->
<property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
</property>

5 启动集群

https://img1.sycdn.imooc.com//5bd49ad20001ca7713450144.jpg

https://img1.sycdn.imooc.com//5bd49af00001108b11410071.jpg

https://img1.sycdn.imooc.com//5bd49b050001acc217790095.jpg

https://img1.sycdn.imooc.com//5bd49b0b0001749019200102.jpg

https://img1.sycdn.imooc.com//5bd49b20000151c209490220.jpg

6 浏览器打开 http://192.168.43.101:8088/cluster/apps 

https://img1.sycdn.imooc.com//5bd49b550001403d18880595.jpg

7 运行mapreduce程序

https://img1.sycdn.imooc.com//5bd49b7f0001fe6a18960066.jpg

8  查看运行结果

https://img1.sycdn.imooc.com//5bd49ba50001576b16670355.jpg

注意: 该案例需要配合Namenode Datanode一起使用,Yarn只负责资源调度等。

點擊查看更多內容
TA 點贊

若覺得本文不錯,就分享一下吧!

評論

作者其他優質文章

正在加載中
JAVA開發工程師
手記
粉絲
7794
獲贊與收藏
665

關注作者,訂閱最新文章

閱讀免費教程

  • 推薦
  • 評論
  • 收藏
  • 共同學習,寫下你的評論
感謝您的支持,我會繼續努力的~
掃碼打賞,你說多少就多少
贊賞金額會直接到老師賬戶
支付方式
打開微信掃一掃,即可進行掃碼打賞哦
今天注冊有機會得

100積分直接送

付費專欄免費學

大額優惠券免費領

立即參與 放棄機會
微信客服

購課補貼
聯系客服咨詢優惠詳情

幫助反饋 APP下載

慕課網APP
您的移動學習伙伴

公眾號

掃描二維碼
關注慕課網微信公眾號

舉報

0/150
提交
取消