溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

hadoop動態增加和刪除節點方法介紹

發布時間:2020-08-27 20:28:14 來源:腳本之家 閱讀:403 作者:liuyazhuang 欄目:服務器

上一篇文章中我們介紹了Hadoop編程基于MR程序實現倒排索引示例的有關內容,這里我們看看如何在Hadoop中動態地增加和刪除節點(DataNode)。

假設集群操作系統均為:CentOS 6.7 x64

Hadoop版本為:2.6.3

一、動態增加DataNode

1、準備新的DataNode節點機器,配置SSH互信,可以直接復制已有DataNode中.ssh目錄中的authorized_keys和id_rsa

2、復制Hadoop運行目錄、hdfs目錄及tmp目錄至新的DataNode

3、在新DataNode上啟動hadoop

..sbin/hadoop-daemon.sh start datanode 
..sbin/yarn-daemon.sh start datanode 

4、在NameNode上刷新節點

..bin/hdfs dfsadmin -refreshNodes 
..sbin/start-balancer.sh 

5、為方便下次啟動,可以將新DataNode的域名和ip加入/etc/hosts中

二、動態刪除DataNode

1、配置NameNode的hdfs-site.xml,適當減小dfs.replication副本數,增加dfs.hosts.exclude配置

<property> 
  <name>dfs.hosts.exclude</name> 
  <value>/usr/local/hadoop2/etc/hadoop/excludes</value> 
 </property> 

2、在對應路徑(/etc/hadoop/)下新建excludes文件,并寫入待刪除DataNode的ip或域名
3、在NameNode上刷新所有DataNode

..bin/hdfs dfsadmin -refreshNodes 
..sbin/start-balancer.sh 

4、此時,可以在web檢測界面(ip:50070)上可以觀測到DataNode逐漸變為Dead。

總結

以上就是本文關于hadoop動態增加和刪除節點方法介紹的全部內容,希望對大家有所幫助。感興趣的朋友可以繼續參閱本站:淺談七種常見的Hadoop和Spark項目案例、hadoop重新格式化HDFS步驟解析等,有什么問題可以直接留言,小編會及時回復大家的。感謝朋友們對本站的支持!

向AI問一下細節

免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。

AI

亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女