CentOS HDFS高可用配置方法探討

在CentOS上配置HDFS高可用（HA）需通過多個組件協同工作，核心步驟如下：

一、基礎環境準備

1. 節點規劃：至少準備3臺CentOS服務器（1個Active NameNode、1個Standby NameNode、1個ZooKeeper集群，建議奇數個節點避免腦裂）。
2. 軟件安裝：在所有節點安裝JDK和Hadoop，配置環境變量。

二、ZooKeeper集群配置

1. 下載與解壓：從Apache官網下載ZooKeeper并解壓到指定目錄（如/opt/zookeeper）。
2. 配置參數：編輯zoo.cfg，設置數據目錄（dataDir）、客戶端端口（clientPort）及集群節點信息（server.X格式，X為節點ID）。
3. 創建myid文件：在每個節點的dataDir目錄下創建myid文件，內容為對應節點ID（如節點1寫1）。
4. 啟動服務：在每個節點執行zkServer.sh start啟動ZooKeeper。

三、HDFS高可用核心配置

1. 修改core-site.xml

   • 配置默認文件系統路徑：fs.defaultFS=hdfs://mycluster（mycluster為集群名稱）。
   • 指定ZooKeeper集群地址：ha.zookeeper.quorum=node1:2181,node2:2181,node3:2181。

2. 修改hdfs-site.xml

   • 定義集群名稱及NameNode角色：dfs.nameservices=mycluster，dfs.ha.namenodes.mycluster=nn1,nn2。
   • 配置NameNode RPC和HTTP地址：dfs.namenode.rpc-address.mycluster.nn1=node1:8020，dfs.namenode.http-address.mycluster.nn1=node1:50070（類似配置nn2）。
   • 指定JournalNode存儲路徑：dfs.namenode.shared.edits.dir=qjournal://node1:8485;node2:8485;node3:8485/mycluster（需奇數個JournalNode）。
   • 啟用自動故障轉移：dfs.ha.automatic-failover.enabled=true。
   • 配置故障切換策略（如SSH免密）：dfs.ha.fencing.methods=sshfence，并指定私鑰路徑。

3. 格式化NameNode：在Active NameNode上執行hdfs namenode -format，初始化元數據。

四、啟動與驗證

1. 啟動服務：按順序啟動ZooKeeper、NameNode（先Active后Standby）、DataNode和JournalNode。
2. 驗證狀態：
   • 通過hdfs dfsadmin -report查看集群狀態，確認NameNode角色。
   • 訪問Web界面（如http://node1:50070）檢查高可用配置是否生效。
   • 模擬Active NameNode故障（如停止服務），觀察Standby是否自動接管。

五、關鍵注意事項

• JournalNode數量：必須部署奇數個（如3個），確保元數據一致性。
• 免密登錄：配置NameNode節點間SSH免密，避免故障切換時權限問題。
• 監控與日志：部署監控工具（如Prometheus）實時跟蹤集群狀態，定期檢查NameNode和DataNode日志。

參考來源：