HDFS故障排查Ubuntu上怎么辦

在Ubuntu上排查HDFS故障可參考以下步驟：

1. 查看集群狀態

   • 使用 hdfs dfsadmin -report 查看DataNode數量、健康狀態及存儲容量。
   • 通過NameNode Web界面（默認端口50070）檢查集群狀態。

2. 分析日志文件

   • NameNode日志：/var/log/hadoop-hdfs/hadoop-*-namenode-*.log。
   • DataNode日志：/var/log/hadoop-hdfs/hadoop-*-datanode-*.log。
   • 使用 tail -f 或 grep 過濾關鍵錯誤（如WARN/ERROR級別）。

3. 檢查配置文件

   • 確保 core-site.xml、hdfs-site.xml 中參數正確（如 fs.defaultFS、dfs.replication）。
   • 驗證配置文件在所有節點上一致。

4. 排查網絡與硬件

   • 用 ping 和 netstat 檢查節點間網絡連通性，確保端口（如50070、8020）開放。
   • 通過 df -h 確認DataNode磁盤空間充足，無壞道。

5. 處理數據一致性問題

   • 使用 hdfs fsck / -files -blocks -locations 檢查損壞塊，刪除或修復。
   • 若存在副本不足，通過 hdfs dfsadmin -setReplication 調整副本數。

6. 應對特殊異常

   • 安全模式：若集群處于安全模式，用 hdfs dfsadmin -safemode leave 退出（需先修復問題）。
   • 內存不足：調整NameNode堆內存（修改 hadoop-env.sh 中 HADOOP_NAMENODE_OPTS）。

7. 重啟服務

   • 若以上步驟無效，可嘗試重啟HDFS服務：

     sudo service hadoop-hdfs-namenode restart  
     sudo service hadoop-hdfs-datanode restart  
     

     （需先備份數據）。

8. 尋求社區支持

   • 若問題仍未解決，可在Hadoop社區論壇或Stack Overflow提交日志和配置信息。

注意：操作前建議備份重要數據，謹慎執行刪除或格式化操作。