CentOS Hadoop安裝步驟是什么

在CentOS上安裝Hadoop的步驟如下：

1. 準備工作：

   • 確保操作系統為CentOS 7/8或更高版本。
   • 安裝JDK 8，配置環境變量。
   • 配置SSH，確保節點之間可以通過SSH無密碼登錄。

2. 下載并解壓Hadoop：

   • 從Apache Hadoop官方網站下載最新版本的Hadoop（例如Hadoop 3.3.1）。
   • 使用wget命令下載并解壓：

     wget https://downloads.apache.org/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
     tar -xzvf hadoop-3.3.1.tar.gz
     sudo mv hadoop-3.3.1 /usr/local/hadoop
     

3. 配置環境變量：

   • 編輯/etc/profile文件，添加以下內容：

     export HADOOP_HOME=/usr/local/hadoop
     export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
     export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
     

   • 使配置生效：

     source /etc/profile
     

4. 配置Hadoop主要配置文件：

   • 編輯/usr/local/hadoop/etc/hadoop/core-site.xml，配置HDFS的默認URI：

     <configuration>
       <property>
         <name>fs.defaultFS</name>
         <value>hdfs://localhost:9000</value>
       </property>
     </configuration>
     

   • 編輯/usr/local/hadoop/etc/hadoop/hdfs-site.xml，配置HDFS的存儲目錄和副本數：

     <configuration>
       <property>
         <name>dfs.replication</name>
         <value>1</value>
       </property>
       <property>
         <name>dfs.namenode.name.dir</name>
         <value>/usr/local/hadoop/hdfs/namenode</value>
       </property>
       <property>
         <name>dfs.datanode.data.dir</name>
         <value>/usr/local/hadoop/hdfs/datanode</value>
       </property>
     </configuration>
     

5. 啟動Hadoop服務：

   • 格式化NameNode：

     hdfs namenode -format
     

   • 啟動HDFS和YARN服務：

     start-dfs.sh
     start-yarn.sh
     

6. 驗證安裝：

   • 使用以下命令檢查Hadoop是否正常運行：

     jps
     

   • 在瀏覽器中訪問Hadoop的Web UI（例如：http://localhost:8088）查看運行狀態。

這些步驟涵蓋了在CentOS上安裝和配置Hadoop的基本流程，確保系統能夠正常運行并處理數據。