Debian上Hadoop安裝步驟

在Debian系統上安裝Hadoop的步驟如下：

1. 安裝Java環境：

   首先，確保系統上安裝了Java 8或更高版本?？梢允褂靡韵旅畎惭bOpenJDK 8：

   sudo apt update
   sudo apt install openjdk-8-jdk
   

   驗證Java安裝：

   java -version
   

2. 下載Hadoop：

   從Apache Hadoop官網下載最新版本的Hadoop安裝包。例如，下載Hadoop 3.3.1版本：

   wget https://downloads.apache.org/hadoop/common/hadoop-3.3.1/hadoop-3.3.1.tar.gz
   

   解壓安裝包到 /usr/local 目錄：

   sudo tar -xzvf hadoop-3.3.1.tar.gz -C /usr/local/
   

3. 配置環境變量：

   在每個節點的 /.bashrc 文件中添加以下內容：

   export HADOOP_HOME=/usr/local/hadoop-3.3.1
   export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
   

   使更改生效：

   source ~/.bashrc
   

4. 配置Hadoop文件：

   在Hadoop目錄下，編輯以下配置文件：

   • core-site.xml：

     <configuration>
         <property>
             <name>fs.defaultFS</name>
             <value>hdfs://namenode:9000</value>
         </property>
         <property>
             <name>hadoop.tmp.dir</name>
             <value>/usr/local/hadoop/tmp</value>
         </property>
         <property>
             <name>hadoop.proxyuser.root.hosts</name>
             <value>*</value>
         </property>
         <property>
             <name>hadoop.proxyuser.root.groups</name>
             <value>*</value>
         </property>
     </configuration>
     

   • hdfs-site.xml：

     <configuration>
         <property>
             <name>dfs.replication</name>
             <value>1</value>
         </property>
         <property>
             <name>dfs.namenode.name.dir</name>
             <value>/usr/local/hadoop/dfs/name</value>
         </property>
         <property>
             <name>dfs.datanode.data.dir</name>
             <value>/usr/local/hadoop/dfs/data</value>
         </property>
     </configuration>
     

   • mapred-site.xml：

     <configuration>
         <property>
             <name>mapreduce.framework.name</name>
             <value>yarn</value>
         </property>
     </configuration>
     

   • yarn-site.xml：

     <configuration>
         <property>
             <name>yarn.nodemanager.aux-services</name>
             <value>mapreduce_shuffle</value>
         </property>
         <property>
             <name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
             <value>org.apache.hadoop.mapred.ShuffleHandler</value>
         </property>
     </configuration>
     

5. 格式化HDFS：

   在NameNode上運行以下命令格式化HDFS：

   hdfs namenode -format
   

6. 啟動Hadoop服務：

   在NameNode上啟動Hadoop的NameNode和DataNode：

   start-dfs.sh
   start-yarn.sh
   

7. 驗證安裝：

   可以通過以下命令驗證Hadoop是否安裝成功：

   hdfs dfs -ls /
   

   或者訪問Hadoop的Web UI: http://namenode:9000

請注意，以上步驟是基于Hadoop 3.3.1版本的配置，不同版本的Hadoop在配置上可能會有所不同。建議參考官方文檔以獲取針對具體版本的詳細配置指南。