溫馨提示×

Ubuntu上HDFS配置步驟是什么

小樊
54
2025-08-26 02:12:42
欄目: 智能運維

以下是在Ubuntu上配置HDFS的步驟:

  1. 安裝Java

    sudo apt update  
    sudo apt install openjdk-8-jdk  # 或 openjdk-11-jdk  
    java -version  # 驗證安裝  
    
  2. 下載并解壓Hadoop

    wget https://downloads.apache.org/hadoop/common/hadoop-3.3.4/hadoop-3.3.4.tar.gz  
    tar -xzvf hadoop-3.3.4.tar.gz -C /usr/local/  
    sudo mv hadoop-3.3.4 hadoop  # 可選:重命名目錄  
    
  3. 配置環境變量
    編輯~/.bashrc,添加:

    export HADOOP_HOME=/usr/local/hadoop  
    export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin  
    source ~/.bashrc  
    
  4. 配置HDFS核心文件
    進入$HADOOP_HOME/etc/hadoop,編輯以下文件:

    • core-site.xml
      <property>  
        <name>fs.defaultFS</name>  
        <value>hdfs://localhost:9000</value>  
      </property>  
      
    • hdfs-site.xml
      <property>  
        <name>dfs.replication</name>  
        <value>1</value>  # 單節點設為1  
      </property>  
      <property>  
        <name>dfs.namenode.name.dir</name>  
        <value>/usr/local/hadoop/data/namenode</value>  
      </property>  
      <property>  
        <name>dfs.datanode.data.dir</name>  
        <value>/usr/local/hadoop/data/datanode</value>  
      </property>  
      
    • yarn-site.xml(若需YARN):
      <property>  
        <name>yarn.nodemanager.aux-services</name>  
        <value>mapreduce_shuffle</value>  
      </property>  
      
  5. 格式化NameNode

    hdfs namenode -format  
    
  6. 啟動HDFS

    start-dfs.sh  
    
  7. 驗證HDFS

    • 查看進程:jps(應看到NameNode、DataNode)
    • 訪問Web界面:http://localhost:50070

可選:若需配置YARN,需編輯mapred-site.xml并啟動YARN服務。
注意:多節點集群需配置SSH免密登錄、修改hdfs-site.xmldfs.namenode.secondary.http-address等參數。

0
亚洲午夜精品一区二区_中文无码日韩欧免_久久香蕉精品视频_欧美主播一区二区三区美女