以下是在Ubuntu上配置HDFS的步驟:
安裝Java
sudo apt update
sudo apt install openjdk-8-jdk # 或 openjdk-11-jdk
java -version # 驗證安裝
下載并解壓Hadoop
wget https://downloads.apache.org/hadoop/common/hadoop-3.3.4/hadoop-3.3.4.tar.gz
tar -xzvf hadoop-3.3.4.tar.gz -C /usr/local/
sudo mv hadoop-3.3.4 hadoop # 可選:重命名目錄
配置環境變量
編輯~/.bashrc,添加:
export HADOOP_HOME=/usr/local/hadoop
export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
source ~/.bashrc
配置HDFS核心文件
進入$HADOOP_HOME/etc/hadoop,編輯以下文件:
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>dfs.replication</name>
<value>1</value> # 單節點設為1
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>/usr/local/hadoop/data/namenode</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>/usr/local/hadoop/data/datanode</value>
</property>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
格式化NameNode
hdfs namenode -format
啟動HDFS
start-dfs.sh
驗證HDFS
jps(應看到NameNode、DataNode)http://localhost:50070可選:若需配置YARN,需編輯mapred-site.xml并啟動YARN服務。
注意:多節點集群需配置SSH免密登錄、修改hdfs-site.xml中dfs.namenode.secondary.http-address等參數。