centos hdfs配置教程

在CentOS上配置Hadoop分布式文件系統（HDFS）是一個涉及多個步驟的過程。以下是一個詳細的教程，幫助你完成HDFS的配置：

1. 環境準備

安裝Java環境

Hadoop是基于Java的，因此需要安裝JDK。你可以從Oracle官網下載并安裝JDK 8。

sudo yum install -y java-1.8.0-openjdk-devel
export JAVA_HOME=/usr/lib/jvm/java-1.8.0-openjdk
export PATH=$JAVA_HOME/bin:$PATH

安裝SSH

確保所有節點之間可以通過SSH無密碼登錄。

sudo yum install -y openssh-server openssh-client
sudo systemctl start sshd
sudo systemctl enable sshd
ssh-keygen -t rsa -P ""
ssh-copy-id root@node2
ssh-copy-id root@node3

配置網絡

修改主機名和IP地址映射。

vi /etc/hosts
vi /etc/sysconfig/network-scripts/ifcfg-eth0

設置靜態IP地址和網關。

2. 配置Hadoop環境變量

編輯 /etc/profile 文件，添加Hadoop相關的環境變量。

vi /etc/profile
export HADOOP_HOME=/usr/local/hadoop
export PATH=$HADOOP_HOME/bin:$PATH
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
source /etc/profile

3. 配置HDFS核心文件

core-site.xml

配置HDFS默認文件系統。

<configuration>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://namenode:9000</value>
    </property>
</configuration>

hdfs-site.xml

配置HDFS數據存儲路徑和副本數等。

<configuration>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>/path/to/namenode/data</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>/path/to/datanode/data</value>
    </property>
    <property>
        <name>dfs.replication</name>
        <value>3</value>
    </property>
</configuration>

4. 格式化NameNode

在NameNode節點上執行以下命令格式化NameNode。

hdfs namenode -format

5. 啟動HDFS

在NameNode節點上執行以下命令啟動HDFS集群。

/usr/local/hadoop/sbin/start-dfs.sh

6. 驗證配置

使用以下命令檢查HDFS的狀態。

hdfs dfsadmin -report

訪問Web界面查看HDFS的狀態信息。

http://namenode:50070

7. 配置防火墻（可選）

關閉防火墻。

sudo systemctl stop firewalld
sudo chkconfig firewalld off

8. 配置免密登錄（可選）

確保所有節點之間可以通過SSH無密碼登錄。

ssh-copy-id hdfs@node2
ssh-copy-id hdfs@node3

以上步驟涵蓋了在CentOS上配置HDFS的基本流程。請根據具體需求和環境進行調整和優化。