在CentOS上快速部署Kafka可以分為幾個步驟,包括安裝必要的軟件、配置Zookeeper和Kafka、啟動服務以及驗證部署。以下是一個詳細的指南:
Kafka需要Java運行環境,首先確保你的系統上已經安裝了Java。
sudo yum install java-1.8.0-openjdk-devel -y
java -version
從Apache Kafka官網下載適合的版本,然后解壓到指定目錄。例如,下載Kafka 3.5.2版本:
wget https://downloads.apache.org/kafka/3.5.2/kafka_2.12-3.5.2.tgz
tar -zxvf kafka_2.12-3.5.2.tgz -C /usr/local/kafka/
cd /usr/local/kafka/
Kafka依賴Zookeeper來進行集群管理和協調。
vi /usr/local/kafka/config/zookeeper.properties
修改以下參數:
dataDir: Zookeeper數據存儲目錄,例如 /usr/local/kafka/zookeeper_dataclientPort: Zookeeper客戶端連接端口,例如 2181nohup /usr/local/kafka/bin/zookeeper-server-start.sh /usr/local/kafka/config/zookeeper.properties &
vi /usr/local/kafka/config/server.properties
修改以下關鍵配置項:
broker.id: 每個Kafka broker的唯一標識,例如 0listeners: Kafka監聽的地址和端口,例如 PLAINTEXT://your_server_ip:9092advertised.listeners: Kafka對外暴露的地址和端口,例如 PLAINTEXT://your_server_ip:9092log.dirs: Kafka日志文件的存儲路徑,例如 /usr/local/kafka/kafka-logszookeeper.connect: Zookeeper的地址和端口,例如 localhost:2181nohup /usr/local/kafka/bin/kafka-server-start.sh /usr/local/kafka/config/server.properties &
bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
生產者:
bin/kafka-console-producer.sh --broker-list localhost:9092 --topic test
消費者:
bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic test --from-beginning
如果你需要部署多個Kafka實例,可以按照以下步驟進行:
config/server.properties 文件中的 listeners 和 advertised.listeners 以指向不同的IP地址和端口。