要在Linux上對Kafka集群進行擴容,可以按照以下步驟進行操作:
下載并解壓Kafka: 在新節點上下載并解壓Kafka安裝包。例如,使用以下命令下載Kafka 3.5.0版本:
wget http://mirrors.aliyun.com/apache/kafka/3.5.0/kafka_2.13-3.5.0.tgz
tar -xzf kafka_2.13-3.5.0.tgz
cd kafka_2.13-3.5.0
生成UUID: 在每臺機器上生成一個UUID,用于格式化存儲路徑:
/kafka/bin/kafka-storage.sh random-uuid
修改配置文件:
編輯每臺機器上的server.properties
文件,確保以下配置正確:
node.id=新節點ID
controller.quorum.voters=當前節點IP:9093,其他節點IP:9093
process.roles=broker,controller
listeners=PLAINTEXT://當前節點IP:9092,CONTROLLER://當前節點IP:9093
log.dirs=/data/kafka/logs
export KAFKA_HEAP_OPTS="-Xmx4G -Xms4G"
nohup /kafka/bin/kafka-server-start.sh /kafka/config/kraft/server.properties &
/kafka/bin/kafka-topics.sh --describe --bootstrap-server current-node-IP:9092
kafka-reassign-partitions.sh
工具將現有分區的領導重新分配到新節點上。例如:/kafka/bin/kafka-reassign-partitions.sh --bootstrap-server current-node-IP:9092 --reassign-partitions --partition-partition-list 0,1,2,3 --new-broker-list new-node-IP:9093,new-node-IP:9094,new-node-IP:9095 --execute
kafka-topics.sh
、kafka-consumer-groups.sh
等)來監控集群的健康狀態和性能指標。通過以上步驟,您可以在Linux上成功對Kafka集群進行擴容。請根據您的具體環境和需求調整命令和配置。