kafka安装配置

kafka安装配置

安装

前提

  • 安装JDK, Kafka及Zookeeper 依赖Java 运行环境
  • 设置Java 环境变量

官网下载Kafka 安装包,解压安装:

1
2
3
tar xvzf kafka_2.12-2.1.0.tgz
mv kafka_2.12-2.1.0 kafka
cd kafka

常用命令

1 启动Zookeeper

bin/zookeeper-server-start.sh -daemon config/zookeeper.properties

2.使用kafka-server-start.sh 启动kafka 服务:

bin/kafka-server-start.sh config/server.properties

创建topic

bin/kafka-topics.sh --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test

查看有哪些topic:

bin/kafka-topics.sh --list --zookeeper localhost:2181

查看topic的详细信息

bin/kafka-topics.sh --zookeeper ark1:2181 --describe --topic topic_name

消费

bin/kafka-console-consumer.sh --bootstrap-server localhost:9092 --topic profile_benchmark --from-beginning

集群配置

单机多broker 集群配置

利用单节点部署多个broker。 不同的broker 设置不同的 id,监听端口及日志目录。 例如

cp config/server.properties config/server-1.properties

编辑配置:

1
2
3
4
config/server-1.properties:
broker.id=1
port=9093
log.dir=/tmp/kafka-logs-1

启动Kafka服务:

bin/kafka-server-start.sh config/server-1.properties &

启动多个服务,按上文类似方式产生和消费消息。

多机多broker 集群配置

分别在多个节点按上述方式安装Kafka,配置启动多个Zookeeper 实例。 例如: 在10.4.253.22,10.4.253.23,10.4.253.24三台机器部署,Zookeeper配置如下:

1
2
3
4
5
initLimit=5
syncLimit=2
server.1=10.4.253.22:2888:3888
server.2=10.4.253.23:2888:3888
server.3=10.4.253.24:2888:3888

分别配置多个机器上的Kafka服务 设置不同的broke id,zookeeper.connect设置如下:

1
zookeeper.connect=10.4.253.22:2181,10.4.253.23:2181,10.4.253.24:2181

启动Zookeeper与Kafka服务,按上文方式产生和消费消息,验证集群功能。

数据清理配置

Kafka将数据持久化到了硬盘上,允许你配置一定的策略对数据清理,清理的策略有两个,删除和压缩。

参考

http://kafka.apache.org/documentation.html
https://www.mtyun.com/library/how-to-install-kafka-on-centos7

坚持原创技术分享,您的支持将鼓励我继续创作!
分享