• 首页

  • 分类

  • 归档

  • 随笔

  • 关于
h a s a k i
h a s a k i

阿波

我单手握着方向盘没跟谁比赛

10月
14

kafka安装及使用

发表于 2020-10-14 • 字数统计 2683 • 被 395 人看爆

单机kafka的部署过程记录。

一.下载

本篇使用版本为

kafka_2.11-2.1.0

zookeeper-3.4.14

自行官网下载

二.配置

zookeeper配置

zk是kafka的注册中心,先配置zk

1. 修改zoo.cfg(zoo.simple.cfg)

a)修改默认接口2181为2180,避免冲突

b)修改dataDir为自定义目录,此文件夹用于存放数据文件

c)新建dataLogDir为自定义目录 数据文件日志

ps:必须填写绝对路径

test

2.启动zk并查看其状态

进入bin目录,执行命令启动

./zkServer.sh start

启动成功后使用

./zkServer.sh status

查看启动状态

kafka配置

1.配置server.properties

a)创建数据存放目录

b)修改日志存放目录log.dirs

c)修改zookeeper的连接地址

d)修改默认端口端口

2.配置producer.properties

3.配置zookeeper.properties

4.启动
bin/kafka-server-start.sh config/server.properties

执行启动命令,指定配置文件【这一步建议放到tmux或nohup执行】

三.测试

1.创建topic
bin/kafka-topics.sh --create --zookeeper localhost:2180 --replication-factor 1 --partitions 8 --topic test_topic

指定zk地址,副本数,分区数,topic名称

2.查看topic
bin/kafka-topics.sh --list --zookeeper 127.0.0.1:2180
3.启动一个控制台生产者和控制台消费者验证是否正常使用
  • 控制台生产者

    bin/kafka-console-producer.sh --broker-list 127.0.0.1:9090 --topic test_topic
    
  • 控制台消费者(从头开始消费)

    bin/kafka-console-consumer.sh --bootstrap-server 127.0.0.1:9090 --topic test_topic --from-beginning
    

四.其他命令

1.修改分区数

./bin/kafka-topics.sh --alter --zookeeper 127.0.0.1:2180 --topic test_topic --partitions 8

2.查看分区

./bin/kafka-topics.sh --describe --zookeeper 127.0.0.1:2180 --topic test_topic

PS: 提高分区数是提高并发的有效方式

五.删除topic

1.删除kafka存储目录(server.properties文件log.dirs配置,默认为"/tmp/kafka-logs")相关topic目录

2.Kafka 删除topic的命令是:

 ./bin/kafka-topics --delete --zookeeper 127.0.0.1:2180 --topic test_topic

如果kafaka启动时加载的配置文件中server.properties没有配置delete.topic.enable=true,那么此时的删除并不是真正的删除,而是把topic标记为:marked for deletion

此时你若想真正删除它,可以如下操作:

 (1)登录zookeeper客户端:命令:./bin/zookeeper-client

 (2)找到topic所在的目录:ls /brokers/topics

 (3)找到要删除的topic,执行命令:rmr /brokers/topics/【topic name】即可,此时topic被彻底删除。

另外被标记为marked for deletion的topic你可以在zookeeper客户端中通过命令获得:ls /admin/delete_topics/【topic name】,如果你删除了此处的topic,那么marked for deletion 标记消失

分享到:
查看某个可执行命令所在的目录
Ubuntu对外开放端口
  • 文章目录
  • 站点概览
阿波

yoyoyo~

Email
看爆 Top5
  • 获取两个map的并集、差集、交集 746次看爆
  • 站在巨人肩膀上-开源Java类库 626次看爆
  • kafka安装及使用 396次看爆
  • SpringBoot集成kafka 361次看爆
  • 设计原则与设计模式.md 337次看爆

站点已萌萌哒运行 00 天 00 小时 00 分 00 秒(●'◡'●)ノ♥

Copyright © 2022 阿波 鄂ICP备2020017654号-1

由 Halo 强力驱动 · Theme by Sagiri · 站点地图