查看原文
其他

轻松上手 Spring Boot & Kafka 实战!

栈长 Java技术栈 2021-12-17

Java技术栈

www.javastack.cn

打开网站看更多优质文章


Kafka集群安装、配置和启动

Kafka需要依赖zookeeper,并且自身集成了zookeeper,zookeeper至少需要3个节点保证集群高可用,下面是在单机linux下创建kafka3个节点伪集群模式。

1、下载包

下载地址:http://kafka.apache.org/downloads

2、解压包

tar -zxvf kafka_2.11-1.0.0.tgz\
mv kafka_2.11-1.0.0 kafka1\
mv kafka_2.11-1.0.0 kafka2\
mv kafka_2.11-1.0.0 kafka3

3、创建ZK集群

修改ZK配置文件:kafka1-3/config/zookeeper.properties分别修改对应的参数。

dataDir=/usr/local/kafka/zookeeper1
dataLogDir=/usr/local/kafka/zookeeper/log
clientPort=2181
maxClientCnxns=0
tickTime=2000
initLimit=100
syncLimit=5
server.1=127.0.0.1:2888:3888
server.2=127.0.0.1:4888:5888
server.3=127.0.0.1:6888:7888

/usr/local/kafka/zookeeper1-3目录下分别创建myid文件,内容对应1~3

启动ZK,分别进行Kafka1-3目录:

bin/zookeeper-server-start.sh config/zookeeper.properties &

启动报文件失败,需要手动创建文件目录并赋予对应的权限。

4、创建Kafka集群

配置文件:kafka1-3/config/server.properties分别修改对应的参数。

broker.id=1 
zookeeper.connect=localhost:2181,localhost:2182,localhost:2183
listeners=PLAINTEXT://192.168.12.11:9091 
log.dirs=/tmp/kafka-logs-1

启动Kafka,分别进行Kafka1-3目录:

bin/kafka-server-start.sh config/server.properties &

启动报文件失败,需要手动创建文件目录并赋予对应的权限。

5、集群测试

在kafka1上面发送消息:

bin/kafka-console-producer.sh --broker-list localhost:9091 --topic test

在kafka2、kafka3消费消息:

bin/kafka-console-consumer.sh --zookeeper localhost:2181 --from-beginning --topic my-replicated-topic

Spring Boot 集成 Kafka 实战

1、添加spring-kafka依赖

<spring-kafka.version>2.1.0.RELEASE</spring-kafka.version>

<!-- spring-kafka-->
<dependency>
    <groupId>org.springframework.kafka</groupId>
    <artifactId>spring-kafka</artifactId>
    <version>${spring-kafka.version}</version>
</dependency>

2、添加Spring Boot的自动配置

自动配置类:

org.springframework.boot.autoconfigure.kafka.KafkaAutoConfiguration

配置属性类:

org.springframework.boot.autoconfigure.kafka.KafkaProperties

Spring:
  kafka:
    bootstrap-servers:
      - 192.168.101.137:9091
      - 192.168.101.137:9092
      - 192.168.101.137:9093
    producer:
      retries: 0
      batch-size: 16384
      buffer-memory: 33554432
      key-serializerorg.apache.kafka.common.serialization.StringSerializer
      value-serializerorg.apache.kafka.common.serialization.StringSerializer
    consumer:
      group-idfoo
      auto-offset-resetearliest
      enable-auto-committrue
      auto-commit-interval: 100
      key-deserializerorg.apache.kafka.common.serialization.StringDeserializer
      value-deserializerorg.apache.kafka.common.serialization.StringDeserializer

3、发送消息

@Autowired
private KafkaTemplate kafkaTemplate;

@GetMapping("/send")
public Object send(String msg) {
    kafkaTemplate.send("test""name", msg);
    return "send ok";
}

4、接收消息

在任何bean里面,添加@KafkaListener,支持消息接收。

@KafkaListener(topics = "test")
public void processMessage(String content) {
    logger.info("收到消息, topic:testmsg:{}", content);
}

5、参考资料

Spring Boot & Kafka官方文档:

https://docs.spring.io/spring-boot/docs/current-SNAPSHOT/reference/htmlsingle/#boot-features-kafka

Spring for Apache Kafka官方文档:

https://docs.spring.io/spring-kafka/reference/htmlsingle/

END

最近热文:

1、Java 10 大装 B 写法,可以吹牛逼了!
2、Java 14 之模式匹配,非常赞的新特性!
3、一条垃圾SQL,把64核CPU快跑崩了!
4、你还在用 Date?快用 LocalDateTime!
5、5 个刁钻的 String 面试题!
6、微信支付软件架构,这也太牛逼了!
7、单例模式的 8 种写法,非常全!
8、Nginx 又一牛 X 功能!流量拷贝
9、分库、分表、分区的区别,傻傻分不清?
10、怎么对 Java 程序调优?不看别后悔!
公众号干货实在太多,扫码关注Java技术栈公众号阅读更多。

点击「阅读原文」带你飞~

: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存