RustMagazine / rust_magazine_2021

RustMagazine 2021 期刊 (已完结)
https://rustmagazine.github.io/rust_magazine_2021/
MIT License
1.2k stars 113 forks source link

Kafka - 技术架构学习 #171

Open utterances-bot opened 2 years ago

utterances-bot commented 2 years ago

Kafka - 技术架构学习

https://alongsocjr.github.io/tech-learning/chapter_6/toc.html

alongsoCJR commented 2 years ago

总结:

  1. 本节课从分布式AFK角度,分析了kafka作为一个分布式消息中间件(高可用,高扩展),从架构角度对xyz轴分析,分别对应由副本,partition,topic的出现。
  2. 同时既然作为一个集群,就需要有一个协调者,引入了zookeeper,新旧版本的kafka对zookeeper这块进行了比较大的升级。
  3. zookeeper管理的本质其实是tomcat进程,逻辑意义是broker,里面会有一个controller(主)的概念
  4. 为了消息的顺序性消费,引入了producer和consumer,以及从架构角度如何保证消息顺序消费,不重复消费,以及消息丢失等问题。
  5. 为了解决丢失和重复消费的问题,引入了offset消息消费进度的概念,以及放在哪里进行维护比较好(zookeeper?kafka?三方比如redis/mysql)