apache kafka系列之replication设计机制
2014-04-25 18:48
288 查看
apache kafka中国社区QQ群:162272557
概览:
其中一个broker被选举作为整个集群控制器,他将负责几个方面工作:1.管理或领导分区变化.
2.create topic,delete topic
3.replicas(执行复制计划,复制partition)
集群控制器做出决定以后,操作信息或状态将永久注册并存储在zookeeper上,并且也可以通过RPC方式发送新的决定操作broker。控制器发布的决定来源真实,他将用于client请求路由和broker的重启或恢复状态。
如果有一个新的broker加入或启动。controller会通过RPC调用发出新的决定。
潜在的优点:
1.当leader发生变化时,更容易集中到一个地方做调试(排除故障)。
2.当leader发生变化时,ZK可以把读取/写状态信息成批广播到其他broker,因此当leader failover的时候会减少broker之间恢复的延迟时间。
3.需要更少的监听器。
4.使用更高效的RPC通信方式,代替在zookeeper中队列实现方式。
潜在的缺点:
需要考虑controller failover
zookeeper中路径列表说明
1.Controller path:存储当前controller信息.每当某个管理员操作如下命令成功后,且这个分区迁移到目标broker成功后,源broker上的分区会自动删除。
kafka中专有词语解释:
AR(assign replicas):分配副本 ISR(in-sync replicas):在同步中的副本后续.....
相关文章推荐
- apache kafka系列之Controller设计机制和状态变化
- [.NET领域驱动设计实战系列]专题七:DDD实践案例:引入事件驱动与中间件机制来实现后台管理功能
- Apache Kafka系列之Kafka设计细节
- BBS 设计思路系列 ---- 帖子的挑选机制
- BBS 设计思路系列 ---- 抛弃多皮肤机制,只提供一套皮肤机制。
- BBS 设计思路系列 ---- 抛弃多皮肤机制,只提供一套皮肤机制。
- BBS 设计思路系列 ---- 帖子的挑选机制
- 【通证经济学】系列之一:机制设计、激励相容与VCG机制
- [.NET领域驱动设计实战系列]专题七:DDD实践案例:引入事件驱动与中间件机制来实现后台管理功能
- Hadoop系列-MapReduce设计思想与原理机制(九)
- apache kafka系列之文件系统设计那些
- UI引擎机制系列(一)GLRender线程处理接口设计
- [js高手之路] 设计模式系列课程 - jQuery的extend插件机制
- Android基础系列-----------Android进程/线程管理应用示例(Android中的消息队列和线程队列机制)
- 玩转Google开源C++单元测试框架Google Test系列(gtest)之三 - 事件机制
- 60套漂亮的的免费 PSD 界面设计元素包资源(系列二)
- Java设计模式系列1--原型模式(Prototype Method)
- 《Kubernetes与云原生应用》系列之二——云原生应用的设计理念与挑战
- 架构的坑系列:重构过程中的过度设计
- HDU4514湫湫系列故事——设计风景线(并查集判环+最长直径)