kafka的优点和新特性
2016-01-23 22:25
246 查看
kafka的优点:
1.主要是用来解决百万级别的数据中生产者和消费者之间数据传输的问题
2.可以将一条数据提供给多个接收这做不同的处理
3.当两个系统是隔绝的,无法通信的时候,如果想要他们通信就需要重新构建其中的一个工程,而kafka实现了生产者和消费者之间的无缝对接。
4.大数据时代,最重要的是数据的收集和分析,这些数据包括:
1).用户的行为数据
2).应用工程的性能数据
3).日志的用户活动数据等
5.kafka提供了系统之间的消息通信,对于生产者而言,只关注与把消息发送的kafka上,而并不关心这个消息是被谁消费的(kafka相当于消息的代理者)。
6.kafka是一个开源的消息发布和订阅系统,主要用于以下场景中:
1).持续的消息:为了从大数据中派生出有用的数据,任何数据的丢失都会影响生成的结果,kafka提供了一个复杂度为O(1)的磁盘结构存储数据,即使是对于TB级别的数据都是提供了一个常量时间性能。
2).高吞吐量:keep big data in mind,kafka采用普通的硬件支持每秒百万级别的吞吐量
3).分布式:明确支持消息的分区,通过kafka服务器和消费者机器的集群分布式消费,维持每一个分区是有序的。
4).支持多种语言:java、.net、php、ruby、python。
5).实时性:消息被生成者线程生产就能马上被消费者线程消费,这种特性和事件驱动的系统是相似的。
kafka 0.8的新特性:
1.在0.8之前,当一个服务器出现问题的时候,没有不被消费的数据将丢失,0.8的分区提供了数据的复制和备份,确保至少有一份数据是可用的
2.以前,生产者的消息会阻塞,直到这个消息被复制到所有的副本中,但是生产者可以配置是否提交到单一的服务器。
3.kafka消费这轮循模式变成一个长拉取模式,一直阻塞到一个提交的消息是有效的,避免频繁的拉取
4.实现了管理工具,例如:控制族群的关闭和leader的选举工具管理kafka集群。
1.主要是用来解决百万级别的数据中生产者和消费者之间数据传输的问题
2.可以将一条数据提供给多个接收这做不同的处理
3.当两个系统是隔绝的,无法通信的时候,如果想要他们通信就需要重新构建其中的一个工程,而kafka实现了生产者和消费者之间的无缝对接。
4.大数据时代,最重要的是数据的收集和分析,这些数据包括:
1).用户的行为数据
2).应用工程的性能数据
3).日志的用户活动数据等
5.kafka提供了系统之间的消息通信,对于生产者而言,只关注与把消息发送的kafka上,而并不关心这个消息是被谁消费的(kafka相当于消息的代理者)。
6.kafka是一个开源的消息发布和订阅系统,主要用于以下场景中:
1).持续的消息:为了从大数据中派生出有用的数据,任何数据的丢失都会影响生成的结果,kafka提供了一个复杂度为O(1)的磁盘结构存储数据,即使是对于TB级别的数据都是提供了一个常量时间性能。
2).高吞吐量:keep big data in mind,kafka采用普通的硬件支持每秒百万级别的吞吐量
3).分布式:明确支持消息的分区,通过kafka服务器和消费者机器的集群分布式消费,维持每一个分区是有序的。
4).支持多种语言:java、.net、php、ruby、python。
5).实时性:消息被生成者线程生产就能马上被消费者线程消费,这种特性和事件驱动的系统是相似的。
kafka 0.8的新特性:
1.在0.8之前,当一个服务器出现问题的时候,没有不被消费的数据将丢失,0.8的分区提供了数据的复制和备份,确保至少有一份数据是可用的
2.以前,生产者的消息会阻塞,直到这个消息被复制到所有的副本中,但是生产者可以配置是否提交到单一的服务器。
3.kafka消费这轮循模式变成一个长拉取模式,一直阻塞到一个提交的消息是有效的,避免频繁的拉取
4.实现了管理工具,例如:控制族群的关闭和leader的选举工具管理kafka集群。
相关文章推荐
- linux平台从源码安装git
- linux中的内核模块以及模块操作工具modprobe|insmod|rmmod|depmod|lsmod|modinfo等学习小结
- Log4j详细设置说明
- c++ 中 BOOL与bool TRUE与true FALSE与false 区别 (转载)
- shell脚本通过expect脚本实现自动输入密码
- JSAPI微信支付开发流程和坑
- Ubuntu1204 lamp搭建
- APP中文本大小字体和系统字体大小的关系
- Git的.gitignore文件配置
- 水调歌头·井冈山
- 二、CSS伪类和伪元素
- Java学习之二分查找算法
- CompletableFuture(一)
- 2440+dm9000A裸机以太网通讯
- IIS7 上配置运行 Ruby CGI环境
- IntelliJ IDEA入门使用—创建Web项目
- SSH集成log4j日志环境
- 从上往下打印二叉树
- 部分检测系统_20160123
- hdoj 5612 Baby Ming and Matrix games 【DFS 暴力】