【Kafka】消息队列-kafka安装(windows)
2017-09-07 18:58
369 查看
前言
首先说一下kafka是什么,Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一样的日志数据和离线分析系统,但又要求实时处理的限制,这是一个可行的解决方案。Kafka的目的是通过Hadoop的并行加载机制来统一线上和离线的消息处理,也是为了通过集群来提供实时的消费。它具有以下名词:
Broker
Kafka集群包含一个或多个服务器,这种服务器被称为broker
Topic
每条发布到Kafka集群的消息都有一个类别,这个类别被称为Topic。(物理上不同Topic的消息分开存储,逻辑上一个Topic的消息虽然保存于一个或多个broker上但用户只需指定消息的Topic即可生产或消费数据而不必关心数据存于何处)
Partition
Partition是物理上的概念,每个Topic包含一个或多个Partition.
Producer
负责发布消息到Kafka broker
Consumer
消息消费者,向Kafka broker读取消息的客户端。
Consumer Group
每个Consumer属于一个特定的Consumer Group(可为每个Consumer指定group name,若不指定group name则属于默认的group)。
——摘自百度百科
1.安装jdk
Kafka是运行在JVM中的,所以需要有Java环境,安装过程略。2.安装zookeeper
Kafka存储元信息、进行集群信息交换,节点的注册、发现,生产者和消费者的协同等都需要依赖zookeeper来实现。Zookeeper的安装过程略,下载完成后,需要将“conf/zoo_sample.cfg”重命名为“zoo.cfg”,也可以打开这个文件,修改其中的数据路径dataDir,端口号使用默认端口2181即可。3.安装kafka
①下载地址:http://kafka.apache.org/downloads.html②配置
zookeeper地址:
Kafka会默认在9092端口上运行,并连接zookeeper的默认端口:2181
③运行
1)启动zookeeper
2)定位到kafka根目录(或在该目录下shift+右键,在此处打开命令窗口)启动kafka服务
.\bin\windows\kafka-server-start.bat .\config\server.properties
3)保持kafka和zookeeper开启,打开新的小窗,创建topic
.\bin\windows\kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test
4)开启新小窗,新建生产者
.\bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic test
5)开启新小窗,新建消费者
.\bin\windows\kafka-console-producer.bat --broker-list localhost:9092 --topic test
6)生产者推送消息
总结
基本上,kafka的基本入门安装就完成了。至于更深层次的组id,订阅消息,kafka集群等,之后的博客再做介绍。
相关文章推荐
- Windows如何安装MSMQ消息队列
- 分布式消息队列Kafka集群安装
- 分布式消息队列Kafka集群安装
- 【消息队列】windows下安装RabbitMQ消息队列服务器
- kafka消息队列运维工具和相关安装目录文件总结
- 分布式消息队列Kafka集群安装
- kafka消息队列的安装
- Windows端的RabbitMQ 消息队列安装
- 分布式消息队列Kafka集群安装
- Linux系统消息队列框架Kafka单机安装配置
- CentOS 7.0 安装配置 kafka 消息队列
- 在 Windows 7 上安装消息队列
- CentOS 7.0 安装配置 kafka 消息队列
- Linux系统消息队列框架Kafka单机安装配置
- kafka分布式消息队列----安装篇
- 将Rsyslog的日志输出到Kafka消息队列
- 细说UI线程和Windows消息队列
- 柯南君:看大数据时代下的IT架构(3)消息队列之RabbitMQ-安装、配置与监控
- 分布式消息队列kafka系列介绍 — 基本概念
- Kafka 与消息队列的快速比较