初识Kafka----个人理解,希望对喜欢kafka的朋友有帮助
2017-06-12 20:18
267 查看
1、什么是kafka?
kafka是一个发布订阅系统,主要用作缓存
2、核心概念
首先kafka是一个集群,有很多个节点组成。
Broker['brəʊkə]:节点名称每一个节点称作broker
message
['mesɪdʒ】:就是指发布到kafka的每一条记录。
Message queue:消息队列
Topic
['tɒpɪk]:就是主题,意思是一类消息。我们发送消息时必须指明主题,它可以是订单topic/日志topic。
partition:分区。一个topic可以有多个partition[一个message只能属于一个topic中的某一个partition。目的是为了让同一个topic的数据分散到不同的broker上,实现负载均衡]
例如:订单topic可以按照ip分为不同的partition,一个partition中的数据在一个broker中存储
repilca
['rɛplɪkə]:相当于把topic的内部消息存放多分在不同的broke上,相当于备份,保证数据的安全
producer:生产者,负责发布消息到kafka的broker
consumer[kən'sjuːmə]:消费者
指订阅消息。
offset(偏移量):偏移量实际上就是数据的索引,类似于数组中的下标;而在kafka中偏移量则指行号。
3.安装kafka
第一:在使用kafka时先有zookeeper的存在;
安装zooke
d558
eper-3.4.5.tar.gz上传到linux上
tar -zxvf zookeeper-3.4.5.tar.gz -C /hadoop
mv zookeeper-3.4.5.tar.gz zookeeper
cd /hadoop/zookeeper/conf
mv zoo-s...cfg zoo.cfg
1步:dataDir=/hadoop/zookeeper/data
2步:添加
ckTime=2000
initLimit=10
syncLimit=5
clientPort=2181
在zookeeper下mkdir data--->vi myid--->1 2 3
./zkS...sh start
第二:上传kafka_2.11-0.8.2.2.tgz
tar -zxvf kafka_2.11-0.8.2.2.tgz -C /hadoop
cd kafka_2.11-0.8.2.2
配置环境变量
vi /etc/profile
export KAFKA_HOME=/hadoop/kafka_2.11-0.8.2.2
export PATH=$PATH:$KAFKA_HOME/bin
配置文件server.properties 主要参数
broker.id=115
host.name=192.168.8.115
advertised.host.name=192.168.8.115
num.partitions=2
log.dirs=/hadoop/zookeeper/kafka-logs [自己创建的存放kafka日志的文件路径]
zookeeper.connect=192.168.8.115:2181
启动服务 之前确保zookeeper 服务是启动的
./bin/kafka-server-start.sh config/server.properties &
这时jps呈现的结果如下:
kafka是一个发布订阅系统,主要用作缓存
2、核心概念
首先kafka是一个集群,有很多个节点组成。
Broker['brəʊkə]:节点名称每一个节点称作broker
message
['mesɪdʒ】:就是指发布到kafka的每一条记录。
Message queue:消息队列
Topic
['tɒpɪk]:就是主题,意思是一类消息。我们发送消息时必须指明主题,它可以是订单topic/日志topic。
partition:分区。一个topic可以有多个partition[一个message只能属于一个topic中的某一个partition。目的是为了让同一个topic的数据分散到不同的broker上,实现负载均衡]
例如:订单topic可以按照ip分为不同的partition,一个partition中的数据在一个broker中存储
repilca
['rɛplɪkə]:相当于把topic的内部消息存放多分在不同的broke上,相当于备份,保证数据的安全
producer:生产者,负责发布消息到kafka的broker
consumer[kən'sjuːmə]:消费者
指订阅消息。
offset(偏移量):偏移量实际上就是数据的索引,类似于数组中的下标;而在kafka中偏移量则指行号。
3.安装kafka
第一:在使用kafka时先有zookeeper的存在;
安装zooke
d558
eper-3.4.5.tar.gz上传到linux上
tar -zxvf zookeeper-3.4.5.tar.gz -C /hadoop
mv zookeeper-3.4.5.tar.gz zookeeper
cd /hadoop/zookeeper/conf
mv zoo-s...cfg zoo.cfg
1步:dataDir=/hadoop/zookeeper/data
2步:添加
ckTime=2000
initLimit=10
syncLimit=5
clientPort=2181
在zookeeper下mkdir data--->vi myid--->1 2 3
./zkS...sh start
第二:上传kafka_2.11-0.8.2.2.tgz
tar -zxvf kafka_2.11-0.8.2.2.tgz -C /hadoop
cd kafka_2.11-0.8.2.2
配置环境变量
vi /etc/profile
export KAFKA_HOME=/hadoop/kafka_2.11-0.8.2.2
export PATH=$PATH:$KAFKA_HOME/bin
配置文件server.properties 主要参数
broker.id=115
host.name=192.168.8.115
advertised.host.name=192.168.8.115
num.partitions=2
log.dirs=/hadoop/zookeeper/kafka-logs [自己创建的存放kafka日志的文件路径]
zookeeper.connect=192.168.8.115:2181
启动服务 之前确保zookeeper 服务是启动的
./bin/kafka-server-start.sh config/server.properties &
这时jps呈现的结果如下:
相关文章推荐
- c/c++常见面试题,希望能给找工作的朋友一点帮助
- 一个技术总监的个人综合评估,希望对大家能有所帮助(转)
- 常用正则表达式(希望对各位朋友有帮助)
- 自己理解的java工厂模式,希望对大家有所帮助
- idea搭建(dubbox+ ssm + redis)组合,希望帮到各位朋友,喜欢的就点个赞吧,哈哈。。。
- 十年职业流水帐(希望对工作中的朋友有帮助)
- JAVA中深拷贝与浅拷贝(在网上找到的) 希望对于理解深拷贝与浅拷贝有帮助
- 我写的GO的基础语法书,希望对喜欢Go的有帮助
- 解决JSP路径问题的方法。。。希望对部分朋友有些帮助。。
- 关于RDLC报表的一些总结,希望对正在学习使用它的朋友有所帮助
- [28]_编译海思osdrv出现的问题并解决,记录一下,希望对遇到同样问题的朋友有所帮助和启发
- JAVA中深拷贝与浅拷贝(在网上找到的) 希望对于理解深拷贝与浅拷贝有帮助
- JAVA环境变量的配置方法【希望可以帮助你】【个人实测没问题】
- 套用今天的签名“最新的VS+最新的MATLAB+最新的WINDOWS=无尽的烦恼 ”,用了一天的时间去配置相关的环境,确实很囧。好在现在问题解决了,特发布过程如下,希望能给有需要的朋友带来帮助。
- 2007-12-21 对三层应用序程的初识,及个人理解.
- 推荐两个东西,希望对做research的朋友有帮助
- Z-Stack的运行角度的理解(仅作个人学习笔记,希望别人评指正)
- 希望这篇文章对理解C#的对象模型有所帮助