将Rsyslog的日志输出到Kafka消息队列
2015-03-19 23:05
543 查看
http://www.biglog.org/rsyslog-output-kafka/
Rsyslog8.x版本最大的新特性是:可以支持将日志输出到Kafka。
不过Rsyslog默认是没有开启该模块的,如果想使用就需要在安装Rsyslog时编译进去。源码编译安装Rsyslog的过程是非常麻烦的,需要解决很多依赖问题。
这里不再介绍源码安装的过程了,详情请参照官方文档:http://www.rsyslog.com/doc/install.html。
我们提供另一种思路: 添加Rsyslog官网的repo源,使用yum安装Rsyslog8.x,然后将事先编译的kafka模块文件copy到对应的路径下。
具体操作(Centos环境下):
1、添加repo源,yum安装Rsyslog8.x
wget -O /etc/yum.repos.d/rsyslog.repo http://rpms.adiscon.com/v8-stable/rsyslog.repo
yum install rsyslog -y
2、复制kafka模块文件(omkafka.so和librdkafka.so.1)到系统的lib路径下
wget -O /lib64/rsyslog/omkafka.so http://update.biglog.org/cep/centos/omkafka.so
wget -O /lib64/librdkafka.so.1 http://update.biglog.org/cep/centos/librdkafka.so.1 chmod +x /lib64/rsyslog/omkafka.so /lib64/librdkafka.so.1
完成以上步骤后,启动rsyslog,就可以通过查看系统日志(/var/log/message)验证kafka模块是否生效。
Rsyslog8.x版本最大的新特性是:可以支持将日志输出到Kafka。
不过Rsyslog默认是没有开启该模块的,如果想使用就需要在安装Rsyslog时编译进去。源码编译安装Rsyslog的过程是非常麻烦的,需要解决很多依赖问题。
这里不再介绍源码安装的过程了,详情请参照官方文档:http://www.rsyslog.com/doc/install.html。
我们提供另一种思路: 添加Rsyslog官网的repo源,使用yum安装Rsyslog8.x,然后将事先编译的kafka模块文件copy到对应的路径下。
具体操作(Centos环境下):
1、添加repo源,yum安装Rsyslog8.x
wget -O /etc/yum.repos.d/rsyslog.repo http://rpms.adiscon.com/v8-stable/rsyslog.repo
yum install rsyslog -y
2、复制kafka模块文件(omkafka.so和librdkafka.so.1)到系统的lib路径下
wget -O /lib64/rsyslog/omkafka.so http://update.biglog.org/cep/centos/omkafka.so
wget -O /lib64/librdkafka.so.1 http://update.biglog.org/cep/centos/librdkafka.so.1 chmod +x /lib64/rsyslog/omkafka.so /lib64/librdkafka.so.1
完成以上步骤后,启动rsyslog,就可以通过查看系统日志(/var/log/message)验证kafka模块是否生效。
相关文章推荐
- 多线程下面日志输出-线程安全-消息队列循环输出
- logback KafkaAppender 写入Kafka队列,集中日志输出.
- Kafka概述—消息队列
- JavaWeb项目架构之Kafka分布式日志队列
- Kafka消息队列原理总结
- java后端系统架构之消息队列篇:kafka的实验
- 分布式消息队列RocketMQ与Kafka架构上的巨大差异之1 -- 为什么RocketMQ要去除ZK依赖?
- 对于自定义封装的Kafka客户端限制输出日志信息
- 消息队列-Kafka学习
- Spring-Boot--日志操作【全局异常捕获消息处理☞日志控制台输出+日志文件记录】
- 分布式消息队列RocketMQ与Kafka架构上的巨大差异之1 -- 为什么RocketMQ要去除ZK依赖?
- 分布式消息队列Kafka的集群部署
- 分布式消息队列(Message Queue)系统:kafka扫盲
- 【HAVENT原创】Spring Boot + Kafka 消息日志开发
- [转载] 快速理解Kafka分布式消息队列框架
- 关于Kafka 的消息日志Offset 的了解
- ELK之使用消息队列收取日志
- 为什么要用kafka、rabbit等消息队列
- 消息队列之Kafka
- Kafka源码深度解析-系列1 -消息队列的策略与语义