ELK错误1_Kafka->Logstash->Elasticsearch过程,Elasticsearch报grokparsefailure错误
2015-11-10 09:51
477 查看
实验背景:
Kafka->Logstash->Elasticsearch实验环境安装完成;
Logstash的启动文件设置有过滤机制;
Logstash启动文件:
发送数据的代码如下所示:
发送给Logstash后,使用ES搜索,开始时,报一下错误:
![](http://img.blog.csdn.net/20151110103435972?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
发送第一个红框内的数据,结果报第二个红框内的错误。
寻找错误,经过对比,发现,代码中“数据内容”的字段比配置文件中“数据内容”中的字段少一个,所以报错。
改正,重新进行实验,结果正确。
进行验证:
字段对应,则正确;代码中少一个字段,则报上面的错。
Kafka->Logstash->Elasticsearch实验环境安装完成;
Logstash的启动文件设置有过滤机制;
Logstash启动文件:
input { kafka { zk_connect => "10.10.16.252:2181,10.10.16.253:2181,10.10.16.249:2181" group_id => "test-consumer-group" topic_id => "MyPattern" reset_beginning => false # boolean (optional), default: false consumer_threads => 5 # number (optional), default: 1 decorate_events => true # boolean (optional), default: false } } filter{ grok{ patterns_dir => "./patterns" match => { "message" => ["#字段内容#"]} } } output { if "jsonparsefailure" not in [tags]{ elasticsearch{ host => "localhost" } } }
发送数据的代码如下所示:
package com.test.kafka; import java.util.Properties; import kafka.javaapi.producer.Producer; import kafka.producer.KeyedMessage; import kafka.producer.ProducerConfig; public class KafkaProduce { public static void main(String[] args) { Properties props = new Properties(); props.setProperty("metadata.broker.list","10.10.16.253:9092,10.10.16.252:9092,10.10.16.249:9092"); props.setProperty("serializer.class","kafka.serializer.StringEncoder"); props.put("request.required.acks","-1"); ProducerConfig config = new ProducerConfig(props); Producer<String,String> producer = new Producer<String, String>(config); KeyedMessage<String, String> data = new KeyedMessage<String,String>("MyPattern","数据内容"); producer.send(data); producer.close(); } }
发送给Logstash后,使用ES搜索,开始时,报一下错误:
发送第一个红框内的数据,结果报第二个红框内的错误。
寻找错误,经过对比,发现,代码中“数据内容”的字段比配置文件中“数据内容”中的字段少一个,所以报错。
改正,重新进行实验,结果正确。
进行验证:
字段对应,则正确;代码中少一个字段,则报上面的错。
相关文章推荐
- svn 异常 failed–previous interrupted
- Android资源文件res的使用详解(strings,layout,drawable,arrays等)from http://www.jcodecraeer.com/a/anzhuokaifa/an
- usaco.section1.3.Barn Repair
- Last Daily Scrum (2015/11/9)
- LightOJ - 1417 Forwarding Emails(强连通+dfs)
- 如何写好 C main 函数
- LightOJ - 1086 Jogging Trails(欧拉+状态压缩)
- 【Alpha】Daily Scrum Meeting第七次
- 【Alpha】Daily Scrum Meeting第七次
- TinyOS06:Avrora的Mailing List
- poj 2010 Moo University - Financial Aid 优先队列
- fibonacci && climbing-stairs
- LightOJ 1021 - Painful Bases(dp)
- http://blog.csdn.net/jadyer/article/details/6013743
- hdu 3264 Open-air shopping malls(几何)
- hdu4770 Lights Against Dudely
- Gradle project sync failed. Please fix your project and try again.
- 正确使用Block避免Cycle Retain和Crash
- Scala初学者学习资料:main(String[])
- 运行Scala应用 Main方法