博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
ELK6.2.2(elasticsearch+logstash+kibana)开源日志分析平台搭建(三):logstash简单收集...
阅读量:6516 次
发布时间:2019-06-24

本文共 1915 字,大约阅读时间需要 6 分钟。

hot3.png

1目的

简单收集某一路径下的*.log,在kibana展现出来。

2下载,解压,重命名

[superuser@ft3q-app48 elk]$ wget https://artifacts.elastic.co/downloads/logstash/logstash-6.2.2.tar.gz
[superuser@ft3q-app48 elk]$ tar -zxvf logstash-6.2.2.tar.gz
[superuser@ft3q-app48 elk]$ mv logstash-6.2.2 logstash_bank

3编写一个配置文件

[superuser@ft3q-app47 logstash_bank]$ cat config/file-logstash-bank.conf input{       file {        path => ["/logdata/bank/*/*/*.log"]	    exclude => "*_*.log"	    max_open_files => "18600"	    codec => plain {                charset => "UTF-8"                }        }	}filter{		mutate {	    add_field => { "filepath" => "%{path}" }    	}    mutate{        split => ["path","/"]                   add_field =>   {                "idx" => "%{[path][2]}-%{[path][3]}-%{[path][4]}"            }            add_field =>   {                "filename" => "%{[path][5]}"            }        }    mutate{        split => ["filename","."]                   add_field =>   {                "idx1" => "%{idx}-%{[filename][0]}"            }                }    mutate{        lowercase => [ "idx1" ]      }}output {           elasticsearch {                hosts => ["192.168.193.47:9200"]                index => "logstash-%{idx1}-%{+YYYY.MM.dd}"                              user => elastic                password => elastic                       }      }

输入:文件输入,监控*.log,不要监控log4j2归档的旧文件,如service_2018-03-25_1.log。

过滤:新增属性filepath,因为下面的split会将path属性变为数组。下面的过滤器就是我在试图拼索引,将路径的“/”转化为“-”,去掉".log"。索引不能为大写,最后转成小写。

输出:输出到es。地址、索引等信息。用户名密码参数是x-pack需要的。

4启动,后台运行。

[superuser@ft3q-app47 logs]$nohup  /home/superuser/elk/logstash_bank/bin/logstash  -f  /home/superuser/elk/logstash_bank/config/file-logstash-bank.conf --path.data /home/superuser/elk/logstash_bank/data_bank > /dev/null &

5观察日志没有报错,查看有无索引写入es,查看kibana

通过es的API curl -XGET '192.168.193.47:9200/_cat/indices?v&pretty'

205752_ODXV_2372148.png

通过kibana,需要新建查询索引,就能查看。

205952_RVMw_2372148.png

210224_trYJ_2372148.png

 

转载于:https://my.oschina.net/haha256/blog/1785238

你可能感兴趣的文章
20181023-2 贡献分配
查看>>
CentOS 7 关闭启动防火墙
查看>>
Vue-选项卡切换
查看>>
linux网络命令
查看>>
nodejs ejs 请求路径和静态资源文件路径
查看>>
4.1 State Snapshot Transfer
查看>>
C++小代码
查看>>
记一次思维转变的时刻
查看>>
libuv 中文编程指南(二)libuv 基础
查看>>
phpcms v9 中的数据库操作函数
查看>>
远程桌面无法复制粘贴
查看>>
bzoj2754
查看>>
redis liunx下安装和配置
查看>>
Asp.Net MVC 学习心得 之 View
查看>>
ajax同步和异步的区别
查看>>
HDU max sum(最大子序列之和)
查看>>
STL - Map - 运行期自定义排序
查看>>
matplotlib制第一个简单图(转自matplotlib手册)
查看>>
Oil Deposits
查看>>
ViewPager结合view无限滑动
查看>>