企业运维实战–ELK日志分析平台之logstash数据采集

  • 前言–logstash简介

  • logstash数据采集

  • 安装

  • 日志采集输出插件


前言–logstash简介

Logstash是一个开源数据收集引擎,具有实时管道功能。Logstash可以动态地将来自不同数据源的数据统一起来,并将数据标准化到你所选择的目的地。

logstash数据采集

安装

logstash收集java应用产生的日志文件 logstash日志采集_logstash

日志采集输出插件

命令行数据采集并显示到终端

logstash收集java应用产生的日志文件 logstash日志采集_数据采集_02

输入数据会立刻在终端以标准输出的方式反馈

logstash收集java应用产生的日志文件 logstash日志采集_elk_03

以文件的形式运行,设定文件输出路径为/tmp/testfile

logstash收集java应用产生的日志文件 logstash日志采集_数据采集_04

file输出插件
-f指定文件

logstash收集java应用产生的日志文件 logstash日志采集_elasticsearch_05

logstash收集java应用产生的日志文件 logstash日志采集_数据采集_06

查看

logstash收集java应用产生的日志文件 logstash日志采集_elasticsearch_07

logstash连接到elasticsearch

logstash收集java应用产生的日志文件 logstash日志采集_logstash_08

随意输入,输入结束后ctrl+c结束数据采集

logstash收集java应用产生的日志文件 logstash日志采集_logstash_09

进入监控查看采集的数据浏览

logstash收集java应用产生的日志文件 logstash日志采集_运维_10

采集本机日志输出到elasticsearch

logstash收集java应用产生的日志文件 logstash日志采集_elk_11

logstash收集java应用产生的日志文件 logstash日志采集_数据采集_12

logstash收集java应用产生的日志文件 logstash日志采集_数据采集_13

重复采集同样的日志,只会生效一次,是因为生成了sincedb文件

logstash收集java应用产生的日志文件 logstash日志采集_elk_14

sincedb文件所在目录

logstash收集java应用产生的日志文件 logstash日志采集_运维_15

想要重新生成索引,就必须删除它

logstash收集java应用产生的日志文件 logstash日志采集_logstash_16

采集系统日志syslog输入插件

logstash收集java应用产生的日志文件 logstash日志采集_运维_17

logstash收集java应用产生的日志文件 logstash日志采集_logstash_18

监控查看数据

logstash收集java应用产生的日志文件 logstash日志采集_运维_19

多行过滤插件

待收集主机:

vim /etc/rsyslog.conf

logstash收集java应用产生的日志文件 logstash日志采集_elasticsearch_20

logstash收集java应用产生的日志文件 logstash日志采集_运维_21

重启服务

logstash收集java应用产生的日志文件 logstash日志采集_elk_22

读取集群日志,多行过滤插件

logstash收集java应用产生的日志文件 logstash日志采集_logstash_23

logstash收集java应用产生的日志文件 logstash日志采集_logstash_24

logstash收集java应用产生的日志文件 logstash日志采集_elasticsearch_25

logstash收集java应用产生的日志文件 logstash日志采集_运维_26

查看监控

logstash收集java应用产生的日志文件 logstash日志采集_logstash_27

grok过滤插件,切片apache访问日志

grok.conf

logstash收集java应用产生的日志文件 logstash日志采集_数据采集_28

固定服务变量模板以准备好,变量所在目录:

logstash收集java应用产生的日志文件 logstash日志采集_数据采集_29

安装apache

logstash收集java应用产生的日志文件 logstash日志采集_数据采集_30

多访问几次该服务

logstash收集java应用产生的日志文件 logstash日志采集_logstash_31

logstash收集java应用产生的日志文件 logstash日志采集_elasticsearch_32

监控查看

logstash收集java应用产生的日志文件 logstash日志采集_logstash_33

本文章为转载内容,我们尊重原作者对文章享有的著作权。如有内容错误或侵权问题,欢迎原作者联系我们进行内容更正或删除文章。

  • 收藏
  • 评论
  • 举报

相关文章