运维1.12了解集中式日志管理工具 ELK 的基本用法,包括数据采集、搜索和展示

ELK 是一个由三个开源项目组成的日志管理工具,它们分别是 Elasticsearch、Logstash 和 Kibana。Elasticsearch 是一个基于 Lucene 的搜索引擎,它可以提供实时的分布式搜索和分析能力;Logstash 是一个日志收集和处理工具,可以实现多种数据源的集中式收集、过滤和转换;Kibana 是一个数据可视化平台,可以通过图表、仪表盘等方式展示 Elasticsearch 中的数据。

本教程将介绍如何使用 ELK 实现集中式日志管理,包括数据采集、搜索和展示的基本用法。

1. 安装 Elasticsearch

在开始之前,请确保已经安装了 Java 环境。在 Linux 系统中,可以使用以下命令安装 Java:

 

sqlCopy code

sudo apt-get update sudo apt-get install default-jre

然后,可以按照以下步骤安装 Elasticsearch:

  1. 下载 Elasticsearch 的安装包,可以从官方网站 Download Elasticsearch | Elastic 下载。

  2. 解压安装包,并进入解压后的目录。

     

    bashCopy code

    tar -xzvf elasticsearch-7.10.2-linux-x86_64.tar.gz cd elasticsearch-7.10.2/

  3. 启动 Elasticsearch。

     

    bashCopy code

    ./bin/elasticsearch

    Elasticsearch 默认监听在 9200 端口上,可以在浏览器中访问 http://localhost:9200/ 查看 Elasticsearch 的状态。

2. 安装 Logstash

Logstash 可以从多种数据源中采集数据,并将数据转换为 Elasticsearch 能够理解的格式。在开始之前,请确保已经安装了 Java 环境。

可以按照以下步骤安装 Logstash:

  1. 下载 Logstash 的安装包,可以从官方网站 Download Logstash Free | Get Started Now | Elastic 下载。

  2. 解压安装包,并进入解压后的目录。

     

    bashCopy code

    tar -xzvf logstash-7.10.2.tar.gz cd logstash-7.10.2/

  3. 创建一个简单的 Logstash 配置文件。在本例中,我们将从标准输入中读取数据,并将其输出到 Elasticsearch 中。

    input {
      stdin {}
    }
    
    output {
      elasticsearch {
        hosts => ["localhost:9200"]
        index => "logstash-%{+YYYY.MM.dd}"
      }
    }
    

    启动 Logstash,并将配置文件作为参数传递给它。

    bin/logstash -f logstash.conf
    

    当日志的数量越来越多,手动分析和管理就变得不现实了。为了更好地管理和利用这些日志数据,ELK工具(Elasticsearch、Logstash和Kibana)就应运而生。

    ELK是一个集中式的日志管理解决方案,主要由三个组件组成:Elasticsearch、Logstash和Kibana。Elasticsearch是一个分布式的搜索和分析引擎,Logstash是一个开源的数据采集引擎,Kibana则是一个可视化的分析和管理工具。

    下面将分别介绍ELK三个组件的基本使用方法。

    Elasticsearch

    Elasticsearch是一个基于Lucene搜索引擎构建的分布式搜索和分析引擎。它能够快速地存储、搜索和分析大量的数据,同时支持实时搜索和分析。

    安装与配置

    Elasticsearch的安装比较简单,官网提供了各种不同平台下的安装包,用户只需下载并解压缩即可使用。

    在安装之后,需要进行一些基本的配置。主要是修改配置文件elasticsearch.yml。下面是一个简单的配置示例:

# 设置集群名称
cluster.name: mycluster

# 设置节点名称
node.name: node-1

# 设置绑定的IP地址
network.host: 0.0.0.0

# 设置日志路径
path.logs: /var/log/elasticsearch

# 设置数据存储路径
path.data: /var/lib/elasticsearch

数据存储与查询

Elasticsearch支持使用RESTful API进行数据的存储和查询。下面是一些基本的示例:

存储数据

使用PUT方法进行数据的存储。例如,要存储一个名为myindex,类型为mytype,ID为1的文档,可以使用以下命令

PUT /myindex/mytype/1
{
    "title": "My first blog post",
    "content": "This is my first blog post using Elasticsearch!"
}

查询数据

使用GET方法进行数据的查询。例如,要查询所有文档,可以使用以下命令:

 

bashCopy code

GET /myindex/mytype/_search

使用查询条件进行数据的过滤。例如,要查询title字段包含blog关键字的文档,可以使用以下命令:

 

bashCopy code

GET /myindex/mytype/_search?q=title:blog

更复杂的查询可以使用DSL(Domain Specific Language)进行构建。

Logstash

Logstash是一个开源的数据采集引擎,它能够从各种不同的数据源中收集、转换和传输数据,最终输出到目标存储。

安装与配置

Logstash的安装和配置也比较简单。主要是修改配置文件logstash.conf。下面是一个简单的配置示例:

input {
  file {
    path => "/var/log/my

在 ELK 中,Kibana 是用于展示和可视化日志数据的工具。用户可以使用 Kibana 建立仪表板、搜索和查询日志,并从多个维度展示日志数据。

下面是使用 Kibana 可视化日志数据的步骤:

  1. 打开 Kibana 的网页,输入 Elasticsearch 的地址和端口号,并按照提示进行登录。
  2. 在 Kibana 的主界面上方的菜单栏中选择“Discover”,这将打开一个搜索页面,用户可以在这里搜索和查询日志数据。
  3. 在搜索页面的左侧选择要搜索的日志索引,然后在搜索框中输入搜索条件,例如日期、关键词等。
  4. Kibana 将会展示满足搜索条件的所有日志,并且可以根据时间轴、条形图、饼图等多种方式展示数据。
  5. 用户可以使用 Kibana 的仪表板功能建立自定义的仪表板,将多个可视化元素组合在一起,展示多个维度的日志数据。
  6. Kibana 还提供了聚合功能,用户可以使用聚合来分析和统计日志数据。

总之,ELK 是一个非常强大的日志管理工具,可以用于收集、分析和可视化各种类型的日志数据。Kibana 是 ELK 中用于展示和可视化日志数据的重要组件,用户可以使用 Kibana 来建立自定义的仪表板,从多个维度展示和分析日志数据。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mfbz.cn/a/4873.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈qq邮箱809451989@qq.com,一经查实,立即删除!

相关文章

《白帽子讲Web安全》世界观安全

1.Web安全简史1.1中国黑客简史对于现代计算机系统来说,在用户态的最高权限是root,也是黑客们最渴望能够获取的系统最高权限。不想拿到“root”的黑客,不是好黑客。在现实世界中,真正造成破坏的,往往并非那些挖掘并研究…

10秒去除WPS Office弹窗广告教程(2023.3.31最新)

目录 前言 步骤 1. 右击WPS Office,打开文件所在目录 2. 打开第二个文件夹 3. 进入office 6文件夹 4. 找到文件ksomisc.exe 5. 右击选择以管理员身份运行 6. 打开后是下面的界面,点击“高级(A)...” 7. 按照下图操作 8. 最后点击退出就设置完…

Mybatis配置之属性优化理解【transactionManager、dataSource、properties】

文章目录一.Mybatis配置之属性优化1.1 配置解析1.2 默认配置环境1.2.1 事务管理器(transactionManager)了解即可。1.2.2 数据源(dataSource)1.3 属性(properties)一.Mybatis配置之属性优化 1.1 配置解析 …

PyTorch 深度学习实战 |用 TensorFlow 训练神经网络

为了更好地理解神经网络如何解决现实世界中的问题,同时也为了熟悉 TensorFlow 的 API,本篇我们将会做一个有关如何训练神经网络的练习,并以此为例,训练一个类似的神经网络。我们即将看到的神经网络,是一个预训练好的用…

达梦回滚表空间的空间占用和释放

我们知道DML和DDL的区别之一是DML(INSERT、UPDATE、DELETE)操作数据库会产生重做日志和回滚日志,DDL不会产生重做日志和回滚日志,本章从系统表和动态视图上来分析达梦数据库DML和DDL对回滚表空间的占用,以及达梦回滚表…

C++11:可变参数模板/lambda表达式

1.可变参数模板 C11的新特性可变参数模板能够让我们创建可以接受可变参数的函数模板和类模板,相比C98和C03,类模板和函数模板中只能含固定数量的模板参数,可变参数模板无疑是一个巨大的改进。可是可变参数模板比较抽象,因此这里只…

vue路由守卫死循环及路由守卫使用

当前业务要求: 通过判断本地sessionstorge判断当前是否需要登陆页面 问题场景:用户登陆进入页面内部,点击退出登录,清除本地用户信息,页面跳转至登陆页面,使用浏览器的回退可以正常返回至项目内部。需要改…

kettle开发篇-更新-Day38

目录 前言: 一、更新组件介绍 1.1界面 1.2废话介绍 1.3重点解释 二、应用案例 2.1转换效果 2.2转换简介 三、总结 前言: 前面我们通过oracle的索引来处理单表超1亿的数据量表的查询问题,通过针对主键,展示的维度做多套索引…

如何使用码匠连接 GaussDB

目录 在码匠中集成 GaussDB 在码匠中使用 GaussDB 关于码匠 GaussDB 是华为推出的一个高性能、高可靠、高安全的分布式数据库管理系统。它采用多活架构,支持全球数据同步,可实现数据的实时同步和容灾备份,可满足不同业务场景下的数据管理…

《钢琴调律原理及应用》 笔记

【第一章 绪论】第一节 钢琴调律的概念 美国人威廉布雷德怀特于 1917 年发表了世界上第一部关于钢琴调律理论与技术的著作,书名为《钢琴调律与相关技术》 福岛琢郎于1950年发表一部名为《钢琴的构造调律修理》的专著 80年代初,在沈阳音院任教的张琨先生…

蓝桥杯正确的解题姿势

在做算法题的过程中最忌讳的就是上来就一顿乱敲,一开始我就是这样,但随着不断的刷题和老师的指导,总结了自己的刷题方法 示例题目 三角回文数 问题描述 对于正整数 n, 如果存在正整数 k使得 n123...kk(k1)/2 , 则 n 称为三角数。例如, 66066 …

弱监督实例分割 Box-supervised Instance Segmentation with Level Set Evolution 论文笔记

弱监督实例分割 Box-supervised Instance Segmentation with Level Set Evolution 论文笔记一、Abstract二、引言三、相关工作3.1 基于 Box 的实例分割3.2 基于层级的分割四、提出的方法4.1 图像分割中的层级模型4.2 基于 Box 的实例分割在 Bounding Box 内的层级进化输入的数据…

CentOS7+LAMP+DVWA靶机搭建

一、什么是DVWA Damn Vulnerable Web Application (DVWA)(译注:可以直译为:"该死的"不安全Web应用程序),是一个编码差的、易受攻击的 PHP/MySQL Web应用程序。 它的主要目的是帮助信息安全专业人员在合法的环境中,练习…

【自动化】selenium配置步骤 | 备份本地资源

1、安装jdk 2、设置环境变量 .1、CLASSPATH .;%JAVA_HOME%\lib\dt.jar;%JAVA_HOME%\lib\tools.jar .2、JAVA_HOME C:\Program Files\Java\jdk1.8.0_231 .3、PATH 新增 %JAVA_HOME%\bin 3、安装chrome 版本:85.0.4183.83 4、禁用chrom…

AOP配置管理

AOP配置管理4,AOP配置管理4.1 AOP切入点表达式4.1.1 语法格式4.1.2 通配符4.1.3 书写技巧4.2 AOP通知类型4.2.1 类型介绍4.2.2 环境准备4.2.3 通知类型的使用前置通知后置通知环绕通知基本使用注意事项返回后通知异常后通知通知类型总结知识点1:After知识…

基于SpringBoot+SpringCloud+Vue前后端分离项目实战 --开篇

本文目录前言做项目的三大好处强强联手(天狗组合)专栏作者简介专栏的优势后端规划1. SpringBoot 和 SpringCloud 的选择2. Mybatis 和 MybatisPlus 和 JPA 的选择3. MySQL 和 Mongodb 的选择4. Redis 和 RocketMQ5. 后端规划小总结后端大纲提前掌握的知识点一期SpringBoot二期S…

经典文献阅读之--LOCUS 2.0(LiDAR为中心的多传感器LSLAM)

0. 简介 在20年DARPA地下挑战赛中CoSTAR队伍提出了LOCUS这个深度学习模块,在两年后LOCUS2.0出世,LOCUS 2.0包括一种新的基于法线的广义迭代最近点(GICP)公式,该公式减少了点云对齐的计算时间,一种自适应体…

PowerTCP Sockets for .NET 6.1.5 Crack

PowerTCP Sockets for .NET PowerTCP Sockets for .NET 包含易于使用的 TCP 和 UDP 组件,可帮助您创建 Internet 客户端应用程序,只需几行代码和方便的事件。Ping 组件使用 ICMP、UDP 和 TCP 启用服务器验证,而跟踪组件执行异步跟踪路由以实…

三、数据链路层

(一)纠错与检错1、奇偶校验码(再研究下,原理知道,具体过程无法重现)分为奇校验和偶校验,奇偶校验位在首部或尾部,奇偶校验满信息位奇偶校验位(1)原理&#xf…

多线程 (七) 阻塞队列的使用及其实现

🎉🎉🎉点进来你就是我的人了 博主主页:🙈🙈🙈戳一戳,欢迎大佬指点!人生格言:当你的才华撑不起你的野心的时候,你就应该静下心来学习! 欢迎志同道合的朋友一起加油喔🦾&am…