ElasticSearch+Kiabana+(logstash or lebeat)
简介
在工作中随着业务量的增大和项目的增多,日志量随之增大,我们需要对日志进行集中化
管理,将所有机器上的日志信息收集、汇总到一起。完整的日志数据具有非常重要的作用:
1)信息查找:通过检索日志信息,定位相应的 bug,找出解决方案。
2)服务诊断:通过对日志信息进行统计、分析,了解服务器的负荷和服务运行状态,找出
耗时请求进行优化等等。
3)数据分析:如果是格式化的 log,可以做进一步的数据分析,统计、聚合出有意义的信
息,比如根据请求中的商品 id,找出 TOP10 用户感兴趣商品。
开源实时日志分析 ELK 平台能够完美的解决我们上述的问题,ELK 由
ElasticSearch、Logstash 和 Kiabana 三个开源工具组成:
1)ElasticSearch 是一个基于 Lucene 的开源分布式搜索服务器。它的特点有:分布式,
零配置,自动发现,索引自动分片,索引副本机制,restful 风格接口,多数据源,自动搜
索负载等。它提供了一个分布式多用户能力的全文搜索引擎,基于 RESTful web 接口。
Elasticsearch 是用 Java 开发的,并作为 Apache 许可条款下的开放源码发布,是第二流
行的企业搜索引擎。设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使
用方便。在 elasticsearch 中,所有节点的数据是均等的。
2)Logstash 是一个完全开源的工具,它可以对你的日志进行收集、过滤、分析,支持大
量的数据获取方法,并将其存储供以后使用(如搜索)。说到搜索,logstash 带有一个
web 界面,搜索和展示所有日志。一般工作方式为 c/s 架构,client 端安装在需要收集日
志的主机上,server 端负责将收到的各节点日志进行过滤、修改等操作在一并发往
elasticsearch 上去。
3)Kibana%是一个基于浏览器页面的 Elasticsearch 前端展示工具,也是一个开源和免费
的工具,Kibana 可以为 Logstash 和 ElasticSearch 提供的日志分析友好的 Web 界面,
可以帮助您汇总、分析和搜索重要数据日志.
4)beats 中的 *lebeat 可以将多台机器的日志数据进行采集发送至 logstash 或
elasticsearch,然后通过 kiabana 进行页面可视化展示。
(注:安装以上服务需要先安装 JAVA,并配置好环境变量)
安装篇
评论0
最新资源