ELK之Logstash如何安装与导入数据

云计算

这篇文章主要介绍了ELK之Logstash如何安装与导入数据，具有一定借鉴价值，感兴趣的朋友可以参考下，希望大家阅读完这篇文章之后大有收获，下面让小编带着大家一起了解一下。

创新互联服务项目包括阿瓦提网站建设、阿瓦提网站制作、阿瓦提网页制作以及阿瓦提网络营销策划等。多年来，我们专注于互联网行业，利用自身积累的技术优势、行业经验、深度合作伙伴关系等，向广大中小型企业、政府机构等提供互联网行业的解决方案，阿瓦提网站推广取得了明显的社会效益与经济效益。目前，我们服务的客户以成都为中心已经辐射到阿瓦提省份的部分城市，未来相信会继续扩大服务区域并继续获得客户的支持与信任！
数据集下载

下载地址：https://grouplens.org/datasets/movielens/

我们选择最小数据集即可Logstash 下载与安装

首先去官网下载 Logstash 安装包：https://www.elastic.co/downloads/logstash

logstash download

如果下载速度太慢可以选用这个代理地址下载：http://mirror.azk8s.cn/elastic/logstash/

azk8s

下载完安装包并解压进入config目录：

logstash-config

同时配置如下内容,你只需要按照你的数据集的路径改一下配置文件中最开始的path即可：

logstash.confinput {
file {
path => "/Users/tanjian/Desktop/logstash-7.6.1/movielens/ml-latest-small/movies.csv" # 这里指定数据集路径
start_position => "beginning"
sincedb_path => "/dev/null"
}
}
filter {
csv {
separator => ","
columns => ["id","content","genre"]
}

mutate {
split => { "genre" => "|" }
remove_field => ["path", "host","@timestamp","message"]
}

mutate {

split => ["content", "("]
add_field => { "title" => "%{[content][0]}"}
add_field => { "year" => "%{[content][1]}"}
}

mutate {
convert => {
"year" => "integer"
}
strip => ["title"]
remove_field => ["path", "host","@timestamp","message","content"]
}

}
output {
elasticsearch {
hosts => "http://localhost:9200"
index => "movies"
document_id => "%{id}"
}
stdout {}
}
Logstash 运行

配置好上面的logstash.conf文件后，我们就可以启动 Logstash 并开始导入数据了：

sudo ./bin/logstash -f config/logstash.conf

如下图 Logstash 日志所示，正在导入数据集：

logstash log打开 Kibana 查看数据

在查看数据之前，我们需要打开http://localhost:5601通过 Kibana 创建一个 Index Pattern：

Index Pattern

之后，我们就可以通过Discover去查看我们的数据了：

Discover

剩下的就交给你自己折腾吧，你可以去Dev Tools通过 QSL 语法搜索数据熟悉一下语法。

感谢你能够认真阅读完这篇文章，希望小编分享的“ELK之Logstash如何安装与导入数据”这篇文章对大家有帮助，同时也希望大家多多支持箭头云，关注创新互联行业资讯频道，更多相关知识等着你来学习!

本文标题：ELK之Logstash如何安装与导入数据
链接URL：http://cqcxhl.com/article/cjdjdc.html