目录
一、安装ElasticSearch
1.1、安装中文解析器
1.2、启动Elastic
1.3、9200和9300区别
二、安装Kibana
三、Logstash
3.1、logstash导入数据
3.2、查询movies数据
四、安装Elasticsearch-Head
4.1、配置
4.2、启动
本节介绍ElasticSearch的安装步骤,ElasticSearch是基于java开发的软件,所以在安装ElasticSearch之前,我们需要先安装java。
版本:java1.8,es7.16.1
一、安装ElasticSearchElasticSearch的安装非常简单,访问https://www.elastic.co/cn/downloads/elasticsearch,下载最新的版本程序包,根据操作系统下载对应的版本,然后解压即可,在解压后的目录中找到bin\elasticsearch.bat,双击它即可启动ElasticSearch,ElasticSearch的安装完毕。
注:Elastic有Windows、linux版本,windows有绿色版,msi版本,其他版本请参考官网,官网的文档非常的全!
1.1、安装中文解析器地址:
Releases · medcl/elasticsearch-analysis-ik · GitHubhttps://github.com/medcl/elasticsearch-analysis-ik/releases/
当前版本是:7.16.1
解压分词器后,改名为:analysis-ik,并且复制到文件夹:plugins
双击:bin\elasticsearch.bat
启动后9200和9300被占用,访问:http://localhost:9200/
官网的解释:What are ports 9200 and 9300 used for? - Elastic Tips and Common Fixes - Discuss the Elastic Stackhttps://discuss.elastic.co/t/what-are-ports-9200-and-9300-used-for/238578
翻译:
9200 是 HTTP 协议的 RESTful 接口。
9300 是 TCP 通讯端口,集群间和 TCP Client 都走的它。 TLS通道!
Kibana是一个开源的分析和可视化平台,设计用于和Elasticsearch一起工作。我们可以用Kibana来搜索,查看,并和存储在Elasticsearch索引中的数据进行交互。用来测试ElasticSearch的那些api非常方便。
Kibana的安装也一样很简单,访问https://www.elastic.co/cn/downloads/kibana,根据操作系统下载最新版本的压缩包即可,解压后找到bin/kibana.bat双击执行即可启动Kibana,Kibana默认的端口为5601,打开浏览器访问http://localhost:5601,如果启动过程中没有任何错误的话就可以看到界面了。我们主要使用Kibana的开发工具,即http://localhost:5601/app/kibana#/dev_tools。
Logstash 是一个开源数据收集引擎,具有实时流水线功能。Logstash 可以动态统一来自不同来源的数据,并将数据规范化为您选择的目的地。为各种高级下游分析和可视化用例清理和民主化您的所有数据。
虽然 Logstash 最初推动了日志收集方面的创新,但其功能远远超出了该用例。任何类型的事件都可以通过广泛的输入、过滤器和输出插件进行丰富和转换,许多本机编解码器进一步简化了摄取过程。Logstash 通过利用更多数量和种类的数据来加速您的洞察力。
虽然 kibana 提供了一些数据集供我们使用,为了加深对 logstash 的理解,我们导入 movielens
的电影数据集。
movielens 数据集的下载地址为:http://files.grouplens.org/datasets/movielens,进入该网页只
用下载 ml-latest.zip 数据即可,如下图所示:
将 ml-latest.zip 加压文件中的 movies.csv 文件拷贝到 logstash 的家(根)目录下;
再将 logstash 的 config 目录下新建名为 logstash.conf 的文件,文件内容如下: 文件放在bin目录下更方便
input {
file {
path => "C:/elasticsearch/logstash-7.16.1-windows-x86_64/logstash-7.16.1/movies.csv"
start_position => "beginning"
sincedb_path => "C:/elasticsearch/logstash-7.16.1-windows-x86_64/logstash-7.16.1/db_path.log"
}
}
filter {
csv {
separator => ","
columns => ["id","content","genre"]
}
mutate {
split => { "genre" => "|" }
remove_field => ["path", "host","@timestamp","message"]
}
mutate {
split => ["content", "("]
add_field => { "title" => "%{[content][0]}"}
add_field => { "year" => "%{[content][1]}"}
}
mutate {
convert => {
"year" => "integer"
}
strip => ["title"]
remove_field => ["path", "host","@timestamp","message","content"]
}
}
output {
elasticsearch {
hosts => "http://localhost:9200"
index => "movies"
document_id => "%{id}"
}
stdout {}
}
打开dos命令行,进入到 logstash 的 bin 目录下,执行如下命令导入 movielens 的数据集。
logstash.bat -f logstash.conf
3.2、查询movies数据进入到 kibana 的命令行页面,执行 GET _cat/indices验证数据是否成功导入
elasticsearch-head是一个第三方的提供操作elastic的数据可视化平台,功能也比较的丰富。
下载地址:远方/elasticsearch-head
4.1、配置相关的参考文档:
安装参考文档:elasticsearch-head的使用 - 仅此而已-远方 - 博客园
使用参考文档:_head插件对elasticsearch 索引文档的增删改查_CHEN的技术积累-CSDN博客_elasticsearch head 删除索引
安装方式在这里:
ElasticSearch Head
官网的文档写的比较清晰的,有三种方式:
1、head是node开发的,所以可以通过node启动、运行
2、也可以当做elastic的一个plugins
3、可以直接放到nginx等服务器下面,之后访问index.html即可
4.2、启动我这里是已经安装了node,所以直接通过node来启动,需要同学们自己安装node,并且在install的过程中可能会有问题,需要自行处理,网上有很多解决方案
1、打开cmd进入elasticsearch-head的文件夹,如:elasticsearch-head
2、执行 npm install
3、执行 grunt server
在浏览器访问http://localhost:9100,可看到如下界面,表示启动成功:
需要启动Elastic