ElasticSearch

Elasticsearch 史上最全最常用工具清單

Google+ Pinterest LinkedIn Tumblr

1、題記

工欲善其事必先利其器,ELK Stack的學習和實戰更是如此,特將工作中用到的「高效」工具分享給大家。

希望能借助「工具」提高開發、運維效率!

2、工具分類概覽

2.1 基礎類工具

1、Head外掛

1)功能概述:

ES叢集狀態檢視、索引資料檢視、ES DSL實現(增、刪、改、查操作)
比較實用的地方:json串的格式化

Elasticsearch 史上最全最常用工具清單

2)地址: http://mobz.github.io/elasticsearch-head/

2、Kibana工具

除了支援各種資料的視覺化之外,最重要的是:支援Dev Tool進行RESTFUL API增刪改查操作。
——比Postman工具和curl都方便很多。

Elasticsearch 史上最全最常用工具清單

地址: https://www.elastic.co/products/kibana

3、ElasticHD工具

強勢功能——支援sql轉DSL,不要完全依賴,可以借鑑用。

Elasticsearch 史上最全最常用工具清單

地址: https://github.com/360EntSecGroup-Skylar/ElasticHD

2.2 叢集監控工具

4、cerebro工具

Elasticsearch 史上最全最常用工具清單

地址:
https://github.com/lmenezes/cerebro

5、Elaticsearch-HQ工具

管理elasticsearch叢集以及通過web介面來進行查詢操作

Elasticsearch 史上最全最常用工具清單

地址: https://github.com/royrusso/elasticsearch-HQ

2.3 叢集遷移工具

6、Elasticsearch-migration工具

支援多個版本間的資料遷移,使用scroll+bulk

地址: https://github.com/medcl/elasticsearch-migration

7、Elasticsearch-Exporter

將ES中的資料向其他匯出的簡單指令碼實現。

地址: https://github.com/mallocator/Elasticsearch-Exporter

8、Elasticsearch-dump

移動和儲存索引的工具。

地址: https://github.com/taskrabbit/elasticsearch-dump

2.4 叢集數據處理工具

9、elasticsearch-curator

elasticsearch官方工具,能實現諸如資料只保留前七天的資料的功能。

地址: https://pypi.python.org/pypi/elasticsearch-curator

另外 ES6.3(還未上線)  有一個 Index LifeCycle Management 可以很方便的管理索引的儲存期限。

2.5 安全類工具

10、x-pack工具

Elasticsearch 史上最全最常用工具清單

地址: https://www.elastic.co/downloads/x-pack

11、search-guard 第三方工具

Search Guard  是 Elasticsearch 的安全外掛。它為後端系統(如LDAP或Kerberos)提供身份驗證和授權,並向Elasticsearch新增稽覈日誌記錄和文件/欄位級安全性。

Search Guard所有基本安全功能(非全部)都是免費的,並且內建在Search Guard中。  Search Guard支援OpenSSL並與Kibana和logstash配合使用。

地址: https://github.com/floragunncom/search-guard

2.6 視覺化類工具

12、grafana工具

Elasticsearch 史上最全最常用工具清單

地址: https://grafana.com/grafana

grafana工具與kibana視覺化的 區別

  1. 如果你的業務線資料較少且單一,可以用kibana做出很棒很直觀的資料分析。

  2. 而如果你的資料來源很多並且業務線也多,建議使用grafana,可以減少你的工作量

對比: https://www.zhihu.com/question/54388690

Elasticsearch 史上最全最常用工具清單

2.7 自動化運維工具

elasticsearch免費的自動化運維工具

13、Ansible

https://github.com/elastic/ansible-elasticsearch

14、Puppet

https://github.com/elastic/puppet-elasticsearch

15、Cookbook

https://github.com/elastic/cookbook-elasticsearch

以上三個工具來自medcl大神社羣問題的回覆,我沒有實踐過三個工具。

2.8 類SQl查詢工具

16、Elasticsearch-sql 工具

sql 一款國人NLP-china團隊寫的通過類似sql語法進行查詢的工具

地址: https://github.com/NLPchina/elasticsearch-sql

ES6.3+以後的新版本會整合sql。

2.9 增強類工具

17、Conveyor 工具

kibna外掛——圖形化資料匯入工具

地址:http://t.cn/REOhwGT

18、kibana_markdown_doc_view 工具

Kibana文件檢視強化外掛,以markdown格式展示文件

地址:http://t.cn/REOhKgB

19、 indices_view工具

indices_view 是新蛋網開源的一個 kibana APP 外掛專案,可以安裝在 kibana 中,快速、高效、便捷的檢視elasticsearch 中 indices 相關資訊

地址: https://gitee.com/newegg/indices_view

20、dremio 工具

Elasticsearch 史上最全最常用工具清單
Elasticsearch 史上最全最常用工具清單

支援sql轉DSL,

支援elasticsearch、mysql、oracle、mongo、csv等多種格式視覺化處理;

支援ES多表的Join操作

地址:https://www.dremio.com/

2.10 報警類

21、elastalert
ElastAlert 是 Yelp 公司開源的一套用 Python2.6 寫的報警框架。屬於後來 Elastic.co 公司出品的 Watcher 同類產品。

官網地址: http://elastalert.readthedocs.org/

使用舉例:當我們把ELK搭建好、病順利的收集到日誌,但是日誌裡發生了什麼事,我們並不能第一時間知道日誌裡到底發生了什麼,運維需要第一時間知道日誌發生了什麼事,所以就有了ElastAlert的郵件報警。

22、sentinl
SENTINL 6擴充套件了Siren Investigate和Kibana的警報和報告功能,使用標準查詢,可程式設計驗證器和各種可配置操作來監控,通知和報告資料系列更改 – 將其視為一個獨立的「Watcher」 「報告」功能(支援PNG / PDF快照)。

SENTINL還旨在簡化在Siren Investigate / Kibana 6.x中通過其本地應用程式介面建立和管理警報和報告的過程,或通過在Kibana 6.x +中使用本地監視工具來建立和管理警報和報告的過程。

官網地址: https://github.com/sirensolutions/sentinl

3、小結

突然想起魯迅先生筆下的孔乙己「茴香豆的茴字有幾種寫法?」

管幾種寫法,適合自己的工具纔是最好的!

http://t.cn/RB4MVZ0

Elasticsearch 史上最全最常用工具清單

加入知識星球,更短時間更快習得更多幹貨!

TechRoomage 為收集網路上各大新聞網站最新資訊,提供新聞的聚合類網站,本站不擁有這些文章之著作權,若有違反您的權益,歡迎來信 [email protected],我們將盡速幫您移除疑似侵權文章。

Write A Comment