So installieren Sie den ELK-Stack (Elasticsearch, Logstash und Kibana) unter Ubuntu 20.04

Der Elastic Stack – bekannt als ELK (Elasticsearch, Logstash und Kibana) – ist eine leistungsstarke Open-Source-Plattform zur Analyse von Daten. Es bietet umfassende Funktionen zum Indizieren, Suchen, Überwachen und Analysieren von Daten in Echtzeit.

Der Elastic Stack kann lokal oder in der Cloud bereitgestellt werden. Es wird von Start-ups und großen Unternehmen gleichermaßen verwendet, einschließlich Netflix, Facebook, Goldman Sachs, The Guardian und Thomson Reuters.

Der Elastic Stack besteht aus drei Kernkomponenten:

  • Elasticsearch: Eine Such- und Analysemaschine, die Daten schnell indiziert und schnelle Suchergebnisse liefert.
  • Logstash: Ein Protokoll-Pipeline-Tool, das Protokolle aus mehreren Quellen sammelt, analysiert und speichert.
  • Kibana: Ein Tool zur Datenvisualisierung und -analyse, mit dem Sie Daten suchen, anzeigen, analysieren und teilen können.

Jede dieser Komponenten bietet einzigartige Funktionen und Vorteile.

Elasticsearch ist eine schnelle, skalierbare und benutzerfreundliche Such- und Analysemaschine, die Daten schnell indiziert und schnelle Suchergebnisse liefert. Es ist perfekt für Echtzeitanwendungen wie Website-Suche, Produktkataloge, Kundensupport und Sicherheitsereignisanalyse.

Logstash ist ein Protokoll-Pipeline-Tool, das Protokolle aus mehreren Quellen sammelt, analysiert und speichert. Es hilft Ihnen, Ihre Daten dorthin zu bringen, wo sie hin müssen, wenn sie dort hin müssen. Logstash kann auch verwendet werden, um Ihr System nahezu in Echtzeit zu überwachen, sodass Sie Probleme erkennen und beheben können, bevor sie schwerwiegend werden.

Kibana ist ein Datenvisualisierungs- und Analysetool, mit dem Sie Daten suchen, anzeigen, analysieren und teilen können. Mit Kibana können Sie schnell Einblicke in Ihre Daten gewinnen und sehen, wie Ihr Unternehmen abschneidet. Mit Kibana können Sie ganz einfach benutzerdefinierte Dashboards erstellen, damit Sie die für Sie wichtigsten Metriken verfolgen können.

Elastic Stack ist aus gutem Grund eine der beliebtesten Big-Data-Lösungen. Es ist einfach einzurichten, skalierbar und bietet eine Fülle von Funktionen zum Indizieren, Suchen, Überwachen und Analysieren von Daten.

Wenn Sie eine leistungsstarke Open-Source-Plattform für die Datenanalyse suchen, ist der Elastic Stack eine Überlegung wert.

ELK Stack wurde entwickelt, um es Entwicklern zu ermöglichen, Daten schnell in einen durchsuchbaren und analysierbaren Zustand zu bringen, ohne dass eine Armee von Beratern erforderlich ist. Benutzer können Daten aus einer beliebigen Quelle nehmen und Kibana und/oder Logstash verwenden, um die Daten in einer Zeitreihe zu visualisieren.

Elasticsearch ist eine verteilte, RESTful-Such- und Analyse-Engine, die Daten schnell indiziert und schnelle Suchergebnisse liefert. Es ist perfekt für Echtzeitanwendungen wie Website-Suche, Produktkataloge, Kundensupport und Sicherheitsereignisanalyse.

In diesem Tutorial führen wir Sie durch die Schritte zur Installation von Elastic Stack auf dem Ubuntu 20.04-Server.

Voraussetzungen

  • Minimale Installation von Ubuntu Server 20.04 LTS mit SSH-Zugriff und einem Nicht-Root-Benutzer mit sudo Privilegien.
  • Mindestens 4 GB RAM, 2 CPUs und 20 GB Festplattenspeicher verfügbar.

Aktualisieren des Systems

Es empfiehlt sich, Ihre Serverpakete auf dem neuesten Stand zu halten. Führen Sie den folgenden Befehl aus, um Ihren Repository-Cache zu aktualisieren:

sudo apt-Update && sudo apt-Upgrade -y

Führen Sie nach Abschluss des Updates den folgenden Befehl aus, um die erforderlichen Abhängigkeiten zu installieren.

sudo apt install wget apt-transport-https curl gnupg2 -y

Java installieren

Elasticsearch benötigt zur Ausführung Java. Ubuntu 2.04 wird mit Java 8 und Java 11 geliefert, aber einige Plugins sind möglicherweise nicht mit Java 11 kompatibel, daher werden wir Java 8 installieren.

Führen Sie den folgenden Befehl aus, um Java 8 auf Ihrem System zu installieren.

sudo apt install openjdk-8-jdk -y

Sobald die Installation abgeschlossen ist, können Sie die auf Ihrem System installierte Java-Version überprüfen, indem Sie den folgenden Befehl ausführen.

Java-Version

Die Ausgabe sollte ungefähr so ​​aussehen.

Elasticsearch installieren

Das standardmäßige Ubuntu 20.04-Repository enthält Elasticsearch nicht, kann jedoch problemlos mit APT installiert werden, nachdem das offizielle Elastic-Repository vom Elasticsearch-Entwicklerteam hinzugefügt wurde.

Laden Sie zuerst den öffentlichen Signaturschlüssel herunter (Elasticsearch macht dies automatisch) mit dem curl Befehl zum Überprüfen von Paketen. Pakete werden mit diesem Schlüssel signiert, um ihre Authentizität zu gewährleisten. Wir verwenden die -fsSL-Argumente, um anzugeben, dass curl dass wir den gesamten Fortschritt zum Schweigen bringen und cURL ermöglichen möchten, eine Anfrage an die angegebene URL zu senden.

curl -fsSL https://artifacts.elastic.co/GPG-KEY-elasticsearch | sudo apt-Schlüssel hinzufügen –

Sie erhalten eine OK-Meldung, wenn der Schlüssel erfolgreich hinzugefügt wurde.

Fügen Sie als Nächstes das Elasticsearch-Repository zu Ihrem System hinzu, indem Sie den folgenden Befehl ausführen. Wir werden elastische-7.x.list zum Verzeichnis sources.list.d hinzufügen. Das Verzeichnis sources.list.d ist ein spezielles Verzeichnis in Ubuntu, in dem Sie zusätzliche Quellen für Software hinzufügen können. Das APT-System verwendet diese Dateien, um verfügbare Pakete zu finden.

echo “deb https://artifacts.elastic.co/packages/7.x/apt stable main” | sudo tee -a /etc/apt/sources.list.d/elastic-7.x.list

Aktualisieren Sie dann Ihren Repository-Cache, um das neue Elasticsearch-Repository zu lesen.

sudo apt-Update

Jetzt können Sie Elasticsearch installieren, indem Sie den folgenden Befehl ausführen.

sudo apt install elasticsearch -y

Sobald die Installation abgeschlossen ist, müssen wir Elasticsearch konfigurieren. Die Datei /etc/elasticsearch/elasticsearch.yml ist die Hauptkonfigurationsdatei für alle Elasticsearch-Einstellungen. Der Parameter network.host definiert beispielsweise, an welche IP-Adresse oder welchen Hostnamen der Elasticsearch-Dienst gebunden werden soll.

Öffnen wir die Datei mit dem Nano-Texteditor.

sudo nano /etc/elasticsearch/elasticsearch.yml

Die meisten dieser Einstellungen sind vorkonfiguriert, Sie können sie jedoch an Ihre Bedürfnisse anpassen. In diesem example, wir ändern nur die Netzwerk-Host-Einstellung. Wir entkommentieren und ändern den host: in localhost, damit Elasticsearch auf jeder Schnittstelle lauschen kann. Wenn Sie eine bestimmte Schnittstelle verwenden möchten, können Sie localhost durch die spezifische IP-Adresse oder den Hostnamen ersetzen.

Vor:

Nach:

Wenn Sie mit den Änderungen fertig sind, speichern Sie die Datei, indem Sie STRG+X, Y und drücken Enter. Starten Sie nun Elasticsearch mit dem folgenden Befehl. Der Startvorgang kann einige Minuten dauern, seien Sie also geduldig.

sudo systemctl Elasticsearch starten

Führen Sie die folgenden Befehle aus, damit Elasticsearch beim Booten automatisch gestartet wird.

sudo systemctl aktivieren elastische Suche

Jetzt können Sie die Installation testen, indem Sie den folgenden Befehl ausführen.

curl -X GET “localhost:9200”

Sie sollten die folgende Antwort von Ihrem lokalen Knoten sehen.

Kibana installieren

Jetzt, da wir Elasticsearch eingerichtet und ausgeführt haben, können wir Kibana installieren. Kibana ist eine visuelle Schnittstelle für Elasticsearch, die es uns ermöglicht, unsere Daten zu durchsuchen und zu visualisieren.

Sie sollten das Kibana-Dashboard immer direkt nach der Installation des Elasticsearch-Servers installieren. Dadurch wird sichergestellt, dass alle Komponenten und Einstellungen des Elastic Stack richtig platziert sind.

Führen Sie den folgenden Befehl aus, um Kibana zu installieren.

sudo apt install Kibana -y

Sobald die Installation abgeschlossen ist, müssen wir Kibana konfigurieren. Die Datei /etc/kibana/kibana.yml ist die Hauptkonfigurationsdatei für alle Kibana-Einstellungen. Wie der Port, an den der Kibana-Dienst gebunden werden soll, definiert die Einstellung elasticsearch.url, auf welche Elasticsearch-URL Kibana verweisen soll, und andere Sicherheitseinstellungen.

Öffnen wir diese Datei mit dem Nano-Texteditor.

sudo nano /etc/kibana/kibana.yml

In diesem example, entkommentieren wir diese Zeilen: server.port, server.host und elasticsearch.hosts, damit Kibana auf die richtige Elasticsearch-URL verweist.

Vor der Bearbeitung:

Nach der Bearbeitung:

Speichern Sie nun die Datei, indem Sie STRG+X, Y und drücken Enter. Starten und aktivieren Sie nun Kibana mit dem folgenden Befehl.

sudo systemctl starte Kibana && sudo systemctl aktivieren Kibana

Öffnen Sie nun Ihren bevorzugten Webbrowser und rufen Sie die folgende URL auf.

https://localhost:5601/app/kibana#/home

Sie werden zum Kibana-Willkommensbildschirm weitergeleitet. Von hier aus können Sie Kibana verwenden. Wenn Sie den Fehler „Kibana-Server noch nicht bereit“ erhalten, geben Sie ihm ein paar Minuten Zeit, um zu starten. Oder stellen Sie sicher, dass sowohl Elasticsearch als auch Kibana betriebsbereit sind.

Filebeat installieren

Filebeat ist ein einfacher Log-Shipper, der Daten an Elasticsearch senden kann. Sie können Filebeat mit dem folgenden Befehl installieren.

sudo apt install filebeat -y

Sobald die Installation abgeschlossen ist, müssen Sie Filebeat konfigurieren. Die Datei /etc/filebeat/filebeat.yml ist die Hauptkonfigurationsdatei für alle Filebeat-Einstellungen.

Öffnen wir diese Datei mit dem Nano-Texteditor.

sudo nano /etc/filebeat/filebeat.yml

Entkommentieren Sie nun die Zeile output.logstash und die Zeile host wie unten gezeigt.

Vor der Bearbeitung:

Nach der Bearbeitung:

Speichern Sie nun die Datei, indem Sie STRG+X, Y und drücken Enter. Lassen Sie uns nun das Filebeat-Systemmodul aktivieren, die Indexvorlage laden und Filebeat mit Elasticsearch verbinden.

sudo filebeat-Module aktivieren System && sudo filebeat setup –index-management -E output.logstash.enabled=false -E ‘output.elasticsearch.hosts=[“localhost:9200”]’
sudo filebeat setup -E output.logstash.enabled=false -E output.elasticsearch.hosts=[‘localhost:9200’] -E setup.kibana.host=localhost:5601

Beispielausgabe:

Führen Sie als Nächstes den folgenden Befehl aus, um Filebeat zu starten und zu aktivieren.

sudo systemctl starte filebeat && sudo systemctl aktivieren filebeat

Führen Sie abschließend den folgenden Befehl aus, um zu überprüfen, ob Elasticsearch Daten von Filebeat empfängt:

curl -XGET ‘https://localhost:9200/filebeat-*/_search?pretty’

Sie sollten die gleichen Daten wie in der Abbildung unten sehen. Diese Ausgabe bestätigt, dass Filebeat Daten an Elasticsearch sendet.

Logstash installieren

Nachdem Sie Elasticsearch und Kibana erfolgreich eingerichtet haben, müssen Sie im letzten Schritt Logstash installieren.

Sie können Logstash mit dem folgenden Befehl installieren.

sudo apt install logstash -y

Sobald die Installation abgeschlossen ist, können Sie Logstash mit dem folgenden Befehl starten und aktivieren.

sudo systemctl starte logstash && sudo systemctl aktivieren logstash

Um zu überprüfen, ob Logstash betriebsbereit ist, können Sie den folgenden Befehl ausführen, um seinen Status zu überprüfen.

sudo systemctl status logstash

Sie erhalten die folgende Ausgabe.

Nachdem wir Logstash installiert haben, können Sie es nach Ihren Wünschen konfigurieren. Sie können sich auf den Logstash beziehen Dokumentation für mehr Informationen.

Wenn Sie mit der Konfiguration von Logstash fertig sind, kehren Sie zur Kibana-Weboberfläche zurück, die Sie im vorherigen Schritt in Ihrem Webbrowser geöffnet haben. Von dort aus können Sie mit der Verwaltung und Visualisierung Ihrer Daten beginnen. Herzliche Glückwünsche! Sie haben den Elastic Stack nun erfolgreich auf Ihrem Ubuntu 20.04-Server installiert.

Abschluss

In diesem Tutorial haben Sie erfahren, wie Sie Elasticsearch, Kibana und Logstash auf einem Ubuntu 20.04-Server installieren. Außerdem haben Sie gelernt, wie Sie alle drei Komponenten so konfigurieren, dass sie miteinander kommunizieren.

Hinterlassen Sie Ihre Kommentare, Vorschläge und Fragen unten. Wenn Ihnen dieser Artikel in irgendeiner Weise geholfen hat, klicken Sie bitte auf die Teilen-Schaltflächen oben auf dieser Seite, um ihnen zu helfen.