Microservices und Neuronale Netze: Eine Analyse

Künstliche Intelligenz (KI) und insbesondere Deep Learning sind in aller Munde. Die Diskussion um die gesellschaftlichen Auswirkungen dominiert, wobei die Meinungen zwischen Utopie und Horrorszenarien schwanken. In dieser Debatte gerät oft in Vergessenheit, was sich hinter den Begriffen KI und Deep Learning verbirgt. Dieser Artikel beleuchtet den Aufbau und die Funktionsweise künstlicher neuronaler Netze (KNN) und geht auf die Herausforderungen ein, insbesondere den "Black-Box"-Charakter. Zudem wird die Integration von Analyseservices in Microservice-Architekturen betrachtet.

Einführung in Neuronale Netze

Neuronale Netze sind ein Teilgebiet der KI, inspiriert von biologischen neuronalen Netzen, deren Funktionsweise durch mathematische Modelle abgebildet wird. Sie bestehen aus Schichten miteinander verknüpfter Neuronen. KNN sind in der Lage, Aufgaben computerbasiert zu lösen, sie lassen sich für bestimmte Aufgaben trainieren und lernen maschinell komplexe Zusammenhänge. Moderne Large Language Models (LLM) wie GPT-3 oder GPT-4 verwenden KNN und haben erstaunliche sprachliche Fähigkeiten. Neuronale Netze lassen sich nicht nur für Natural Language Processing (NLP), sondern auch für andere Aufgaben wie Bilderkennung, Robotik oder Prognosenerstellung einsetzen.

Grundlegender Aufbau und Funktionsweise

Biologische Nervensysteme bestehen aus Neuronen und sind zur Informationsübertragung über Synapsen mit anderen Zellen verknüpft. Diesen Aufbau übernehmen KNN in abstrahierter Form. Neuronen eines KNN nehmen externe Informationen oder Informationen anderer Neuronen entgegen und geben sie in modifizierter Form weiter. Grundsätzlich wird zwischen der Eingabeschicht, der verborgenen Schicht und der Ausgabeschicht unterschieden. Die Verbindungen der Neuronen werden als Kanten bezeichnet. Ein KNN nimmt Informationen über die Input-Neuronen auf, verarbeitet diese Informationen und gibt sie an die nächste Neuronenschicht weiter. In der Zwischenschicht werden die Informationen weiter analysiert, Verbindungen gewichtet und an weitere verborgene Neuronenschichten weitergegeben. Über Parameter wie die Gewichtungen der Kanten oder Schwellwerte können Neuronen sich gegenseitig unterschiedlich stark beeinflussen. Schließlich gelangen die Informationen zur Ausgabeschicht, die das Endergebnis der Informationsverarbeitung liefert. Die "Intelligenz" und das "Wissen" eines KNN besteht letztendlich aus den vielen unterschiedlich eingestellten Parametern der Neuronen und ihrer Verknüpfungen.

Verschiedene Arten neuronaler Netze

Es existieren verschiedene Arten neuronaler Netze und Kombinationen dieser Netze. Ausgehend vom Perzeptron, das in seiner einfachsten Form aus einem einzigen Neuron besteht, ist eine grundsätzliche Unterscheidung zwischen Feedforward-Netzen und rekurrenten Netzen möglich.

• Feedforward-Netze: Informationen fließen immer nur vorwärtsgerichtet von den Eingabeneuronen über die Zwischenneuronen zu den Ausgabeneuronen.
• Rekurrente Netze: Ein Informationsfluss ist auch in umgekehrter Richtung möglich. Dadurch lassen sich Rückkopplungsschleifen für eine erneute Informationsverarbeitung und eine Art von Gedächtnis bilden.

Neben diesen beiden Grundarten gibt es weitere Arten künstlicher neuronaler Netze wie:

Lesen Sie auch: Die Kraft der Walnüsse

• Konvolutionale neuronale Netze (CNN): Besitzen eine Schicht, mit der sie Faltungsoperationen auf Eingangsinformationen anwenden können. Typischer Einsatzbereich ist die Bilderkennung.
• Neuronale Netze mit Long Short-Term Memory (LSTM): Besitzen ein "langes Kurzzeitgedächtnis". Neuronen haben eine Form von Gedächtnisfunktion, mit dem sich das Trainingsverhalten steuern lässt. Anwendungsbereich solcher Netze ist beispielsweise die Textverarbeitung.
• Neuronale Netze mit Transformer-Architektur (Transformer): Sind mit einem Selbstaufmerksamkeitsmechanismus (Self-Attention-Mechanismus) und einer Folge von Encodern und Decodern ausgestattet. Dieser Mechanismus setzt einen Teil der Eingangsinformationen (zum Beispiel ein Wort oder ein Pixel) mit weiteren Teilen der Eingangsinformationen in Bezug. Viele der großen Sprachmodelle basieren auf der Transformer-Architektur.

Training neuronaler Netzwerke und Lernverfahren

Damit ein neuronales Netz für eine bestimmte Aufgabe eingesetzt werden kann, wird es zunächst trainiert. Während des Trainings werden Parameter festgelegt und zum Beispiel die Verbindungen zwischen den Neuronen gewichtet oder Schwellwerte eingestellt. Das KNN verarbeitet während des Trainings Wissen und Erfahrungen aus dem Lernmaterial und entwickelt seine "Intelligenz".

Beim Lernvorgang unterscheidet man zwischen überwachtem und unüberwachtem Lernen.

• Überwachtes Lernen: Die Ergebnisse für die verschiedenen Eingabemöglichkeiten sind vorgegeben. Durch ständigen Vergleich zwischen dem vorgegebenen und dem selbst generierten Ergebnis lernt das neuronale Netz, die Neuronenverbindungen richtig zu gewichten und Schwellwerte passend einzustellen.
• Unüberwachtes Lernen: Kein Ergebnis ist vorgegeben. Das neuronale Netz lernt durch Muster, die es in den Eingabeinformationen identifiziert, und die Anwendung von Lernregeln.
• Bestärkendes Lernen (Reinforced Learning): Erzielt seine Ergebnisse in einer Art von Trial-and-Error-Verfahren und auf Basis von positivem oder negativem Feedback seiner Umgebung.

Anwendungsbereiche

Für KNN gibt es eine Vielzahl an Anwendungsbereiche. Typischer Einsatzbereich ist die Verarbeitung großer, wenig strukturierter oder unstrukturierter Eingabeinformationen, wie beispielsweise die Bild- und Sprachverarbeitung. Mit nur geringem vorhandenem systematischen Problemlösungswissen lassen sich konkrete Ergebnisse erzielen. Neuronale Netze erstellen Vorhersagen, simulieren Abläufe oder finden komplexe Zusammenhänge. Zu den Anwendungsbereichen neuronaler Netze und KI zählen unter anderem:

• Natural Language Processing (NLP)
• Bildverarbeitung und Bilderkennung
• Mustererkennung
• Steuerung komplexer Abläufe
• Prognosenerstellung
• Zeitreihenanalysen
• Wirtschaftsanalysen
• Medizinische Diagnostik
• Digitale Assistenten
• Robotik
• Autonomes Fahren

Die "Black Box" Problematik neuronaler Netze

Einer der größten Vorteile des Deep Learnings - die enorme Komplexität neuronaler Netze und damit verbunden auch ihre Fähigkeit zur Approximation beliebig komplexer Funktionen - ist gleichzeitig auch einer der größten Kritikpunkte. Tiefe neuronale Netze sind eine Black Box, da die von ihnen gelernten Zusammenhänge und Datenrepräsentationen so komplex und abstrakt sind, dass Menschen sie nicht mehr nachvollziehen können. Dies liegt daran, dass Black-Box-Modelle nicht transparent sind. Transparenz kann grundsätzlich auf drei unterschiedliche Ebenen bezogen sein:

• Modell-Ebene (Simulierbarkeit): Ein Mensch kann alle Rechenschritte des Modells in angemessener Zeit auswerten.
• Komponenten-Ebene (Unterteilbarkeit): Alle Komponenten des neuronalen Netzes sind intuitiv verständlich.
• Algorithmischer Ebene (algorithmische Transparenz): Tiefe neuronale Netze haben in der Regel hochkomplexe Entscheidungsgrenzen.

Warum wollen wir neuronale Netze verstehen?

Die Frage, warum wir neuronale Netze überhaupt verstehen wollen, ist berechtigt. Müssen wir wissen, wie ein Netz entscheidet oder genügt es, den Black-Box-Charakter zu akzeptieren, solange neuronale Netze eine möglichst hohe Vorhersagegenauigkeit haben? Um diese Fragen zu beantworten, hilft es, einige Beispiele zu betrachten, bei denen die Erklärbarkeit neuronaler Netze zumindest wichtig, wenn nicht unerlässlich ist.

Lesen Sie auch: Gehirnvitamine: Ein detaillierter Überblick

• Qualitätssicherung in der Produktion: Werden für die Erkennung von Ausschuss neuronale Netze eingesetzt, kann es vorkommen, dass das Netz andere Entscheidungen trifft als beispielsweise ein Mitarbeiter in der Qualitätssicherung.
• Medizinische Anwendungen: Hier kann der Einsatz von KI Ärzte durch hochpräzise Vorhersagen bei der Diagnose von Krankheiten unterstützen und gleichzeitig helfen, menschlichen Fehlern vorzubeugen.

Microservices: Ein Lösungsansatz für Integrationsprobleme

Ein Weg, Integrationsprobleme zu lösen, kann die Implementierung von Analyseprozessen in Microservices sein. Diese lassen sich skalierbar und einfach wartbar anlegen. Ein Zugriff auf diese Microservices kann über eine REST-API erfolgen. So lassen sich beispielsweise in einer potenziellen Kundenanalyse Kundendaten JSON-basiert per API-Aufruf an den Analyseservice übermitteln. Im Ergebnis stellt der Analyseservice die Ergebnisse der Kundenanalyse pro Kunde wieder JSON-basiert bereit. Dies geschieht standardisiert und einfach integrierbar in eine bestehende Anwendungslandschaft.

Vorteile von Microservices

• Unabhängigkeit: Entwicklerteams können unabhängig voneinander arbeiten und müssen sich lediglich über das Format der API-Schnittstelle austauschen.
• Agilität: Die Erstellung von Services kann sehr schnell erfolgen, da die einzelnen Probleme nicht so komplex sind und somit die Teams schnell und unkompliziert arbeiten können.
• Skalierung: Durch die Aufsplittung in Services können rechenintensive Funktionen gezielt skaliert werden.
• Kompatibilität: Durch die einfache Kommunikation über Schnittstellen sind die Abhängigkeiten zwischen den Schnittstellen nur relativ gering.
• Resilienz: Sobald ein einzelner Service ausfällt, sind die anderen Services immer noch ansprechbar und die gesamte Software weiterhin erreichbar.

Herausforderungen bei der Einführung von Microservices

• Logging und Überwachung: Bei einer Microservice-Architektur muss ein zentrales Logging erst aufgebaut werden, ansonsten erhält man nur Informationen über die einzelnen Services.
• Testen: Das Testen des Systems wird durch die verteilte Architektur komplexer, weil eine Vielzahl von Services miteinander in Verbindung stehen.
• Latenz: Bei der Kommunikation zwischen den Services kann es zu Latenzen kommen, die das gesamte System verlangsamen.
• Migration: Bestehende Systeme lassen sich nur schwierig auf eine solche Architektur umziehen.

Technologie-Stack von Microservices

Der Technologie-Stack von Microservices bezieht sich auf die verschiedenen Komponenten, die zur Erstellung von Microservices-basierten Anwendungen verwendet werden.

• Programmiersprachen: Microservices können mit verschiedenen Programmiersprachen entwickelt werden, darunter Java, Python, Ruby, JavaScript und Go.
• Frameworks: Frameworks sind Werkzeuge, die eine Reihe von vordefinierten Funktionen bereitstellen, um die Entwicklung zu beschleunigen.
• Container: Container sind eine leichtgewichtige Alternative zu virtuellen Maschinen, die die Bereitstellung von Microservices in einer portablen und konsistenten Weise ermöglichen.
• Orchestrierungs-Tools: Orchestrierungstools helfen bei der Verwaltung und Bereitstellung von Services in einer verteilten Umgebung.
• API-Gateways: API-Gateways bieten einen zentralen Punkt für die Verwaltung des ein- und ausgehenden Datenverkehrs von Microservices.
• Datenbanken: Microservices können je nach ihren spezifischen Anforderungen verschiedene Arten von Datenbanken erfordern.
• Protokollierungs- und Überwachungswerkzeuge: Da Microservices in einer verteilten Umgebung bereitgestellt werden, sind Protokollierung und Überwachung von entscheidender Bedeutung, um sicherzustellen, dass sie reibungslos funktionieren.

Analyseservices: Inhouse oder in der Public Cloud

Analyseservices können sowohl Inhouse als auch in der Public Cloud ausgerollt und bereitgestellt werden. Vor allem für Dienste, die nicht so oft ausgeführt werden, aber viel Ressourcen wie CPU und Arbeitsspeicher benötigen, bietet sich ein Public-Cloud-Ansatz an. Dies ist zudem in aller Regel kostengünstiger und einfacher skalierbar. Hierbei gilt es jedoch für die Anwenderunternehmen, Aspekte wie Sicherheits- und Integrationsanforderungen separat zu beurteilen. Gängige Public-Cloud Anbieter wie Amazon Web Services (AWS) oder Microsoft Azure bieten an dieser Stelle ausgereifte Cloud-Umgebungen an.

Eine weitere Public-Cloud-basierte Lösungsmöglichkeit kann die Nutzung von Serverless Computing für diese Analyseservices sein. Hierbei bezahlen Anwender in der Regel nur pro Ausführung des Analyseprozesses. Um Skalierbarkeit sowie Ressourcenanforderungen kümmert sich der Cloud-Provider. Beispiele sind hierfür etwa AWS Lambda, Microsoft Azure Functions oder Google Cloud Functions. Die Herausforderungen liegen ähnlich wie beim allgemeinen Public Cloud Computing etwa Sicherheits- und Integrationsaspekte.

KI-gestütztes Auto-Scaling in Kubernetes

Die fortschreitende Cloud-Digitalisierung und die steigenden Anforderungen an hochverfügbare, skalierbare Anwendungen haben Kubernetes zu einem der führenden Container-Orchestratoren gemacht. Eines der zentralen Aspekte dieser Cloud-Umgebungen ist die automatische Skalierung von Clustern, um sich an den ständig ändernden Intensitäten der Ressourcensnachfragen anzupassen, indem sichergestellt wird, dass Ressourcen effizient genutzt werden und somit letztendlich auch die Betriebskosten optimiert werden. Diese automatische Skalierungsfunktion lässt sich traditionell mit einem einfachen Parametersatz anpassen, dieser arbeitet aber auf statischen Regeln oder einfachen Heuristiken, die häufig nicht optimal auf dynamische schwankenden Webanfragen reagieren können. Die wachsende technologische Entwicklung im Bereich der Künstliche Intelligenz (KI) eröffnet neue Möglichkeiten zur Optimierung von Auto-Scaling-Strategien, die auf die tatsächliche Variabilität eingehender Anfragen eingeht und zukünftige Anforderungen vorhersagen und seine Skalierungsstrategien adaptiv und in Echtzeit implementieren kann. Dadurch lassen sich grundlegend konkurrierende Mechanismen entwickeln, die sowohl durch ihre Effizienz als auch durch ihre Reaktionsgeschwindigkeit verlorene Anfragen deutlich reduzieren.

Lesen Sie auch: Walnüsse: Ein Superfood für Ihr Gehirn

Reaktive vs. Proaktive Skalierung

Insbesondere lassen sich die Ansätze in reaktive und proaktive Skalierung unterteilen, die jeweils unterschiedliche Herangehensweisen verfolgen.

• Reaktive Skalierung: Skalierungsentscheidungen werden basierend auf bereits gemessenen Lastwerten getroffen. Sobald die Last von CPU- oder Speichernutzung vordefinierte Schwellenwerte überschreiten, werden Instanzen entweder gestartet oder gestoppt. Nachteile dieses Verfahren bestehen in der Verzögerung, die geschieht, weil die Skalierung erst unmittelbar nach einem Lastszenario erfolgt und es dann einige Zeit dauert bis die zusätzlichen Ressourcen zur Verfügung stehen.
• Proaktive Skalierung: Basiert auf einer vorausschauenden Analyse der Lastentwicklung und bildet die Basis für den Einsatz von maschinellem Lernen in diesem Bereich. Hierbei können zukünftige Lastspitzen frühzeitig erkannt und rechtzeitig Ressourcen bereitgestellt werden, um Systemauslastungsmuster zu erkennen. Allerdings setzt diese Methode auf eine hohe Vorhersagegenauigkeit des verwendeten Modells voraus, da Fehlvorhersagen zu einer ineffizienten Ressourcennutzung führen.

Zeitreihenbasierte Vorhersagemodelle

Sie sind einer der am häufigsten untersuchten Methoden und dienen zur Verbesserung des Auto-Scaling-Prozesses. Basierend auf der Annahme, dass Workloads vorhersagbar und mustergesteuert sind, erwies es sich als besserer Ansatz im Gegensatz zum traditionellen Ansatz. Einige der etablierten Modelle sind:

• Auto Regressive Integrated Moving Average (ARIMA): Dieses am häufigsten verwendete Zeitreihenmodel analysiert Muster und ermöglicht die Vorhersage von zukünftigen Workload-Schwankungen und zeigt sich besonders leistungsfähig in stationären Zeitreihen.
• Exponential Smoothing (ES) und Double Exponential Smoothing (DES): Diese Methoden sind ebenfalls weit verbreitet und gewichten vergangene Daten exponentiell abnehmend, sodass neuere Werte einen stärkeren Einfluss auf zukünftige Prognosen haben.

Neuronale Netze und Deep Learning Verfahren im Kontext von Kubernetes Auto-Scaling

Sie haben sich als leistungsfähige Alternative insbesondere bei nicht-linearen und hochdynamischen Workloads gezeigt. In der Forschung werden auch hier mehrere Architekturen evaluiert:

• Long Short-Term Memory (LSTM)-Netzwerke: Diese rekurrenten neuronale Netze wurden speziell für die Modellierung von langfristigen Zeitreihen entwickelt und stellen sich damit als besonders geeignet für Kubernetes heraus, da sowohl kurzfristige als auch langfristige Workload-Abhängigkeiten erlernt werden können.
• Multilayer Perceptrons (MLP) und Convolutional Neural Networks: MLPs sind feedforward neuronale Netze, die in mehreren Schichten aus Neuronen organisiert sind. Obwohl CNNs traditionell für Bildverarbeitung eingesetzt werden, haben sie sich durch ihre Faltungsoperationen erwiesen auch Muster in Workload-Daten zu extrahieren und hochfrequente Ressourcen-Schwankungen zu erkennen.
• Ensemble-Methoden: Sie sind eine vielversprechende Strategie, die darin besteht, mehrere heterogene ML-Modelle wie zum Beispiel LSTM, ARIMA und Random Forest zu kombinieren und damit die Gesamtleistung zu verbessern.
• Reinforcement Learning (RL): Gewinnt zunehmend an Bedeutung in der Forschung, da es eine adaptive und selbst lernende Steuerung von Ressourcen ermöglicht.

Konzeption einer KI-basierten Auto-Scaling-Lösung

Für eine Umsetzung in Kubernetes ist eine Architektur erforderlich, die verschiedene Komponenten integriert, Lastdaten erfasst, analysiert und darauf basierend dynamische Scaling-Entscheidungen trifft. Dabei ist es erforderlich, dass Kubernetes-eigene Skalierungsmechanismen eng mit externen KI-gestützten Modellen arbeiten, um somit Ressourcen effektiv und adaptiv bereitzustellen. Ein typisches Implementierungskonzept besteht aus den folgenden Kernkomponenten:

• Datenquellen und Metrik-Sammlung: Eine zuverlässige Datenerfassung bildet die Basis für eine intelligente Skalierung. Kubernetes bietet hierfür integrierte Dienste wie den Metrics Server, welcher Echtzeit-CPU- und -Speicherwerte bereitstellt. Diese werden jedoch für eine tiefere Analyse von externen Monitoring-Systemen wie Prometheus genutzt und persistent gespeichert.
• Vorverarbeitung und Datenanalyse: Nach dem Erfassen der Metriken müssen diese für das maschinelle Lernen aufbereitet werden. Hierzu werden die Daten in zentralen Datenbanken gespeichert und anschließend Methoden der Datenbereinigung, Normalisierung und des Feature-Engineerings angewandt, um eine hohe Vorhersagegenauigkeit zu gewährleisten.
• Maschinelles Lernmodell: Die Lastprognose ist der Kern dieser Implementierung und kann durch verschiedene Algorithmen entweder in einem dedizierten Kubernetes-Pod oder als externer Machine-Learning-Service betrieben werden.
• Entscheidungs- und Steuerungsebene: Das trainierte Modell gibt Vorhersagen zur Systemlast aus, die nun in konkrete Skalierungsentscheidungen umgewandelt werden müssen. Hierfür kann ein Custom Controller oder ein Operator in Kubernetes implementiert werden, der dann entsprechende Kubernetes-API-Aufrufe basierend auf den Vorhersagen ausführt, um die Skalierung einzuleiten.

tags: #sind #microservices #neuronal