Markov Chain Neural Networks

// Elektronik und Elektrotechnik // Informations- und Kommunikationstechnik // Nachrichtentechnik // Software
Ref-Nr: 16651

Einleitung / Abstract

Die Erfindung beschreibt eine effiziente Methode wie man Neuronale Netze von einem deterministischen Verhalten zu einem nicht-deterministischen Verhalten modifiziert. Das nicht-deterministische Verhalten soll aber weiterhin für den Anwender trainierbar und beherrschbar bleiben.

Abb. 1: Ausführungsbeispiel eines künstlichen Neuronalen Netzes

Abb. 2: Satz Trainingsdaten und zufällige Ausgabe in Abhängigkeit der Pseudo-Zufallszahl Z und Satz gelernter Trainingsdaten

Hintergrund

(Tiefe) Neuronale Netze sind Stand der Technik. Sie können beliebige Funktionen lernen, die zu einer gegebenen Eingabe eine entsprechende Ausgabe erzeugen. Man spricht dabei von deterministischen Funktionen, da zu jeder Eingabe eine gewünschte (eindeutige) Ausgabe festgelegt wird. Diese wird üblicherweise durch Trainingsdaten erzeugt.

Problemstellung

Durch die festgelegten Ein- und Ausgänge sind deterministische Systeme berechenbar. Dies führt bspw. bei Computerspielen zu einem begrenzten und vorhersehbaren Handlungsspielraum.

Lösung

Nicht-deterministische Systeme sind Systeme, bei denen man für eine Eingabe, die Ausgabe nicht vorhersehen kann. Gegenüber z.B. "stochastic neural networks", wo die Ausgabe durch ein Verrauschen der Aktivierungsfunktion zufällig erzeugt wird oder Ansätzen, aus Eingabedaten eine Verteilungsfunktion abzuleiten um von dort ein Beispiel abzutasten, sieht der erfindungsgemäße Ansatz vor, im ersten Schritt eine Verteilungsfunktion möglicher Ausgaben offline aus den Trainingsdaten zu bestimmen. Mit einem zusätzlichen Eingabewert (Z), der zufällig gezogen und als Schalterneuron genutzt wird, wird in einem zweiten Schritt ein neuronales Netz trainiert, welches die Verteilungsfunktion der Eingabedaten respektiert und in der Testphase ein nicht-deterministisches Verhalten über das Schalterneuron erzeugen kann. In den Abbildungen 1 und 2 ist ein Ausführungsbeispiel eines künstlichen Neuronalen Netzes für einen konkreten Anwendungszweck dargestellt. So lassen sich z.B. Random Walker Modelle mit neuronalen Netzen abbilden, Chat Bots und automatisierte Text-Synthese umsetzen oder neuartige KIs für Spiele programmieren, welche nicht vorhersehbares Verhalten z.B. für ein Reinforcement Learning oder natürliche Mensch-Maschine-Interaktion erzeugen.

Vorteile

Besseres Trainingsverhalten und bessere Generalisierung Es können Anwendungsfelder (stochastische Prozesse) adressiert werden, die bisher mit Neuronalen Netzen nicht simulierbar waren. Erzeugung nicht-deterministischer Aussagen

Anwendungsbereiche

Anwendungsgebiete sind u.a. Machine Learning, Deep Learning und Neuronale Netze. Neuronale Netze sind Kernbestandteil von Digitalisierung, Industrie 4.0 und Big Data Analysis.

Sie können dieses Fenster schließen. Ihre Suchergebnisse finden Sie in dem vorherigen Fenster.

Top
EZN - Navigation