Netzarchitektur
Generell unterscheidet man zwischen zwei Arten von neuronalen Netzen. Dem Feed Forward Neural Network und dem Recurrent Neural Network.
Das Schaubild stellt die beiden Netztypen gegenüber. Das Feed Forward Neural Network (links) berechnet die Ausgabewerte, indem alle Layer der Reihenfolge nach durchlaufen werden. Das Recurrent Neural Network (rechts) bildet wiederkehrende Abhängigkeiten zwischen Neuronen. Durch die wiederkehrende Abhängigkeiten lassen sich zeitliche Abläufe und Perioden abbilden.
Generell sind beide Netze in zwei Schritte unterteilt. Die Forward Propagation beschreibt die Berechnung eines Eingabewerts zu einem Ausgabewert. Die Backpropagation geht in die entgegengesetzte Richtung und berechnet den Fehler der einzelnen Neuronen aufgrund der Abweichung zwischen dem berechneten Wert und dem korrekten Wert.