neuronales Netzwerk

• Muster erkennen.

• Z. B. Bilder unterscheiden, Sprache verstehen, Texte schreiben, Vorhersagen treffen.

Das Netzwerk „schiebt“ den Fehler rückwärts durch alle Schichten und berechnet dabei, wie viel jedes Gewicht zum falschen Ergebnis beigetragen hat.Diese Information nutzt es, um alle Gewichte proportional zu diesem Beitrag anzupassen.

Gradient Descent nutzt die Cost Function, um die Richtung zu bestimmen, in der der Fehler am schnellsten abnimmt. Dann werden alle Gewichte ein kleines Stück in diese Richtung verändert, sodass der Gesamtfehler Schritt für Schritt minimiert wird.

• Neuronen (Knoten)

• Parameter: Gewichte (w), Biases (b)

• Schichten (Input, Hidden Layer, Output)

• Aktivierungsfunktion

Berechnet eine gewichtete Summe der Eingaben und transformiert sie über eine Aktivierungsfunktion.

• ein skalarer Parameter, die festlegen, wie stark ein Eingangssignal wirkt. (bilden den Kern der Lernkapazität des Modells.)

• zusätzlicher Parameter, der die Aktivierungsschwelle verschiebt, sodass die gewichtete Summe nicht immer durch 0 geht

• er ermöglicht dem Neuron, selbst dann zu "feuern" (aktiv zu werden), wenn alle Eingaben Null sind

• kann sich besser an Trainingsdaten anpassen

• führt Nichtlinearität in das Netzwerk ein

• ohne Aktivierungsfunktionen würden auch tiefere Netzwerke mit vielen Schichten nur eine komplizierte lineare Transformation der Eingabe durchführen (meisten Datenmuster sind nicht-linear)

• Durch die Anwendung einer nicht-linearen Funktion (wie ReLU, Sigmoid oder Tanh) können neuronale Netzwerke nicht-lineare Beziehungen und komplexe Muster in den Daten erlernen