wake-up-neo.com

Was ist der Unterschied zwischen dem Backpropagation und dem neuronalen Vorwärtskopplungsnetzwerk?

Was ist der Unterschied zwischen Rückwärtsausbreitung und neuronalen Feedforward-Netzwerken?

Durch Googeln und Lesen habe ich herausgefunden, dass es in Vorwärtsrichtung nur Vorwärtsrichtung gibt, aber bei Rückwärtsausbreitung müssen wir eine Vorwärtsausbreitung und dann eine Rückwärtsausbreitung durchführen. Ich erwähnte diesen Link

  1. Jeder andere Unterschied als die Strömungsrichtung? Was ist mit der Gewichtsberechnung? Das Ergebnis? 
  2. Angenommen, ich implementiere eine Rückwärtsausbreitung, d. H. Sie enthält Vorwärts- und Rückwärtsfluß. Ist die Rückwärtsausbreitung also ausreichend, um Vorwärtsbewegung zu zeigen?
25
  • Ein Feed-Forward Neural Network ist eine Art Architektur für ein neuronales Netzwerk , bei der die Verbindungen "vorwärtsgespeist" werden, dh nicht Formzyklen (wie in wiederkehrenden Netzen).

  • Der Begriff "Feed Forward" wird auch verwendet, wenn Sie etwas auf der Eingabeebene eingeben und es fährt von Eingabe zu versteckt und von versteckt zu Ausgabeebene.
    Die Werte werden "weitergeleitet" .

Beide Verwendungen des Ausdrucks "Feed Forward" stehen in einem Zusammenhang, der nichts mit dem Training an sich zu tun hat.

  • Backpropagation ist ein Trainingsalgorithmus bestehend aus 2 Schritten: 1) Feed forward die Werte 2) berechnen den Fehler und verbreiten ihn zurück zu den früheren Schichten. Um genau zu sein, ist die Vorwärtsausbreitung Teil des Algorithmus für die Rückwärtsausbreitung , kommt jedoch vor der Rückwärtsausbreitung.
55
runDOSrun

Es gibt kein reines Backpropagation oder reines Feedforward-Neuralt-Netzwerk.

Backpropagation ist ein Algorithmus zum Trainieren (Anpassen des Gewichts) des neuronalen Netzwerks . Die Eingabe für die Backpropagation ist output_vector, target_output_vector,

Feed-Forward ist ein Algorithmus zum Berechnen des Ausgangsvektors aus dem Eingangsvektor . Die Eingabe für das Feed-Forward ist input_vector, Die Ausgabe ist output_vector.

Wenn Sie ein neuronales Netzwerk trainieren, müssen Sie beide Algorithmen verwenden.

Wenn Sie ein neuronales Netzwerk verwenden (das trainiert wurde), verwenden Sie nur Vorwärtskopplungen.

Der Bacis-Typ eines neuronalen Netzwerks ist ein mehrschichtiges Perzeptron, das ein neuronales Feedforward-Backpropagation-Netzwerk ist.

Es gibt auch fortgeschrittenere Typen neuronaler Netzwerke, die modifizierte Algorithmen verwenden.

Auch eine gute Quelle zum Lernen: ftp://ftp.sas.com/pub/neural/FAQ.html Am besten versteht man das Prinzip (Programm in diesem Video) https: // www.youtube.com/watch?v=KkwX7FkLfug

9
user4545181

Neuronale Netze können unterschiedliche Architekturen haben. Die Verbindungen zwischen ihren Neuronen bestimmen die Richtung des Informationsflusses. Abhängig von den Netzwerkverbindungen werden sie als - Feed-Forward und Recurrent (rückwärts propagierend) kategorisiert.

Feed Forward Neuronale Netze

In diesen Typen von neuronalen Netzwerken fließt Information nur in eine Richtung, d. H. Von der Eingabeschicht zur Ausgabeschicht. Wenn die Gewichte einmal festgelegt sind, werden sie normalerweise nicht geändert. Man entscheidet entweder explizit über Gewichtungen oder verwendet Funktionen wie Radial Basis Function, um Gewichtungen festzulegen. Die Knoten erledigen hier ihre Arbeit, ohne zu wissen, ob die erzielten Ergebnisse genau sind oder nicht (d. H. Sie passen sich nicht entsprechend dem erzeugten Ergebnis an). Es gibt keine Kommunikation von den nächsten Schichten zurück.

Wiederkehrende neuronale Netze (Back-Propagating)

Die Informationen werden von der Eingabeebene zur Ausgabeebene weitergeleitet, um ein Ergebnis zu erhalten. Ein Fehler im Ergebnis wird jetzt an die vorherigen Ebenen zurückgemeldet. Knoten erfahren, wie viel sie dazu beigetragen haben, dass die Antwort falsch war. Gewichte werden neu eingestellt. Neuronales Netzwerk wird verbessert. Es lernt. Es gibt bidirektionalen Informationsfluss. Dies hat im Wesentlichen beide Algorithmen implementiert, Vorwärts- und Rückwärtsausbreitung.

2