4.6 Recurrent Neural Network - NerimanK/Cloud-Computing-Technology---Google-Home GitHub Wiki

Eine Schleife ermöglicht die Weitergabe von Informationen von einem Schritt des Netzwerks zum nächsten. Diese Schleifen lassen wiederkehrende neuronale Netzwerke irgendwie geheimnisvoll erscheinen. Wenn Sie jedoch etwas mehr darüber nachdenken, stellt sich heraus, dass sie sich nicht so sehr von einem normalen neuronalen Netzwerk unterscheiden. Ein wiederkehrendes neuronales Netzwerk kann als mehrere Kopien desselben Netzwerks betrachtet werden, von denen jede eine Nachricht an einen Nachfolger weiterleitet. Überlegen Sie, was passiert, wenn wir die Schleife abrollen:

relu2

Die oben aufgeführte Abbildung zeigt ein ausgerollte Schleife eines rekurrenten neuronalen Netzes. Diese kettenartige Natur zeigt, dass wiederkehrende neuronale Netzwerke eng mit Sequenzen und Listen zusammenhängen. Sie sind die natürliche Architektur eines neuronalen Netzwerks, das für solche Daten verwendet werden kann. Es gibt dabei folgende Probleme die sich diese Netze stellen:

  • Spracherkennung
  • Mustererkennung
  • Sprachsynthese
  • Bilderkennung
  • Schrifterkennung
  • Steuerung komplexer Prozesse
  • Prognosen für komplexe Systeme
  • Frühwarnsysteme
  • Zeitreihenanalysen
  • maschinenbasiertes Übersetzen
  • Simulationen komplexer Systeme
  • biometrische Systeme
  • Wirtschaftsmodelle

Wesentlich für diese Erfolge ist die Verwendung von "LSTMs", einem sehr speziellen wiederkehrenden neuronalen Netzwerk, das für viele Aufgaben viel besser als die Standardversion funktioniert.