Recurrent Neural Networks introduce different type of cells — Recurrent cells. The first network of this type was so called Jordan network, when each of hidden cell received it’s own output with fixed delay — one or more iterations. Apart from that, it was like common FNN.

Eine weitere bedeutsame Erweiterung sind RNN. Während CNN besonders gut mit Daten umgehen können, die in (zwei) Dimensionen angeordnet sind, sind RNN auf sequentielle Daten spezialisiert. Daher sind diese Modelle besonders erfolgreich bei der Textverarbeitung. Eine der erfolgreichsten Implementationen von RNN ist das sog. long short-term memory (LSTM), welches am Istituto Dalle Molle di Studi sull'Intelligenza Artificiale (IDSIA) in Lugano entwickelt wurde. Die darauf basierenden Algorithmen werden heute in rund 3 Milliarden Smartphones täglich benutzt und betreiben u.a. die Spracherkennung und Übersetzung von Google sowie die Übersetzung bei Facebook.