Sequenz-zu-Sequenz (Seq2Seq)
Neuronale Architektur, die eine Eingabesequenz auf eine Ausgabesequenz abbildet, oft mit Encoder und Decoder; das LSTM-Paper von 2014 setzte Übersetzungs-Benchmarks vor Transformern.
Sequenz-zu-Sequenz (Seq2Seq) behandelt Aufgaben, bei denen Eingabe und Ausgabe geordnete Sequenzen sind: maschinelle Übersetzung, Spracherkennung, Zusammenfassung und mehr. Typisch liest ein Encoder-Netz die Quelle, ein Decoder erzeugt das Ziel Schritt für Schritt.
Ilya Sutskever und Kollegen bei Google popularisierten 2014 tiefe LSTM-Encoder-Decoder für Übersetzung (Artikel). Spätere Systeme ergänzten Attention über Encoder-Zustände; der Transformer (Artikel) behielt Encoder-Decoder, ersetzte aber Rekurrenz durch Self-Attention in der maschinellen Sprachverarbeitung.