Markow-Kette (Markov chain)
Ein Zufallsprozess, bei dem der nächste Zustand nur vom aktuellen abhängt; in ML Grundlage von MCMC-Stichproben, frühen n-Gramm-Sprachmodellen und langsamen iterativen Generatoren, die GANs vermeiden sollen.
Eine Markow-Kette ist ein Zufallsprozess mit der Markow-Eigenschaft: Der nächste Zustand hängt nur vom aktuellen ab, nicht von der gesamten Vergangenheit. Andrei Markow beschrieb solche Ketten bereits 1906; seine Analyse von Vokal- und Konsonantenfolgen in Puschkins Eugen Onegin (1913) ist ein klassisches frühes Beispiel.
Im maschinellen Lernen liegen Markow-Ketten dem MCMC-Verfahren und Generatoren wie Boltzmann-Maschinen und Deep Belief Networks zugrunde, die oft viele Sampling-Schritte brauchen und bei der Erzeugung langsam sind. Genau diese Kosten nennt das Paper von 2014 zu GANs als vermeidbaren Nachteil. Dieselbe Idee steckt auch in einfachen n-Gramm-Sprachmodellen und Textgenerierung Wort für Wort, wie in Claude Shannons Experimenten von 1948. Yoshua Bengio und Kollegen zeigten später, dass neuronale Netze Wort-Embeddings beim Vorhersagen des nächsten Worts lernen können (Artikel). Siehe den GAN-Artikel für den adversarialen Ansatz, der ohne Markow-Ketten auskommt.