Cadena de Márkov (Markov chain)

Un proceso aleatorio en el que el siguiente estado depende solo del actual; en ML, base del muestreo MCMC, modelos n-grama tempranos y generadores iterativos lentos que las GAN evitan.

Una cadena de Márkov es un proceso aleatorio con la propiedad de Markov: el siguiente estado depende solo del presente, no de todo el historial. Andrei Markov describió tales cadenas en 1906; su estudio de 1913 de patrones de vocales y consonantes en Eugenio Oneguin de Pushkin es un ejemplo clásico temprano.

En el aprendizaje automático, las cadenas de Márkov sustentan el procedimiento MCMC y modelos generativos como máquinas de Boltzmann y redes de creencia profunda, que suelen necesitar muchos pasos de muestreo y son lentos al generar. Ese coste es una razón por la que el artículo de GAN de 2014 destaca entrenar sin cadenas de Márkov. La misma idea impulsa simples modelos de lenguaje n-grama (modelos de lenguaje) y la generación de texto palabra a palabra, como en los experimentos de Claude Shannon de 1948. Yoshua Bengio y sus colegas mostraron más tarde que las redes neuronales podían aprender embeddings de palabras al predecir la siguiente palabra (artículo). Véase el artículo sobre GAN para el enfoque adversario que prescinde de cadenas de Márkov.