Réseau d'inférence déroulé (unrolled inference network)
Une procédure d'inférence itérative dans un modèle énergétique ou probabiliste, déroulée en un nombre fixe d'étapes et entraînée de bout en bout comme réseau feed-forward ; les GAN l'évitent en générant en une seule passe avant.
Un réseau d’inférence déroulé (ou réseau d’inférence approximative déroulé) transforme une procédure d’inférence itérative en réseau de neurones de profondeur fixe. Dans des modèles énergétiques ou probabilistes comme les machines de Boltzmann, l’inférence peut exiger de nombreux pas de champ moyen ou d’échantillonnage. Ces pas sont déroulés en une chaîne de couches et entraînés de bout en bout par rétropropagation, comme dans les deep Boltzmann machines à prédictions multiples de Goodfellow, Mirza, Courville et Bengio (2013) ou la minimisation empirique du risque pour modèles graphiques de Stoyanov, Ropson et Eisner (2011).
Les GAN évitent ce schéma : le générateur transforme du bruit en échantillon en une seule passe avant, sans boucle d’inférence longue à l’entraînement ou à la génération. Voir l’article sur les GAN et l’apprentissage profond pour le contexte plus large.