Entrolltes Inferenznetz (unrolled inference network)
Ein iteratives Inferenzverfahren in einem energiebasierten oder probabilistischen Modell, in eine feste Schrittanzahl entrollt und end-to-end als Feed-forward-Netz trainiert; GANs vermeiden das durch Erzeugung in einem Vorwärtsdurchlauf.
Ein entrolltes Inferenznetz (auch entrolltes approximatives Inferenznetz) macht aus einem iterativen Inferenzverfahren ein neuronales Netz fester Tiefe. In energiebasierten oder probabilistischen Modellen wie Boltzmann-Maschinen kann Inferenz viele Mean-Field- oder Sampling-Schritte erfordern. Diese Schritte werden entrollt zu einer Schichtkette und mit Backpropagation end-to-end trainiert, etwa bei den Multi-Prediction Deep Boltzmann Machines von Goodfellow, Mirza, Courville und Bengio (2013) oder der empirischen Risikominimierung für graphische Modelle von Stoyanov, Ropson und Eisner (2011).
GANs umgehen dieses Muster: Der Generator bildet Rauschen in einem einzigen Vorwärtsdurchlauf auf eine Stichprobe ab, ohne bei Training oder Erzeugung eine lange Inferenzschleife zu laufen. Siehe den GAN-Artikel und tiefes Lernen für den weiteren Kontext.