Boltzmann-Maschine (Boltzmann machine)
Stochastisches neuronales Netz mit binären Einheiten und Energiefunktion aus der statistischen Physik; lernt verborgene Darstellungen, braucht zum Training aber meist langsames Sampling mit Markow-Ketten (MCMC).
Eine Boltzmann-Maschine ist ein neuronales Netz aus stochastischen binären Einheiten mit symmetrischen Verbindungen. Ihre Zustände folgen einer Energiefunktion und der Boltzmann-Verteilung aus der statistischen Physik. David Ackley, Geoffrey Hinton und Terrence Sejnowski veröffentlichten 1985 einen Lernalgorithmus; das Modell baut auf John Hopfields assoziativen Netzen auf und kann verborgene Darstellungen im unüberwachten Lernen lernen.
Das Training erfordert meist langes Sampling mit MCMC auf Basis von Markow-Ketten, was die Erzeugung verlangsamt. Eine eingeschränkte Boltzmann-Maschine (RBM) verbietet Verbindungen innerhalb einer Schicht. Geoffrey Hinton veröffentlichte 2002 mit Contrastive Divergence einen schnelleren Trainingsansatz, der RBMs praktikabel machte und später Deep Belief Networks ermöglichte. Siehe den Artikel und den Zeitleisten-Eintrag.