Deep Belief Network (tiefes Glaubensnetz)

Tiefes neuronales Netz durch gieriges Stapeln eingeschränkter Boltzmann-Maschinen, danach Feinabstimmung per Backpropagation; Hinton et al. 2006 half, das tiefe Lernen wiederzubeleben.

Ein Deep Belief Network (DBN) ist ein tiefes neuronales Netz, trainiert durch gieriges Stapeln von eingeschränkten Boltzmann-Maschinen (RBMs) und anschließende Feinabstimmung mit Backpropagation. Geoffrey Hinton, Simon Osindero und Yee-Whye Teh veröffentlichten den schnellen Lernalgorithmus im Juli 2006 in Neural Computation; Hinton und Ruslan Salakhutdinov zeigten im selben Monat in Science eine starke Dimensionsreduktion.

DBNs bewiesen, dass tiefe Netze nach Jahren des Zweifels wieder trainierbar sind, und trugen zur Wiederbelebung des tiefen Lernens bei, die später durch ImageNet und AlexNet beschleunigt wurde. Spätere Systeme verzichteten oft auf Pretraining zugunsten von ReLU, GPUs und End-to-End-überwachtem Lernen. Siehe den Artikel und den Zeitleisten-Eintrag.