Red de creencia profunda (deep belief network)

Red neuronal profunda construida apilando máquinas de Boltzmann restringidas de forma codiciosa y ajustándola con retropropagación; Hinton et al. 2006 ayudó a reactivar el aprendizaje profundo.

Una red de creencia profunda (DBN) es una red neuronal profunda entrenada apilando con codicia máquinas de Boltzmann restringidas (RBMs) capa a capa y luego ajustando la pila con retropropagación. Geoffrey Hinton, Simon Osindero y Yee-Whye Teh publicaron el algoritmo rápido en Neural Computation en julio de 2006; Hinton y Ruslan Salakhutdinov demostraron una reducción de dimensionalidad potente en Science el mismo mes.

Las DBN mostraron que las redes profundas podían entrenarse de nuevo tras años de escepticismo, ayudando al renacimiento del aprendizaje profundo acelerado después por ImageNet y AlexNet. Sistemas posteriores a menudo omitieron el preentrenamiento a favor de ReLU, GPUs y aprendizaje supervisado de extremo a extremo. Véase el artículo y la entrada de la cronología.