Retropropagación (Backpropagation)
Algoritmo que entrena redes neuronales propagando el error de la salida hacia atrás por las capas y calculando cuánto contribuyó cada peso a ese error; base del entrenamiento por descenso del gradiente.
La retropropagación es un algoritmo de entrenamiento para redes neuronales que propaga el error de la salida hacia atrás por las capas y calcula cuánto contribuyó cada peso a ese error. Combina un paso hacia adelante, una medida de error (típicamente la mitad de la suma de desviaciones al cuadrado) y un paso hacia atrás con la regla de la cadena, de modo que los pesos se mueven por descenso del gradiente.
El procedimiento fue descrito en 1986 por David Rumelhart, Ronald Williams y Geoffrey Hinton en Nature, sobre trabajos anteriores y demostrando que las redes con capas ocultas aprenden tareas que un solo perceptrón no puede representar. En 2006, las redes de creencia profunda usaron la retropropagación para el afinamiento tras el preentrenamiento por capas. Véase el artículo y la entrada de la cronología.