Red neuronal: mira cómo una recta aprende a curvarse
Una neurona solo traza una recta, así que se atasca con XOR y el círculo. Añade una capa oculta, pulsa Entrenar y mira al descenso de gradiente doblar la frontera en curvas. Por esto el aprendizaje profundo necesita profundidad.
Allá en la primera edición, un solo perceptrón aprendió a separar dos grupos con una recta. Luego vimos al descenso de gradiente bajar rodando para ajustar los pesos. Esta semana juntamos ambos y chocamos con el muro que una vez casi mató a la IA: hay cosas que una recta simplemente no puede separar.
El gadget de abajo es una diminuta red neuronal. Dos colores de puntos, una regla oculta que los distingue. Eliges los datos y el modelo y luego pulsas Entrenar. El fondo de color es la decisión actual de la red, y se reforma en vivo mientras el descenso de gradiente empuja los pesos.
Prueba esto:
- Déjalo en Círculo con Capa oculta y pulsa Entrenar. Mira cómo la frontera se enrosca en un lazo que envuelve los puntos interiores. Una red con capa oculta puede doblarse.
- Ahora cambia el modelo a Una neurona y entrena de nuevo. Una neurona es un perceptrón: solo traza una única recta, así que se atasca entre el 50 y el 75 por ciento y nunca cierra el círculo.
- Cambia los datos a XOR (las esquinas opuestas comparten color). Una neurona también falla aquí, el ejemplo de manual. Vuelve a Capa oculta y mira cómo talla el plano en las cuatro regiones correctas.
Por qué importa
En 1969 un famoso libro demostró que un solo perceptrón no puede aprender XOR. Esa limitación, y el bombo que pinchó, ayudó a inclinar el campo hacia el primer invierno de la IA. La solución no fue una neurona más lista, sino profundidad: al apilar una capa oculta de neuronas, la red puede combinar cortes rectos simples en fronteras curvas y no lineales. Esa es toda la idea de una red neuronal, y del aprendizaje profundo cuando apilas muchas capas. Esa profundidad se volvió entrenable en 1986 con la retropropagación.
La curvatura que acabas de ver es el mismo truco, ampliado con hardware rápido y conjuntos de datos enormes, que permitió a AlexNet reconocer fotografías décadas después. Detrás de la magia hay una recta que aprendió a curvarse.
¿Te perdiste las ediciones anteriores? Entrena un perceptrón, mira balbucear a una cadena de Markov, pierde contra el tres en raya invencible, enseña a un filtro a ver bordes, mira a un agente aprender de la recompensa, descubre cómo un modelo lee el texto en tokens, mira uno bajar rodando para aprender, o deja que una máquina encuentre grupos sola.