Descente de gradient : regarde un modèle apprendre en descendant la pente
Pose une bille sur une courbe de perte et regarde-la descendre pas à pas. Un taux d'apprentissage trop grand et elle s'envole ; un terrain accidenté la piège. C'est ainsi que presque tout réseau de neurones est entraîné.
Cette semaine, la machine fait ce qui se cache derrière presque tout l’entraînement moderne de l’IA : elle descend la pente. Le perceptron a appris une ligne, mais comment un modèle s’améliore-t-il vraiment ? Il mesure à quel point il se trompe (la perte), trouve quelle direction se trompe moins, et fait un petit pas dans ce sens. Répète cela quelques milliards de fois et tu as entraîné un réseau.
Le gadget ci-dessous est un terrain de jeu de descente de gradient. La courbe est un paysage de perte : les points bas sont bons (peu d’erreur), les points hauts sont mauvais. La bille est le réglage actuel du modèle. À chaque pas, elle regarde la pente sous ses pieds (le gradient) et descend d’une quantité fixée par le taux d’apprentissage.
Essaie ceci :
- Clique n’importe où sur la courbe pour poser la bille, puis appuie sur Lancer. Avec un petit taux d’apprentissage dans la Cuvette, elle glisse doucement jusqu’au fond.
- Monte maintenant le taux d’apprentissage et relance. Si le pas est trop grand, la bille dépasse la vallée, rebondit de plus en plus haut et diverge. C’est la raison la plus fréquente pour laquelle un entraînement explose.
- Passe aux Collines et place la bille d’un côté. Avec un taux doux, elle se stabilise souvent dans le creux le plus proche, un minimum local, pas le plus profond. Un pas plus grand peut l’en faire sortir vers une meilleure vallée.
Pourquoi c’est (presque) tout l’entraînement
Chaque poids d’un réseau de neurones est une dimension d’un paysage comme celui-ci, sauf que le vrai en compte des millions ou des milliards au lieu d’une. Entraîner revient à mesurer la pente dans toutes à la fois (c’est ce que fait la rétropropagation) et à faire un pas vers le bas. Le taux d’apprentissage avec lequel tu viens de jouer est un vrai bouton délicat que chaque praticien règle.
Cette seule idée, passée à l’échelle avec du matériel rapide et beaucoup de données, est ce qui a fait marcher l’apprentissage profond : elle a entraîné AlexNet à voir et le transformer à lire. Derrière la magie, il y a une bille, une pente et un petit pas dans la bonne direction.
Tu as manqué les éditions précédentes ? Entraîne un perceptron, regarde une chaîne de Markov babiller, perds contre le morpion invincible, apprends à un filtre à voir les contours, regarde un agent apprendre par la récompense ou découvre comment un modèle lit le texte en tokens.