Tag: #reseau-neuronal
-
Les réseaux à codes postaux de LeCun : quand la convolution a rencontré la rétropropagation (1989)
En 1989 Yann LeCun et ses collègues aux laboratoires AT&T Bell ont publié un réseau neuronal convolutionnel entraîné par rétropropagation sur des codes postaux manuscrits du service postal américain, une preuve précoce que des filtres locaux pouvaient passer à l'échelle pour le tri du courrier.
-
Modèles de langage neuronaux : Bengio contre la malédiction de la dimensionnalité (2003)
En 2003 Yoshua Bengio et ses collègues ont publié A Neural Probabilistic Language Model dans le Journal of Machine Learning Research, apprenant des représentations distribuées de mots pour échapper aux limites des immenses tables de n-grammes.
-
TD-Gammon : apprendre le backgammon en jouant contre soi (1992)
Gerald Tesauro chez IBM a construit TD-Gammon, un réseau de neurones qui a appris un backgammon solide par apprentissage par renforcement à différence temporelle et auto-apprentissage, atteignant un niveau proche de l'expert.
-
Machines de Boltzmann : quand les réseaux de neurones ont emprunté la physique statistique (1985)
En 1985 David Ackley, Geoffrey Hinton et Terrence Sejnowski ont publié un algorithme d'apprentissage pour les machines de Boltzmann : unités binaires stochastiques, fonction d'énergie issue de la physique et échantillonnage lent que des méthodes ultérieures ont cherché à éviter.
-
Réseaux de croyances profonds : quand les réseaux profonds sont redevenus entraînables (2006)
En juillet 2006 Geoffrey Hinton et ses collègues ont montré qu'empiler des machines de Boltzmann restreintes couche par couche puis affiner le résultat par rétropropagation permettait d'entraîner des réseaux profonds. Le résultat a aidé à relancer la renaissance de l'apprentissage profond.
-
Rétropropagation : comment les réseaux de neurones ont appris de leurs erreurs (1986)
En 1986, David Rumelhart, Geoffrey Hinton et Ronald Williams ont montré que des réseaux de neurones multicouches entraînés par rétropropagation apprennent leurs propres représentations internes. La méthode reste la norme pour entraîner la plupart des réseaux de neurones.
-
GAN : quand les réseaux de neurones ont appris à inventer des images (2014)
En juin 2014, Ian Goodfellow et ses collègues ont présenté les réseaux antagonistes génératifs : deux réseaux de neurones entraînés l'un contre l'autre. L'idée a rendu possible la synthèse d'images réalistes et a très tôt soulevé la question des faux.
-
AlphaFold remporte le prix Nobel de chimie 2024
Un jour après que l'IA a remporté le prix de physique, le Nobel de chimie 2024 a honoré AlphaFold, le modèle de DeepMind qui prédit la structure des protéines, et la conception computationnelle de protéines.
-
Le prix Nobel de physique 2024 récompense les réseaux de neurones
John Hopfield et Geoffrey Hinton ont reçu le prix Nobel de physique 2024 pour des travaux fondateurs sur les réseaux de neurones artificiels, la mécanique derrière l'IA actuelle.
-
AlexNet : la nuit où l'apprentissage profond est revenu (2012)
Un réseau de neurones profond entraîné sur deux <abbr title="Unité de traitement graphique">GPU</abbr> de jeu a écrasé la référence ImageNet et mis fin, presque du jour au lendemain, à un long hiver des réseaux de neurones.
-
Le premier hiver de l'IA : quand le hype a gelé (1974–1980)
Le rapport Lighthill, les coupes de la DARPA et le retour de bâton contre le perceptron ont privé les réseaux neuronaux et l'IA trop ambitieuse de financements, ouvrant une décennie de scepticisme.
-
Le perceptron de Rosenblatt : la machine qui apprenait (1958)
Le perceptron de Frank Rosenblatt fut la première machine à apprendre de l'expérience, célébrée par la presse, attaquée par les critiques et réhabilitée des décennies plus tard.