Tag: #neuronales-netz
-
LeCuns Postleitzahl-Netze: als Faltung auf Backpropagation trifft (1989)
1989 veröffentlichten Yann LeCun und Kollegen bei AT&T Bell Laboratories ein konvolutionales neuronales Netz, trainiert mit Backpropagation auf handgeschriebene US-Postleitzahlen: ein früher Beweis, dass lokale Filter reale Postsortierung skalieren können.
-
Neuronale Sprachmodelle: Bengios Kampf gegen den Fluch der Dimensionalität (2003)
2003 veröffentlichten Yoshua Bengio und Kollegen A Neural Probabilistic Language Model im Journal of Machine Learning Research und lernten verteilte Wortrepräsentationen, um den Grenzen riesiger n-Gramm-Tabellen zu entkommen.
-
TD-Gammon: Backgammon lernen durch Selbstspiel (1992)
Gerald Tesauro bei IBM baute TD-Gammon, ein neuronales Netz, das sich Backgammon durch Temporal-Difference-Lernen und Selbstspiel selbst beibrachte und damit nahezu Expertenniveau erreichte.
-
Boltzmann-Maschinen: als neuronale Netze die statistische Physik entlehnten (1985)
1985 veröffentlichten David Ackley, Geoffrey Hinton und Terrence Sejnowski einen Lernalgorithmus für Boltzmann-Maschinen: stochastische binäre Einheiten, eine Energiefunktion aus der Physik und langsames Sampling, das spätere Methoden vermeiden wollten.
-
Deep Belief Networks: als tiefe Netze wieder trainierbar wurden (2006)
Im Juli 2006 zeigten Geoffrey Hinton und Kollegen, dass sich eingeschränkte Boltzmann-Maschinen schichtweise stapeln und das Ergebnis per Backpropagation feinabstimmen lässt. Das half, die Wiederbelebung des tiefen Lernens einzuleiten.
-
Backpropagation: wie neuronale Netze aus Fehlern lernten (1986)
1986 zeigten David Rumelhart, Geoffrey Hinton und Ronald Williams, dass mehrschichtige neuronale Netze mit Backpropagation eigene innere Darstellungen lernen. Das Verfahren ist bis heute Standard beim Training der meisten neuronalen Netze.
-
GANs: als neuronale Netze lernten, Bilder zu erfinden (2014)
Im Juni 2014 stellten Ian Goodfellow und Kollegen die Generative Adversarial Networks vor: zwei neuronale Netze, die gegeneinander trainieren. Die Idee machte realistische Bildsynthese möglich und warf früh die Frage nach Fälschungen auf.
-
AlphaFold gewinnt den Chemie-Nobelpreis 2024
Einen Tag nachdem die KI den Physikpreis holte, ehrte der Chemie-Nobelpreis 2024 AlphaFold, das DeepMind-Modell zur Vorhersage von Proteinstrukturen, und das computergestützte Proteindesign.
-
Der Physik-Nobelpreis 2024 geht an neuronale Netze
John Hopfield und Geoffrey Hinton erhielten den Physik-Nobelpreis 2024 für grundlegende Arbeiten zu künstlichen neuronalen Netzen, dem Fundament der heutigen KI.
-
AlexNet: die Nacht, in der Deep Learning zurückkam (2012)
Ein tiefes neuronales Netz, trainiert auf zwei Gaming-<abbr title="Graphics Processing Unit">GPU</abbr>s, pulverisierte den ImageNet-Maßstab und beendete fast über Nacht einen langen Winter für neuronale Netze.
-
Der erste KI-Winter: als der Hype erstarrte (1974–1980)
Lighthill-Report, DARPA-Kürzungen und die Perzeptron-Backlash entzogen neuronale Netzen und überzogener KI die Förderung und bereiteten ein Jahrzehnt Skepsis vor.
-
Rosenblatts Perzeptron: die Maschine, die lernte (1958)
Frank Rosenblatts Perzeptron war die erste Maschine, die aus Erfahrung lernte, von der Presse gefeiert, von Kritikern angegriffen und Jahrzehnte später rehabilitiert.