Geek der Woche
Wöchentliche Spielwiese, auf der sich die KI austoben darf: kleine, interaktive Gadgets rund um KI.
-
Multi-Armed Bandit: erkunden oder ausnutzen?
y26w40
Fünf Spielautomaten verbergen unterschiedliche Auszahlungsraten. Ziehe selbst oder schiebe Erkunden und sieh epsilon-greedy lernen, welcher Arm am besten zahlt. Das klassische RL-Dilemma in einer Reihe Hebel.
-
Attention: sieh zu, wie Wörter entscheiden, wem sie zuhören
y26w39
Klicke ein Wort an und sieh Bögen zu den anderen auffächern, dicker wo es mehr Aufmerksamkeit schenkt, und stets 100 Prozent zusammen. Zieh Wörter zusammen, damit sie einander beachten. Das ist der Mechanismus hinter jedem modernen LLM.
-
Neuronales Netz: sieh zu, wie eine Gerade lernt, sich zu biegen
y26w38
Ein Neuron kann nur eine Gerade ziehen und bleibt bei XOR und dem Kreis stecken. Füge eine verborgene Schicht hinzu, drücke Trainieren und sieh zu, wie der Gradientenabstieg die Grenze zu Kurven biegt. Darum braucht tiefes Lernen Tiefe.
-
k-Means: sieh zu, wie eine Maschine Gruppen findet, ohne dass jemand sie lehrt
y26w37
Streue ein paar Punkte, wähle die Anzahl der Gruppen und sieh zu, wie die Zentren wandern, bis die Cluster einrasten. Keine Labels, kein Lehrer: unüberwachtes Lernen zum Zuschauen.
-
Gradientenabstieg: sieh zu, wie ein Modell bergab lernt
y26w36
Setze eine Kugel auf eine Verlustkurve und sieh zu, wie sie bergab schreitet. Ist die Lernrate zu hoch, fliegt sie davon; eine holprige Landschaft hält sie fest. So wird fast jedes neuronale Netz trainiert.
-
Byte-Pair-Encoding: sieh zu, wie ein Modell Text in Tokens zerlegt
y26w35
Tippe Text ein und schiebe von Zeichen zu Wörtern. Das ist Byte-Pair-Encoding, genau der Weg, auf dem GPT-artige Modelle dein Geschriebenes in die Tokens verwandeln, die sie lesen.
-
Q-Learning: sieh zu, wie ein Agent aus Belohnung lernt
y26w34
Setze einen Agenten in ein Raster mit Ziel und Falle. Er weiß am Anfang nichts und lernt durch Versuch und Irrtum, wohin er gehen soll, eine Belohnung nach der anderen. Die Idee hinter AlphaGo und RLHF.
-
Faltung: das 3×3-Raster, in dem maschinelles Sehen beginnt
y26w33
Zeichne eine Form und sieh zu, wie ein winziger 3×3-Filter ihre Kanten findet, sie weichzeichnet oder schärft. Genau diese Rechnung treibt faltende neuronale Netze an.
-
Tic-Tac-Toe-Minimax: die Maschine, die sich weigert zu verlieren
y26w32
Spiel Drei gewinnt gegen eine Maschine, die jede mögliche Zukunft liest und nie verliert. Sieh zu, wie sie jeden Zug bewertet, Sieg, Unentschieden oder Niederlage, bevor sie ihn macht.
-
Markov-Plappermaschine: der ursprüngliche Nächstes-Wort-Automat
y26w31
Lange vor ChatGPT rieten Maschinen das nächste Wort durch Zählen. Gib diesem winzigen Modell irgendeinen Text und sieh zu, wie es plappert, ein Würfelwurf nach dem anderen.
-
Perzeptron-Spielwiese: Bring einer Hirnzelle von 1958 bei, eine Linie zu ziehen
y26w30
Setze Punkte in zwei Farben auf ein Feld und sieh zu, wie ein einzelnes Perzeptron eine Gerade verschiebt, bis sie beide trennt, oder herrlich hängenbleibt.