OpenAI o1: Modelle, die denken, bevor sie antworten (2024)
OpenAI zeigte eine Modellreihe, die trainiert wurde, Probleme Schritt für Schritt zu durchdenken, bevor sie antwortet, tauscht Tempo gegen Genauigkeit und belebt die Idee, dass längeres Nachdenken sich lohnen kann.
Am 12. September 2024 stellte OpenAI o1 vor, eine neue Modellreihe, die vor dem Antworten Zeit zum Denken aufwenden soll. Wo ein übliches großes Sprachmodell eine Antwort meist in einem schnellen Durchgang erzeugt, arbeitet o1 ein Problem erst in einer langen inneren Kette von Schritten durch und gibt erst dann seine endgültige Antwort.
Rechenzeit zur Antwortzeit
Der Kerngedanke heißt oft Test-Time Compute: einem Modell mehr Rechenleistung im Moment der Frage zu geben, nicht nur beim Training. Gibt man o1 ein schweres Mathe- oder Programmierproblem, überlegt es gewissermaßen, probiert Ansätze, prüft seine Arbeit und geht zurück, bevor es sich auf eine Antwort festlegt.
Das war eine bemerkenswerte Verschiebung. Ein Großteil der vorherigen Ära, von GPT-3 bis GPT-4, fasste Fortschritt vor allem als Training größerer Modelle auf mehr Daten. o1 betonte einen zweiten Hebel: Ein Modell kann auch dadurch bessere Antworten geben, dass es im Moment der Nutzung länger nachdenkt. Das Verhalten wurde mit verstärkendem Lernen geformt, indem Gedankenketten belohnt wurden, die zu richtigen Ergebnissen führten.
Worin es gut war, und was es kostete
o1 meldete deutliche Zugewinne bei Aufgaben mit klaren richtigen Antworten: Wettbewerbsmathematik, naturwissenschaftliche Fragen und Programmierung, genau die Bereiche, in denen sorgfältiges schrittweises Schlussfolgern am meisten hilft. Die Kompromisse waren ebenso klar. Es war langsamer und teurer im Betrieb, und OpenAI entschied, das rohe innere Denken vor den Nutzern zu verbergen und nur Zusammenfassungen zu zeigen, was die Debatte neu entfachte, wie prüfbar diese Systeme sein sollten.
Es erinnerte auch daran, dass Benchmarks nicht die ganze Geschichte sind: Bei Wettbewerbsaufgaben zu glänzen, überträgt sich nicht automatisch in Verlässlichkeit bei unordentlicher, offener Arbeit.
Warum es wichtig ist
o1 stellte eine Frage neu, die das Feld weitgehend beiseitegelegt hatte: nicht nur „Wie groß ist das Modell?”, sondern „Wie lange soll es denken?” Indem es zeigte, dass bewusstes, mehrstufiges Schlussfolgern trainiert und zur Antwortzeit bezahlt werden kann, eröffnete es eine neue Achse des Fortschritts jenseits roher Skalierung.
Es steht am Ende des Zeitraums, den diese Zeitleiste abdeckt, und weist nach vorn. Die nächsten Auseinandersetzungen, über Schlussfolgern, Verlässlichkeit, Kosten und darüber, wie man all das bewertet, beginnen hier.