GPT-4: das Flaggschiff, das die Messlatte hob (2023)
OpenAIs GPT-4 konnte Bilder wie Text lesen und schnitt bei Prüfungen für Menschen gut ab. Es festigte ein hartes kommerzielles Rennen und eine Geheimhaltung, die Forscher beunruhigte.
Vier Monate nachdem ChatGPT Sprachmodelle zum Massenphänomen gemacht hatte, veröffentlichte OpenAI am 14. März 2023 GPT-4. Es wurde als sichereres, stärkeres Flaggschiff positioniert und wurde schnell zum Modell, zu dem man griff, wenn man die beste verfügbare Antwort wollte.
Was neu war
GPT-4 legte an zwei Fronten zugleich zu:
- Multimodalität. Wo frühere große Sprachmodelle nur Text verarbeiteten, konnte GPT-4 auch Bilder als Eingabe nehmen, ein Foto beschreiben, ein Diagramm lesen oder ein Meme erklären. Das zeigte, dass das Transformer-Rezept nicht auf Wörter beschränkt ist.
- Prüfungsleistung. OpenAI berichtete, GPT-4 erreiche hohe Perzentile bei Tests für Menschen, von Anwaltsprüfungen bis zu College-Fächern. Solche Benchmarks sind unvollkommen, doch die Schlagzeilenzahlen setzten neue Erwartungen an das, was ein Allzweckmodell kann.
Im Inneren war es weiterhin ein in der Tradition von GPT-3 hochskalierter Transformer, mit menschlichem Feedback verfeinert, um sich wie ein hilfreicher Assistent zu verhalten.
Die Wende zur Geheimhaltung
GPT-4 markierte auch einen Wandel darin, wie das Feld seine Arbeit teilt. Mit Verweis auf Wettbewerb und Sicherheit verzichtete OpenAI darauf, Größe, Architektur oder Trainingsdaten des Modells zu veröffentlichen. Der begleitende Bericht las sich eher wie ein Produkt-Steckbrief als wie ein wissenschaftliches Paper.
Für eine Disziplin, die auf offener Veröffentlichung aufbaut, vom ImageNet-Maßstab bis zum Transformer-Paper, war das eine bemerkenswerte Änderung. Sie nährte eine breitere Debatte darüber, ob die fähigsten Modelle prüfbar bleiben oder zu geschlossenen Produkten werden.
Warum es wichtig ist
GPT-4 bestätigte, dass der mit ChatGPT vorgestellte Assistent kein Einzelfall war. Es setzte eine Fähigkeitslatte, der die Konkurrenz das folgende Jahr hinterherlief, und seine multimodalen Demos deuteten eine Zukunft an, in der ein einziges Modell Text, Bilder und mehr bearbeitet.
Die folgenden Veröffentlichungen, von Googles Gemini bis zu Open-Weight-Herausforderern wie Llama 2, versteht man am besten als Antworten auf den Maßstab, den GPT-4 setzte.