ELIZA: der Chatbot, der keiner sein sollte (1966)

1966 veröffentlichte Joseph Weizenbaum, Informatiker am MIT, ein Programm, das sich anfühlte wie ein Gespräch. Er nannte es ELIZA, nach der Figur in Pygmalion, die lernt, korrekt zu sprechen. Das Programm war einfach, absichtlich. Sein Schöpfer wollte zeigen, wie oberflächlich Sprachverarbeitung wirklich ist. Stattdessen wurde es eine der meistmissverstandenen Erfindungen in der Geschichte der künstlichen Intelligenz.

Wie ELIZA funktionierte

ELIZA war nicht ein einzelnes Programm, sondern ein Framework. Es lief mit austauschbaren Skripten, Sammlungen von Pattern-Matching- und Substitutionsregeln, die bestimmten, wie es antwortete. Das Programm selbst, geschrieben in MAD-SLIP (später in Lisp reimplementiert), durchsuchte die Benutzereingabe nach Schlüsselwörtern, ordnete sie nach Priorität, zerlegte den Satz anhand einer Dekompositonsregel und setzte eine Antwort zusammen.

Das berühmteste Skript war DOCTOR, das einen Rogersianischen Psychotherapeuten simulierte. Rogersianische Therapie war eine brillante Wahl: Die Rolle des Therapeuten ist nicht zu diagnostizieren oder zu beraten, sondern die Worte des Patienten zu spiegeln. „Sie sagen, Sie fühlen sich traurig wegen Ihrer Mutter?”, das ist zugleich gültige Therapie und trivial aus einem Keyword-Match auf „Mutter” und einer grammatischen Spiegelung zu erzeugen.

Ein typischer Austausch:

Mensch: Meine Mutter macht mich wütend. ELIZA: Erzählen Sie mir mehr von Ihrer Familie.

Kein Verstehen. Kein Gedächtnis über vorherige Eingaben hinaus. Nur ein Schlüsselwort („Mutter” → Familie), ein Dekompositionsmuster und eine Reassemblierungsvorlage.

Der ELIZA-Effekt

Was Weizenbaum verblüffte, war nicht, dass ELIZA funktionierte, er wusste genau, wie oberflächlich es war. Was ihn verblüffte, war die Reaktion der Menschen.

Seine Sekretärin, die wusste, dass das Programm ein Regelwerk war, bat ihn, den Raum zu verlassen, damit sie privat mit ihm reden konnte. Studierende am MIT verbrachten Stunden damit, ihre Probleme in ein Terminal zu tippen. Manche Nutzer glaubten tatsächlich, mit einem Wesen zu kommunizieren, das sie verstand.

Dieses Phänomen, einer Maschine Intelligenz, Empathie oder Verständnis zuzuschreiben, die nichts davon hat, wurde als ELIZA-Effekt bekannt. Es ist wohl Weizenbaums nachhaltigster Beitrag, wichtiger als das Programm selbst.

Weizenbaums Bedauern

Weizenbaum hatte ELIZA entworfen, um zu zeigen, dass Gespräche mit trivialen Regeln vortäuschbar sind, in der Hoffnung, Menschen skeptischer gegenüber Maschinen zu machen. Das Gegenteil passierte. Psychiater schlugen vor, ELIZA-ähnliche Programme als tatsächliche Therapiewerkzeuge einzusetzen. Forscher zitierten es als Fortschritt in Richtung maschinellen Verstehens.

Entsetzt verbrachte Weizenbaum einen großen Teil seiner späteren Karriere damit, vor blindem Vertrauen in Computer zu warnen. Sein Buch Computer Power and Human Reason (1976) argumentierte, dass bestimmte Aufgaben, insbesondere solche, die Empathie und moralisches Urteilsvermögen erfordern, niemals an Maschinen delegiert werden sollten, unabhängig von der technischen Leistungsfähigkeit.

Warum es zählt

ELIZA enthielt kein neuronales Netz, kein Lernen, kein statistisches Modell. Es war reine symbolische KI: Schlüsselwörter, Muster, Vorlagen. Und trotzdem überzeugte es Menschen.

Sechzig Jahre später sind Chatbots und große Sprachmodelle unvergleichlich leistungsfähiger, aber der ELIZA-Effekt ist nicht verschwunden. Nutzer projizieren noch immer Verständnis auf Systeme, die das nächste Token vorhersagen. Weizenbaums unbequeme Frage bleibt bestehen: Wenn eine Maschine klingt, als würde sie verstehen, wessen Verständnis messen wir dann wirklich, das der Maschine oder unser eigenes?