ELIZA : le chatbot qui n'aurait jamais dû en être un (1966)

En 1966, Joseph Weizenbaum, informaticien au MIT, publia un programme qui donnait l’impression de tenir une conversation. Il le nomma ELIZA, d’après le personnage de Pygmalion qui apprend à parler correctement. Le programme était simple, délibérément. Son créateur voulait montrer à quel point le traitement du langage est superficiel. Au lieu de cela, il devint l’une des inventions les plus mal comprises de l’histoire de l’intelligence artificielle.

Comment ELIZA fonctionnait

ELIZA n’était pas un programme unique mais un framework. Il exécutait des scripts interchangeables, des ensembles de règles de reconnaissance de motifs et de substitution, qui dictaient ses réponses. Le programme, écrit en MAD-SLIP (réimplémenté ensuite en Lisp), recherchait des mots-clés dans l’entrée de l’utilisateur, les classait par priorité, décomposait la phrase et réassemblait une réponse.

Le script le plus célèbre était DOCTOR, qui simulait un psychothérapeute rogérien. La thérapie rogérienne était un choix brillant : le rôle du thérapeute n’est pas de diagnostiquer ni de conseiller, mais de refléter les paroles du patient. « Vous dites que vous vous sentez triste à cause de votre mère ? », c’est à la fois une thérapie valide et trivialement facile à générer à partir d’une correspondance avec le mot « mère » et d’une réflexion grammaticale.

Un échange typique :

Humain : Ma mère me met en colère. ELIZA : Parlez-moi davantage de votre famille.

Aucune compréhension. Aucune mémoire au-delà d’un état simple. Juste un mot-clé (« mère » → famille), un motif de décomposition et un modèle de réassemblage.

L’effet ELIZA

Ce qui stupéfia Weizenbaum n’était pas qu’ELIZA fonctionnait, il savait exactement à quel point c’était superficiel. Ce qui le stupéfia fut la réaction des gens.

Sa secrétaire, qui savait que le programme était un ensemble de règles, lui demanda de quitter la pièce pour pouvoir lui parler en privé. Des étudiants du MIT passaient des heures à taper leurs problèmes dans un terminal. Certains utilisateurs croyaient sincèrement communiquer avec un être qui les comprenait.

Ce phénomène, attribuer intelligence, empathie ou compréhension à un système qui n’en possède aucune, devint connu sous le nom d’effet ELIZA. C’est sans doute la contribution la plus durable de Weizenbaum, plus importante que le programme lui-même.

Le regret de Weizenbaum

Weizenbaum avait conçu ELIZA pour montrer que les conversations pouvaient être simulées avec des règles triviales, espérant que cela rendrait les gens plus sceptiques envers les machines. Le contraire se produisit. Des psychiatres proposèrent d’utiliser des programmes de type ELIZA comme véritables outils thérapeutiques. Des chercheurs le citèrent comme un progrès vers la compréhension artificielle.

Horrifié, Weizenbaum consacra une grande partie de sa carrière à mettre en garde contre la confiance excessive envers les ordinateurs. Son livre Computer Power and Human Reason (1976) soutenait que certaines tâches, en particulier celles impliquant l’empathie et le jugement moral, ne devraient jamais être déléguées aux machines, quelle que soit leur capacité technique.

Pourquoi c’est important

ELIZA ne contenait aucun réseau neuronal, aucun apprentissage, aucun modèle statistique. C’était de la IA symbolique pure : mots-clés, motifs, modèles. Et pourtant, elle a convaincu les gens.

Soixante ans plus tard, les chatbots et les grands modèles de langage sont incomparablement plus performants, mais l’effet ELIZA n’a pas disparu. Les utilisateurs projettent toujours de la compréhension sur des systèmes qui prédisent le token suivant. La question inconfortable de Weizenbaum persiste : quand une machine semble comprendre, de qui mesurons-nous vraiment la compréhension, celle de la machine ou la nôtre ?