ELIZA: el chatbot que nunca debió serlo (1966)

En 1966, Joseph Weizenbaum, informático en el MIT, publicó un programa que parecía mantener una conversación. Lo llamó ELIZA, como el personaje de Pygmalion que aprende a hablar correctamente. El programa era simple, deliberadamente. Su creador quería demostrar lo superficial que es realmente el procesamiento del lenguaje. En cambio, se convirtió en uno de los inventos más malinterpretados en la historia de la inteligencia artificial.

Cómo funcionaba ELIZA

ELIZA no era un solo programa sino un framework. Ejecutaba scripts intercambiables, conjuntos de reglas de reconocimiento de patrones y sustitución, que dictaban cómo respondía. El programa, escrito en MAD-SLIP (reimplementado después en Lisp), buscaba palabras clave en la entrada del usuario, las clasificaba por prioridad, descomponía la frase y reensamblaba una respuesta.

El script más famoso era DOCTOR, que simulaba un psicoterapeuta rogeriano. La terapia rogeriana fue una elección brillante: el rol del terapeuta no es diagnosticar ni aconsejar, sino reflejar las palabras del paciente. “¿Dice usted que se siente triste por su madre?”, eso es tanto terapia válida como trivialmente fácil de generar a partir de una coincidencia con la palabra “madre” y una reflexión gramatical.

Un intercambio típico:

Humano: Mi madre me hace enfadar. ELIZA: Cuénteme más sobre su familia.

Sin comprensión. Sin memoria más allá de un estado simple. Solo una palabra clave (“madre” → familia), un patrón de descomposición y una plantilla de reensamblaje.

El efecto ELIZA

Lo que asombró a Weizenbaum no fue que ELIZA funcionara, él sabía exactamente lo superficial que era. Lo que le asombró fue cómo reaccionó la gente.

Su secretaria, que sabía que el programa era un conjunto de reglas, le pidió que saliera de la habitación para poder hablar con él en privado. Estudiantes del MIT pasaban horas tecleando sus problemas en un terminal. Algunos usuarios creyeron genuinamente que se comunicaban con un ser que los comprendía.

Este fenómeno, atribuir inteligencia, empatía o comprensión a un sistema que no tiene ninguna, se conoció como el efecto ELIZA. Es quizás la contribución más duradera de Weizenbaum, más importante que el propio programa.

El arrepentimiento de Weizenbaum

Weizenbaum había diseñado ELIZA para demostrar que las conversaciones podían fingirse con reglas triviales, esperando que esto hiciera a la gente más escéptica respecto a las máquinas. Ocurrió lo contrario. Psiquiatras propusieron usar programas tipo ELIZA como herramientas terapéuticas reales. Investigadores lo citaron como progreso hacia la comprensión artificial.

Horrorizado, Weizenbaum dedicó gran parte de su carrera posterior a advertir contra la confianza excesiva en los ordenadores. Su libro Computer Power and Human Reason (1976) argumentaba que ciertas tareas, particularmente las que implican empatía y juicio moral, nunca deberían delegarse a máquinas, independientemente de la capacidad técnica.

Por qué importa

ELIZA no contenía ninguna red neuronal, ni aprendizaje, ni modelo estadístico. Era IA simbólica pura: palabras clave, patrones, plantillas. Y sin embargo convenció a la gente.

Sesenta años después, los chatbots y los grandes modelos de lenguaje son incomparablemente más capaces, pero el efecto ELIZA no ha desaparecido. Los usuarios siguen proyectando comprensión en sistemas que predicen el siguiente token. La incómoda pregunta de Weizenbaum persiste: cuando una máquina suena como si entendiera, ¿de quién estamos midiendo realmente la comprensión, la de la máquina o la nuestra?