Filtro spam Naive Bayes: cuenta palabras, lanza el veredicto
Alimenta líneas spam y ham etiquetadas, ajusta el suavizado de Laplace y mira cómo un clasificador bag-of-words al estilo de los 90 puntúa tu mensaje, con inclinaciones log-verosímiles por palabra.
La semana pasada una red de Hopfield recordaba caras con física. Esta semana, sin neuronas: solo conteos de palabras y una mentira valiente llamada independencia condicional. Eso movió filtros de correo años antes de que el aprendizaje profundo dominara visión y lenguaje.
Naive Bayes trata cada correo como una bolsa de tokens. Le muestras ejemplos spam y ham; estima cuánto aparece cada palabra en cada clase, multiplica verosimilitudes suavizadas (Laplace evita ceros) y elige el posterior mayor. Es aprendizaje supervisado clásico: líneas etiquetadas entran, etiqueta de clase sale, el mismo espíritu estadístico de gran parte del aprendizaje automático y del procesamiento de lenguaje natural, pero legible en pantalla.
Cómo jugar:
- Revisa las líneas de entrenamiento spam y ham (edítalas o añade las tuyas, un mensaje por línea).
- El cuadro de mensaje empieza con un ejemplo spam del entrenamiento; pulsa Clasificar (o Ejemplo spam / Ejemplo ham).
- Mueve Suavizado y observa cómo las palabras raras dejan de mandar (o empiezan a hacerlo).
- Lee Aportes por palabra: ¿qué tokens inclinan hacia spam o ham?
Prueba esto:
- Clasificar en la línea por defecto («gana dinero gratis haz clic ahora»): veredicto spam claro.
- Ejemplo ham («reunión del equipo movida al martes tarde»): ham debería dominar.
- Escribe una frase mixta y mira oscilar las barras. ¿Mensaje vacío? El gadget te avisa con educación.
Por qué importa
El ensayo de Paul Graham de 2002 popularizó el filtrado bayesiano entre desarrolladores independientes; herramientas como SpamAssassin mezclaron reglas y estadística. La suposición «ingenua» es falsa (las palabras no son independientes), pero la frontera suele bastar. Los LLM modernos están en otra galaxia, pero la intuición queda: rasgos que puedes contar más probabilidades que puedes explicar, hasta cada token.
¿Te perdiste ediciones anteriores? Entrena un perceptrón, mira balbucear una cadena de Markov, pierde contra tres en raya invencible, enseña a un filtro a ver bordes, observa a un agente aprender por recompensa, mira cómo un modelo lee texto en tokens, sigue una bola en descenso de gradiente, deja que la máquina encuentre grupos, ve una línea doblarse, mira atención entre palabras, equilibra explorar vs explotar, chatea con ELIZA o garabatea memoria Hopfield.
Cada línea es un correo etiquetado. El modelo cuenta palabras por clase, asume independencia (lo «ingenuo») y multiplica verosimilitudes suavizadas. Mueve el suavizado para ver cómo pesan las palabras raras.