Hallucination

En IA, une hallucination est une sortie fluide mais fausse ou inventée d’un modèle, pas une expérience sensorielle humaine. Les LLM génèrent un texte plausible sans vérification fiable intégrée de la vérité des affirmations.

L’écart entre un ton assuré et l’exactitude factuelle compte pour les chatbots, les systèmes RAG et les citations inventées. Réduire les hallucinations est un enjeu pratique de l’alignment et de la sécurité produit.