Une hallucination est l'affirmation, par un modèle d'IA, de quelque chose de faux avec une assurance totale — un chiffre inventé, une référence inexistante, une réponse plausible mais fausse. Cela arrive parce que les modèles de langage produisent du texte probable, pas des faits vérifiés. On ne peut pas éliminer totalement les hallucinations, mais on peut les ramener à un taux acceptable et mesurable.
Les défenses standard : ancrer le modèle dans vos documents, contraindre les formats de sortie, et faire valider par un humain les actions à conséquences. C'est pourquoi un système d'IA en production est un projet d'ingénierie, pas un abonnement — le cœur de chaque intégration d'IA que nous livrons.