Hallucination IA

Une hallucination d’IA est une réponse plausible mais fausse produite par un modèle génératif. Le terme désigne un contenu inventé, contraire à la source fournie ou impossible à vérifier, présenté avec assurance. La revue de Ziwei Ji et de ses coauteurs, parue dans ACM Computing Surveys en 2023, retient une définition large. Elle vise un contenu « nonsensical or unfaithful to the provided source content » (doi:10.1145/3571730).

Comment ça fonctionne ?

Ji et al. distinguent deux familles d’hallucinations dans leur revue de 2023.

• Intrinsèque : la sortie contredit la source. Leur exemple : un résumé affirme qu’un vaccin contre Ebola a été approuvé en 2021, quand la source indique 2019.
• Extrinsèque : la source ne permet ni de confirmer ni d’infirmer la sortie. Elle n’est pas toujours fausse, mais elle échappe à la vérification.

Un LLM produit un texte probable, pas un texte vérifié. Adam Tauman Kalai et trois coauteurs d’OpenAI et de Georgia Tech ont publié le 4 septembre 2025 une explication statistique (arXiv:2509.04664). Selon eux, l’entraînement et l’évaluation des modèles « reward guessing over acknowledging uncertainty ». La plupart des tests notent mal l’abstention, ce qui pousse le modèle à deviner plutôt qu’à répondre « je ne sais pas ».

Le RAG réduit le risque sans le supprimer. Le modèle s’appuie sur des passages récupérés, mais il peut encore les déformer ou compléter leurs silences. Pour une organisation suivie en Generative Engine Optimization, contrôler ce qu’un moteur de réponse affirme à son sujet fait partie du suivi.

Exemple

Un tribunal fédéral de New York a sanctionné en 2023 des avocats trompés par ChatGPT. Dans l’affaire Mata v. Avianca (22-cv-1461), le juge P. Kevin Castel a rendu une opinion and order on sanctions le 22 juin 2023. Il relève des décisions « non-existent » assorties de fausses citations « created by the artificial intelligence tool ChatGPT ». Six décisions fictives sont nommées, dont « Varghese » et « Shaboon ». La pénalité s’élève à 5 000 dollars, due solidairement par deux avocats et leur cabinet. Le juge précise que recourir à un outil d’IA fiable n’a rien d’irrégulier en soi : l’avocat reste garant de l’exactitude de ses écritures.

À ne pas confondre avec

• Erreur de la source : un système fidèle à un document faux reproduit l’erreur. Ji et al. séparent la fidélité à la source (faithfulness) de l’exactitude factuelle (factuality).
• Désinformation : un contenu faux diffusé délibérément. L’hallucination est une erreur sans intention, produite par le fonctionnement statistique du modèle.
• Deepfake : une image, une vidéo ou une voix fabriquée pour imiter le réel. L’hallucination désigne une affirmation fausse, pas un trucage voulu.

Ce que dit le droit

Aucun texte européen n’interdit l’hallucination en tant que telle. L’article 50, paragraphe 4, de l’AI Act impose de signaler un texte généré par IA publié pour informer le public sur des questions d’intérêt public. L’obligation tombe si le texte a fait l’objet d’un examen humain ou d’un contrôle éditorial, sous la responsabilité éditoriale d’une personne. Elle s’applique depuis le 2 août 2026, selon l’article 113 (voir la fiche AI Act). À jour au 27/09/2026.