GuidesFiabilité de l’IA

Hallucinations de l’IA : pourquoi elle invente, et comment l’en empêcher

Par l’équipe Banzai LabsMis à jour le 2 min de lecture

Sans source : il comble le videAvec source : il cite
Sans source, le modèle comble le vide. Avec une source fournie, il cite et on vérifie.

Pourquoi un modèle invente

Un modèle de langage complète un texte avec la suite la plus probable. Quand l’information lui manque, la suite la plus probable est une réponse qui a l’air juste. Il ne ment pas, il comble.

Les causes, et la parade
Ce qui fait halluciner
  • Une information absente
  • Une question ambiguë
  • Une consigne qui force à répondre
  • Un contexte trop long
Ce qui l’en empêche
  • Les sources dans le contexte
  • Le droit de dire « je ne sais pas »
  • Une citation exigée
  • Un contrôle par le code

La méthode, en cinq points

  1. 1Donner la sourceLes passages utiles, cherchés dans vos documents (RAG).
  2. 2Autoriser l’ignorance« Si la réponse n’est pas dans les documents, dis-le. »
  3. 3Exiger la citationChaque affirmation renvoie au passage qui la porte.
  4. 4Vérifier par le codePrix, dates, références : comparés à la base avant affichage.
  5. 5TesterUne série de questions pièges, rejouée à chaque changement.

Où être le plus prudent

Usage Risque Garde-fou
Service client Une promesse inventée Réponses limitées aux contenus validés
Chiffres, prix Un montant faux Valeur lue en base, jamais générée
Juridique, santé Une erreur qui engage Relecture humaine systématique

Voir aussi Chatbot IA pour site web et Agents IA sur de vraies données.

Questions fréquentes

Peut-on supprimer totalement les hallucinations ?
Non. On les rend rares et détectables : réponse appuyée sur une source, vérification par le code des chiffres et des références, relecture humaine sur ce qui engage.
Baisser la température suffit-il ?
Non. Elle rend les réponses plus régulières, pas plus vraies. Un modèle peut répéter la même erreur avec assurance.
Un modèle plus récent hallucine-t-il moins ?
En général oui, mais le premier levier reste le même : lui fournir l’information plutôt que compter sur sa mémoire.

À lire ensuite

Tous les guides