Hallucinations IA : pourquoi votre IA invente, et comment l'en empêcher

Introduction

Une équipe juridique demande à ChatGPT de rédiger une note. Le texte revient bien rédigé, avec 5 références jurisprudentielles précises. Sauf que 3 des 5 jurisprudences citées n'existent pas. Inventées de toutes pièces, mais avec un tel aplomb qu'aucun avocat débutant n'aurait soupçonné le problème.

Cet exemple, vécu dans plusieurs cabinets en 2024, illustre le phénomène des hallucinations IA. C'est l'un des risques les plus mal compris par les dirigeants qui déploient de l'IA générative en interne, et l'un des plus graves quand il n'est pas maîtrisé.

Cet article explique pourquoi les hallucinations existent, comment elles se produisent, et 7 techniques concrètes pour les éviter en PME.

Une hallucination, c'est quoi exactement ?

Une hallucination IA est une réponse fausse mais formulée avec confiance par un modèle. Le modèle ne sait pas qu'il invente : il produit ce qui lui semble probable, et c'est précisément ce qui rend le problème difficile à détecter.

Trois grandes familles d'hallucinations sont à connaître :

Les hallucinations factuelles. L'IA invente une date, un nom, une statistique, une référence. Exemple : citer un ouvrage qui n'existe pas, ou attribuer une citation à un auteur qui ne l'a jamais dite.

Les hallucinations de raisonnement. L'IA fait un calcul faux ou tire une conclusion logique invalide à partir de prémisses correctes. Exemple : déduire qu'un produit est rentable alors que les chiffres fournis prouvent le contraire.

Les hallucinations de fidélité. L'IA résume ou paraphrase un document en y ajoutant des éléments qui n'y sont pas. Exemple : un compte rendu IA qui mentionne une décision prise pendant une réunion alors que rien de tel n'a été dit.

Les trois sont graves dans des contextes professionnels, mais c'est la troisième qui pose le plus de problèmes en PME, car elle est souvent invisible : un résumé qui semble cohérent peut contenir des affirmations inventées qui s'appuient sur le ton du document mais pas sur son contenu réel.

Pourquoi les LLM hallucinent-ils ?

La cause profonde tient au mécanisme même des LLM : ils sont entraînés à générer le texte le plus plausible, pas le plus vrai. Ces deux objectifs ne sont pas équivalents.

Quand un modèle ne sait pas la réponse à une question, son réflexe statistique est de produire une réponse qui ressemble à ce qu'on attendrait, plutôt que d'admettre l'ignorance. C'est ce qu'on appelle parfois la "complaisance hallucinée" ou la sycophancy.

Plusieurs facteurs aggravent le phénomène :

• Une question trop spécifique dont la réponse n'est pas couverte par les données d'entraînement
• Une question piège qui pousse le modèle à imaginer une réponse plutôt qu'à dire qu'il ne sait pas
• Une température élevée dans les paramètres du modèle, qui encourage la créativité au détriment de la fidélité
• Un contexte ambigu ou contradictoire que le modèle "résout" en inventant ce qui manque
• Une demande de cohérence ("rédige-moi 5 références sur le sujet") qui force le modèle à produire le nombre demandé même quand il n'en connaît pas autant

7 techniques pour limiter les hallucinations en entreprise

Même si on ne peut pas les éliminer complètement, on peut les réduire drastiquement avec les bonnes pratiques.

1. Utiliser le RAG plutôt que la mémoire du modèle. Au lieu de demander à un LLM ce qu'il sait sur un sujet, donnez-lui les documents pertinents et demandez-lui de répondre uniquement à partir d'eux. Le RAG est l'antidote n°1 aux hallucinations factuelles, parce qu'il ancre la réponse à des sources vérifiables.

2. Demander explicitement les sources. Dans le prompt, exigez que chaque affirmation soit accompagnée de sa source ou d'une citation du document. Si le modèle ne peut pas citer, il abandonnera plus facilement plutôt que d'inventer.

3. Imposer "je ne sais pas" comme réponse acceptable. Précisez dans le prompt système : "Si tu n'as pas l'information, réponds 'Je ne sais pas' plutôt que d'inventer.". Les modèles modernes (Claude, GPT-5) sont plutôt bien entraînés à respecter cette consigne.

4. Réduire la température du modèle. Pour des cas d'usage factuels (extraction, résumé, classification), passez la température à 0 ou 0,1. Vous perdez en variété mais gagnez en stabilité et en fidélité.

5. Utiliser un modèle de raisonnement pour les tâches critiques. Pour des analyses complexes ou des décisions juridiques/financières, privilégiez les modèles dits "de raisonnement" (Claude Opus, GPT-5 thinking, o3 d'OpenAI) qui prennent le temps de vérifier leur logique avant de répondre.

6. Mettre en place une étape de validation humaine ciblée. Pour les cas d'usage à fort enjeu (contrats, communication client, médical), aucun LLM ne devrait sortir directement vers l'extérieur sans relecture. La règle simple : "Si l'erreur coûte cher, l'humain garde la main."

7. Tester systématiquement avant de déployer. Avant d'ouvrir un assistant IA à toute l'entreprise, testez-le sur 100 questions réelles avec des réponses connues. Mesurez le taux d'hallucination. S'il est supérieur à 5 %, retravaillez le prompt système ou le RAG avant de généraliser. C'est un principe de trustworthy AI.

Comment détecter une hallucination dans la vraie vie

Trois signaux d'alerte à apprendre à vos équipes :

Une réponse trop précise. Quand l'IA donne une statistique au pourcentage près, une date à la journée près, ou une référence avec ISBN sans qu'on lui ait fourni la source, c'est un signal fort. Vérifiez systématiquement.

Une référence à un document interne précis. Si l'IA cite "le rapport de mai 2024" sans que vous lui ayez donné, c'est suspect. Demandez-lui de citer un extrait.

Une cohérence trop parfaite. Quand tout le récit semble parfaitement aligné sans aucune nuance, sans aucun "il faudrait vérifier", sans aucune incertitude, méfiez-vous. La réalité est rarement aussi nette.

Ce qu'il faut retenir

Les hallucinations sont une caractéristique inhérente aux LLM, pas un bug temporaire qui sera bientôt résolu. Elles sont le revers du fait que ces modèles génèrent du texte fluide et plausible. La bonne nouvelle, c'est qu'elles peuvent être réduites drastiquement avec les bonnes architectures (RAG, validation, sources) et les bonnes pratiques (température basse, prompts précis, modèles de raisonnement).

Pour une PME qui déploie de l'IA générative en interne, la formation des équipes sur ce sujet est aussi importante que le choix du modèle. Une IA qui hallucine et n'est pas détectée crée plus de dégâts qu'elle n'apporte de valeur. C'est précisément l'un des sujets que nous traitons dans nos formations hIAppy Learn. Voir aussi : ChatGPT en mode yes-man.