Comprendre l'IA
Hallucinations de l'IA : pourquoi elles arrivent et comment les limiter
Une référence juridique qui n'existe pas, un chiffre inventé, une citation imaginaire : comprendre les hallucinations pour s'en protéger au travail.
Par l'équipe Paris AIPublié le 4 min de lecture
En bref
Une hallucination est une réponse fausse produite avec assurance par une IA générative : un chiffre, une source ou un fait inventé mais plausible. Elle vient du fonctionnement même des modèles de langage, qui prédisent le texte le plus probable sans vérifier sa vérité. On la limite en fournissant ses propres documents, en demandant des sources, en autorisant l'IA à dire « je ne sais pas » et en vérifiant systématiquement.
Les points clés
- Les hallucinations sont une conséquence du fonctionnement des modèles, pas un bug rare.
- Elles sont plus fréquentes sur les chiffres précis, les références et les sujets pointus.
- Fournir des documents et exiger des sources réduit fortement le risque.
- Tout contenu qui engage l'entreprise doit être vérifié par une personne.
Qu'est-ce qu'une hallucination d'IA ?
On parle d'hallucination lorsqu'une IA générative produit une information fausse ou inventée tout en la présentant comme vraie. Les exemples sont variés : une décision de justice qui n'existe pas, un article scientifique imaginaire avec des auteurs crédibles, un chiffre de marché précis mais sans fondement, une fonctionnalité de logiciel décrite alors qu'elle n'existe pas.
Le danger tient à la forme : la réponse est bien écrite, sûre d'elle, cohérente. Rien ne la distingue visuellement d'une réponse exacte. C'est pourquoi une personne pressée peut la reprendre telle quelle dans un courrier, une présentation ou un rapport, avec des conséquences parfois sérieuses pour la crédibilité de l'entreprise.
Pourquoi les IA hallucinent-elles ?
Un grand modèle de langage ne consulte pas une base de faits : il prédit la suite de texte la plus probable, à partir de ce qu'il a appris pendant son entraînement. Quand l'information est bien représentée dans ses données, la suite probable est souvent vraie. Quand elle est rare, récente, très précise ou absente, le modèle produit quand même une suite plausible, qui peut être fausse. Nous expliquons ce mécanisme dans notre article sur les LLM.
Certaines situations augmentent le risque : une question qui présuppose un fait faux (« pourquoi la loi de 2019 impose-t-elle… » alors qu'aucune loi ne l'impose), une demande de chiffres ou de références précis, un sujet très spécialisé, ou une consigne qui pousse l'IA à toujours donner une réponse complète. Les modèles récents se trompent moins et savent davantage reconnaître leurs limites, mais le risque n'est jamais nul.
Quelles tâches sont les plus exposées ?
| Tâche | Risque | Pourquoi |
|---|---|---|
| Reformuler un texte fourni | Faible | L'information est dans la consigne |
| Résumer un document fourni | Faible à moyen | Risque d'omission ou de contresens |
| Rédiger un e-mail à partir de notes | Faible | Le contenu vient de vous |
| Donner des chiffres de marché | Élevé | Données précises, souvent absentes ou datées |
| Citer des lois, décisions, études | Élevé | Références précises faciles à inventer |
| Décrire un produit ou service d'un tiers | Moyen à élevé | Informations parfois obsolètes |
Règle simple : plus l'IA travaille sur un contenu que vous lui fournissez, moins elle risque d'inventer.
Comment limiter les hallucinations ?
- Fournir les documents de référence plutôt que de compter sur la mémoire du modèle, idéalement avec un système RAG.
- Demander explicitement de ne rien inventer et de répondre « je ne sais pas » en l'absence d'information.
- Exiger des sources ou des citations précises des passages utilisés, puis les vérifier.
- Activer la recherche web pour les sujets récents, en contrôlant les sources citées.
- Découper les tâches complexes en étapes vérifiables.
- Faire relire les chiffres, références et engagements par une personne compétente.
- Mesurer : tester régulièrement vos assistants sur des questions dont vous connaissez la réponse.
La deuxième consigne, souvent oubliée, est l'une des plus efficaces. Elle figure dans nos modèles de prompts.
Comment éviter qu'un chatbot client invente des réponses ?
Pour un chatbot visible par vos clients, l'enjeu est encore plus fort : une promesse inventée sur un délai, un tarif ou une garantie peut engager votre entreprise. Les bonnes pratiques sont claires. Le chatbot ne répond qu'à partir de vos contenus validés. Il refuse poliment les questions hors de son périmètre et propose un contact humain. Il ne cite jamais un prix ou une condition absente de sa base. Il est testé, avant la mise en ligne, sur les questions pièges que vos clients posent réellement.
C'est ainsi que nous concevons les chatbots IA de nos clients, avec un suivi des questions sans réponse qui sert à enrichir la base au fil du temps.
Comment installer le bon réflexe dans les équipes ?
La meilleure protection reste humaine : une équipe qui sait que l'IA peut se tromper vérifie naturellement ce qui compte. Ce réflexe se construit par la formation et par des règles écrites : « toute référence juridique est vérifiée dans la source officielle », « tout chiffre publié a une source », « tout contenu client est relu ». Ces règles ont leur place dans une charte IA et dans vos formations à l'IA.
Loin de condamner l'usage de l'IA, cette vigilance permet de l'utiliser en confiance, là où elle est la plus utile : préparer, structurer, reformuler et résumer, en laissant à l'humain le dernier mot.
Questions fréquentes
Les hallucinations vont-elles disparaître ?
Elles diminuent avec chaque génération de modèles, mais le fonctionnement probabiliste des LLM rend improbable leur disparition totale.
La recherche web supprime-t-elle le problème ?
Elle le réduit sur l'actualité, mais le modèle peut mal interpréter une source ; vérifiez les liens cités.
Claude hallucine-t-il moins que ChatGPT ?
Les deux progressent régulièrement ; la méthode (documents fournis, sources exigées, vérification) compte plus que le choix de l'outil.
Sources
- Anthropic : bonnes pratiques de rédaction de prompts(nouvel onglet)
- CNIL : intelligence artificielle(nouvel onglet)
Cet article a une visée informative et ne constitue pas un conseil juridique.
Passer à l'action
Agence IA à Paris : intégration de l'IA en entreprise
Chatbots, agents IA et automatisations qui font gagner des heures à vos équipes et améliorent l'expérience client.
Découvrir l'offreRédigé par l'équipe de Paris AI, agence web et IA à Paris qui conçoit des sites, des applications et des solutions d'intelligence artificielle pour les entreprises. Qui sommes-nous ?
Nos services liés