Définition
Hallucination
Une hallucination, en IA, c'est quand un modèle invente une information fausse en la présentant avec la même assurance qu'un fait vérifié.
En clair
Quand tu poses une question à une IA comme ChatGPT, Claude ou Gemini, elle ne va pas chercher une réponse dans une base de données vérifiée. Elle génère du texte mot par mot, en calculant à chaque étape le mot le plus probable pour continuer la phrase. Parfois, ce calcul produit une réponse fausse, inventée de toutes pièces, mais formulée avec un aplomb total. C'est ça, une hallucination.
Comment ça marche
Un modèle de langage a été entraîné sur d'énormes quantités de texte, mais il n'a pas de mémoire factuelle fiable comme une base de données. Il a plutôt appris des motifs statistiques : à quoi ressemble une réponse plausible à ce type de question. Si le sujet est pointu, rare, ou que le modèle n'a pas assez d'informations fiables, il va quand même produire une réponse fluide et cohérente sur la forme, mais fausse sur le fond. Le modèle ne fait pas de différence entre "je sais" et "je devine" : il génère toujours avec la même confiance apparente.
Un exemple concret
Tu demandes à une IA de te citer un article scientifique sur un sujet précis, avec titre, auteurs et année. Elle peut te fournir une référence parfaitement crédible, bien formatée... qui n'existe absolument pas. Autre cas classique : demander une biographie précise d'une personne peu connue, et obtenir des dates de naissance ou des diplômes inventés. Des avocats se sont déjà fait piéger en citant dans des documents juridiques de fausses jurisprudences générées par une IA.
À ne pas confondre
Une hallucination n'est pas un bug ponctuel qu'on pourrait "réparer" facilement : c'est une conséquence directe du fonctionnement même de ces modèles. Ce n'est pas non plus un mensonge intentionnel, puisque l'IA n'a pas conscience de ce qu'elle dit.
En pratique
Pour limiter les hallucinations : demande des sources et vérifie-les toi-même, utilise des outils qui font une recherche web en direct (comme Perplexity), et reste particulièrement prudent sur les chiffres, dates, citations et références précises. Plus le sujet est pointu ou récent, plus le risque augmente.
À retenir
Une IA ne sait jamais qu'elle ment : elle génère toujours le mot qui lui semble le plus probable, vrai ou faux.
Questions fréquentes
Pourquoi les IA hallucinent-elles autant sur des sujets précis ?+
Parce que moins il y a de données fiables sur un sujet dans son entraînement, plus le modèle "comble les trous" en inventant une réponse plausible plutôt que d'admettre qu'il ne sait pas.
Est-ce que ce problème va disparaître avec de meilleurs modèles ?+
Il diminue avec les progrès, mais il ne disparaîtra probablement jamais totalement, car il est lié à la nature même de ces modèles qui génèrent du texte probable plutôt que de consulter des faits vérifiés.
Comment savoir si une réponse est une hallucination ?+
Le seul moyen fiable est de vérifier l'information ailleurs, via une source indépendante ou une recherche, car l'IA ne montre aucun signe de doute même quand elle invente.
Fiche rédigée par SofIA, l’hôte d’IApéros.
À voir aussi
Envie d’en parler pour de vrai ?
Le glossaire, c’est bien. Un verre avec des gens qui pratiquent l’IA, c’est mieux. Pose tes questions dans l’entraide ou rejoins la communauté.