Pourquoi les modèles d’IA hallucinent-ils réellement ?
Les modèles d’IA hallucinent lorsqu’ils produisent des affirmations qui semblent plausibles mais qui sont factuellement incorrectes ou totalement inventées. Ce phénomène a été observé dès la sortie de GPT‑3 en 2020 et s’est amplifié avec les versions GPT‑4 (mars 2023) et LLaMA 2 (juillet 2023). Il importe de le comprendre car il affecte la fiabilité des systèmes utilisés en médecine, en droit et en finance, où une erreur peut avoir des conséquences graves.
Qu’est-ce qu’une hallucination d’IA ?
Une hallucination d’IA désigne une sortie du modèle qui contient des informations absentes de ses données d’entraînement ou qui contredit des faits vérifiables. Par exemple, GPT‑3 a parfois cité des articles scientifiques inexistants, tandis que LLaMA 2 a généré des biographies détaillées de personnes qui n’ont jamais existé. Ces erreurs ne sont pas des bugs de code mais des extrapolations statistiques où le modèle remplit les lacunes de connaissance avec des séquences plausibles selon ses probabilités internes.
Pourquoi les données d’entraînement provoquent-elles des hallucinations ?
Les modèles sont formés sur des corpus massifs mais incomplets : GPT‑3 a été entraîné sur environ 45 To de texte provenant du web, de livres et de Wikipédia jusqu’en septembre 2021. Lorsque le modèle rencontre une demande portant sur un événement postérieur à cette date ou sur un sujet peu représenté, il manque de références précises et compense en générant du texte qui ressemble à ce qu’il a vu auparavant. Une étude de 2022 (HaluEval) a montré que près de 19 % des réponses de GPT‑3 contenaient au moins une affirmation non vérifiable sur des sujets peu couverts dans le corpus.
Comment les paramètres du modèle influencent-ils la fréquence des hallucinations ?
Deux réglages clés modulent la tendance à halluciner : la taille du modèle et la température de génération. GPT‑4, avec environ 1 000 milliards de paramètres, présente un taux d’hallucination inférieur à celui de GPT‑3 (175 milliards de paramètres) sur le même benchmark TruthfulQA, passant de 28 % à 12 % de réponses incorrectes. En outre, augmenter la température au‑delà de 0,8 rend la distribution de probabilité plus plate, favorisant les sorties moins probables et donc plus susceptibles d’être factuellement erronées ; à température 0,2, le taux d’hallucination chute de près de moitié selon les tests internes d’OpenAI (2023).
Quelles méthodes permettent de réduire les hallucinations en pratique ?
Plusieurs approches ont démontré leur efficacité. La génération augmentée par récupération (RAG) combine le modèle avec une base de données externe : lorsqu’une question est posée, le système recherche d’abord des passages pertinents dans une source fiable (comme PubMed pour la médecine) puis les injecte dans le contexte avant génération. Des essais menés par Google en 2023 sur MedPaLM‑2 ont réduit les hallucinations de 34 % à 9 % sur des questions cliniques. Le fine‑tuning avec reinforcement learning from human feedback (RLHF) pénalise explicitement les sorties non factuelles, comme l’a montré InstructGPT (2022) où le taux d’hallucination est passé de 22 % à 7 % sur le benchmark TriviaQA. Enfin, des post‑traitements de détection d’incohérence, tels que les vérificateurs de faits basés sur des modèles de classement, permettent de filtrer ou de reformuler les réponses suspectes avant leur présentation à l’utilisateur.
L’amélioration de la fiabilité des modèles d’IA passe désormais par l’intégration de sources externes vérifiables et par des entraînement qui privilégient la précision plutôt que la seule vraisemblance statistique. À mesure que les benchmarks d’hallucination se standardisent et que les réglementations (comme le projet de loi européen sur l’IA, attendu pour 2025) imposent des seuils d’exactitude, les développeurs devront adopter ces techniques pour déployer des systèmes sûrs dans des domaines critiques.
