Réduire les hallucinations de l'IA en entreprise

Pour réduire les hallucinations de l'IA, donnez les faits au modèle au lieu de lui demander de s'en souvenir, demandez-lui de répondre uniquement à partir de ces faits et de signaler ce qui manque, encadrez le format de sortie, vérifiez les détails critiques automatiquement ou par une personne, et gardez une relecture humaine pour les résultats à fort enjeu. Les hallucinations ne disparaîtront pas totalement : l'objectif est un processus où elles sont rares et détectées avant de causer du tort.

Pourquoi les modèles de langage hallucinent

Un grand modèle de langage prédit les tokens suivants les plus probables, d'après ses schémas d'entraînement et le prompt. Il ne dispose d'aucun mécanisme intégré pour vérifier qu'une affirmation est vraie. Quand le prompt ne contient pas les faits nécessaires et que l'entraînement ne les couvre pas de façon fiable, il produit malgré tout un texte fluide et assuré, éventuellement faux.

Déclencheurs fréquents :

• Information manquante. Questions sur vos règles internes, un client précis ou tout ce que le modèle n'a jamais reçu.
• Détails précis. Chiffres exacts, dates, noms, caractéristiques produits, références juridiques et citations.
• Événements récents. Ce qui s'est passé après la collecte des données d'entraînement.
• Questions orientées. « Pourquoi X est-il la meilleure option ? » invite le modèle à justifier une prémisse.
• Pression pour répondre. Les prompts qui exigent une réponse ne laissent pas de place au « je ne sais pas ».
• Contexte long et bruité. Des faits importants noyés dans de gros documents peuvent être ignorés ou mélangés.

Les types d'hallucinations à surveiller

Type	Exemple
Faits inventés	Une fonctionnalité produit qui n'existe pas
Chiffres erronés	Un montant, une date ou un pourcentage qui ne correspond pas à la source
Sources fabriquées	Une citation, une étude ou une URL inexistante
Mauvaise attribution	Une affirmation attribuée au mauvais document, à la mauvaise personne ou section
Conclusions non étayées	Une recommandation que les données fournies ne soutiennent pas
Dérive des consignes	Une règle ignorée, comme promettre un remboursement que la politique n'autorise pas

Les connaître aide à concevoir les contrôles.

Stratégie 1 : ancrer le modèle dans des sources

Le plus efficace : fournir les faits. Au lieu de « Quelle est notre politique de retour ? », envoyez le texte de la politique avec la question et demandez au modèle d'y puiser sa réponse.

Pour des bases de connaissances plus vastes, utilisez la récupération : recherchez dans vos documents les passages pertinents pour chaque question et n'insérez que ceux-là dans le prompt. C'est la génération augmentée par récupération (RAG). Notre comparatif RAG ou fine-tuning explique son fonctionnement et pourquoi le fine-tuning n'est généralement pas la solution pour l'exactitude factuelle.

L'ancrage fonctionne au mieux quand :

• les passages récupérés contiennent vraiment la réponse (la qualité de la récupération compte),
• les sources sont à jour et cohérentes entre elles,
• le prompt sépare clairement sources et instructions.

Stratégie 2 : des prompts qui autorisent « je ne sais pas »

Ajoutez des règles explicites :

• « Réponds uniquement avec les informations des sources ci-dessous. »
• « Si les sources ne contiennent pas la réponse, dis que l'information n'est pas disponible. Ne devine pas. »
• « Cite les chiffres exactement tels qu'ils figurent dans la source. »
• « Si des sources se contredisent, signale la contradiction au lieu d'en choisir une. »

Le comportement par défaut du modèle passe ainsi de « produire une réponse » à « produire une réponse étayée ». Le guide de l'ingénierie de prompt explique comment formuler des règles claires, et le générateur de prompt IA propose une option qui demande d'exprimer l'incertitude plutôt que de deviner.

Stratégie 3 : exiger des preuves

Demandez au modèle d'indiquer d'où vient chaque affirmation :

• « Pour chaque point clé, indique le numéro de section ou une courte citation de la source. »
• « Liste les sources utilisées à la fin. »

La relecture s'accélère nettement. Ce n'est pas une garantie, le modèle pouvant mal citer : vérifiez les citations, idéalement automatiquement.

Stratégie 4 : encadrer la sortie

Le texte libre laisse au modèle de la place pour broder. Les sorties structurées la réduisent :

• Demandez des champs précis plutôt que de la prose.
• Utilisez null ou « non trouvé » pour les valeurs manquantes.
• Utilisez les fonctions de sortie structurée ou de schéma de votre fournisseur lorsqu'elles existent.
• Limitez la longueur. Une réponse longue contient plus d'affirmations, donc plus de risques d'erreur.

Stratégie 5 : découper les tâches

Un seul gros prompt qui recherche, analyse et rédige favorise les erreurs. Découper aide :

1. Extraire les faits pertinents des sources.
2. Vérifier les faits extraits (par code, par un second appel au modèle ou par une personne).
3. Rédiger la réponse uniquement à partir des faits vérifiés.

Chaque étape est plus simple à contrôler.

Stratégie 6 : vérifier automatiquement quand c'est possible

Beaucoup d'hallucinations se détectent par de simples contrôles dans le code :

• Tous les nombres de la réponse figurent-ils dans la source ?
• Les passages cités existent-ils mot pour mot dans la source ?
• Noms de produits, numéros de commande ou noms de clients correspondent-ils à la base de données ?
• Les liens pointent-ils vers de vraies pages de votre site ?
• La sortie respecte-t-elle le schéma imposé ?

Peu coûteux, ils s'appliquent à chaque résultat, ce que la relecture humaine ne peut pas toujours faire à grande échelle.

Stratégie 7 : garder l'humain là où cela compte

Pour les résultats destinés aux clients, financiers, juridiques ou lourds de conséquences, une personne doit relire avant usage, au moins jusqu'à disposer de preuves solides de fiabilité. Concevez la relecture pour que le relecteur voie la source à côté du résultat et sache quoi vérifier. Notre guide sur l'IA human-in-the-loop explique comment garder une relecture efficace et éviter la validation réflexe.

Stratégie 8 : choisir le bon modèle et les bons réglages

Les modèles diffèrent dans leur capacité à suivre les consignes et à rester fidèles aux sources. Testez les candidats sur vos propres cas avec des questions dont vous connaissez la réponse, y compris des questions auxquelles les sources ne répondent pas. Voir comment choisir un LLM pour une méthode d'évaluation. Les réglages peuvent aussi compter : pour les tâches factuelles, des paramètres d'aléa plus bas, lorsqu'ils existent, donnent généralement des résultats plus constants.

Exemple : un prompt de réponse ancrée

Tu réponds aux questions des salariés sur les règles de l'entreprise.

Sources :
<source id="1">[extrait de la politique]</source>
<source id="2">[extrait de la politique]</source>

Règles :
- Réponds uniquement à partir des sources. Indique l'id de la source après chaque
  affirmation, p. ex. [1].
- Si les sources ne répondent pas à la question, réponds : "Je n'ai pas trouvé cette
  information dans les règles internes. Merci de contacter les RH." N'ajoute aucun
  conseil général.
- Cite les chiffres et les délais exactement.
- Si deux sources se contredisent, dis-le et cite les deux.

Question : """[question du salarié]"""

Mesurer le taux d'hallucinations

Pour savoir si vos changements fonctionnent, mesurez :

1. Créez un jeu de test de questions aux réponses connues, dont certaines sans réponse possible à partir des sources.
2. Lancez le système et classez chaque réponse : correcte, partiellement correcte, fausse ou refus justifié.
3. Soyez particulièrement attentif aux réponses fausses qui semblent assurées.
4. Recommencez après chaque modification des prompts, de la récupération, des sources ou du modèle.

Suivez le taux d'affirmations non étayées, pas seulement l'exactitude globale.

Là où les hallucinations sont les plus risquées

Domaine	Pourquoi	Contrôle minimal
Communication client	Promesses, prix ou règles erronés	Ancrage + relecture humaine
Contenus juridiques et conformité	Références ou obligations inventées	Relecture par un expert, toujours
Chiffres financiers	Les erreurs se propagent dans les décisions	Contrôle automatique des nombres + relecture
Informations médicales ou de sécurité	Risque de préjudice	Pas d'automatisation sans supervision spécialisée
Contenus publiés	Atteinte à la réputation	Vérification des faits avant publication

Les erreurs fréquentes

• Se fier à la fluidité. Bien écrit ne veut pas dire exact.
• Demander au modèle ce qu'il ne peut pas savoir. Fournissez plutôt l'information.
• Prendre les citations pour des preuves. Vérifiez que les sources citées existent et disent bien ce qui est affirmé.
• Aucun jeu de test. Sans mesure, les améliorations relèvent de la devinette.
• Supprimer la relecture trop tôt. Une série de bons résultats ne prouve pas la fiabilité sur les cas inhabituels.

En résumé

Les hallucinations découlent du fonctionnement même des modèles de langage ; ce n'est pas un bug rare. Réduisez-les en ancrant les réponses dans des sources, en autorisant le « je ne sais pas », en encadrant les sorties, en vérifiant les détails critiques et en gardant l'humain dans la boucle pour tout ce qui a des conséquences. Intégrez ces contrôles dès le départ, dans votre plan global pour intégrer l'IA dans une PME.