Demander une preuve, pas un sentiment de confiance
Les modèles de langage peuvent produire des affirmations plausibles mais inexactes. Les travaux d’OpenAI décrivent notamment comment certaines procédures d’entraînement et d’évaluation favorisent la réponse devinée plutôt que l’expression de l’incertitude. Ce constat ne signifie pas qu’un modèle se trompe toujours ; il interdit de traiter son assurance comme une preuve. Source : OpenAI, Why language models hallucinate, 5 septembre 2025.
Un « score de confiance » autoattribué ne justifie pas de valider une ligne. Demandez la pièce, son indice, la page et l’extrait. Vérifiez que l’extrait étaye réellement la conclusion, qu’il est applicable au périmètre étudié et qu’il n’est pas contredit ailleurs.
Organiser la revue à partir des erreurs possibles
Pour une notice, contrôlez les prescriptions et les informations propres à l’opération. Pour une extraction, cherchez aussi ce qui a été omis. Pour une note de calcul, les hypothèses, unités, formules et résultats doivent être contrôlés par les professionnels compétents et les outils appropriés. Une réponse textuelle convaincante ne remplace pas cette vérification.
Les données absentes ou contradictoires restent visibles. Elles ne deviennent ni une valeur par défaut ni une conclusion affirmative. Une norme ou un référentiel nécessaire doit être disponible dans une version applicable et dans un cadre d’utilisation autorisé.
Donner un rôle précis à chaque contrôle
Une deuxième IA peut aider à rechercher des incohérences. Elle peut aussi reproduire la même erreur que la première : ce n’est pas une validation indépendante suffisante. Combinez les contrôles de cohérence, les calculs programmés lorsque les règles sont explicites, la comparaison aux pièces et la revue métier.
Le circuit doit nommer qui prépare, qui vérifie et qui autorise la diffusion. Les questions de responsabilité contractuelle ou d’assurance se traitent avec les conseils compétents, selon la mission et les engagements réels. Un slogan sur « celui qui signe » ne décrit pas correctement tous les cas.
Éprouver le dispositif avant de l’étendre
Testez un jeu de documents avec des erreurs connues, des informations manquantes et des changements d’indice. Mesurez les erreurs repérées et celles qui passent encore. Conservez les versions des règles et des modèles utilisées. Cette base permet de vérifier qu’une évolution améliore le service sans dégrader un usage déjà en place.
Mister ConTech construit ces contrôles dans votre plateforme et les travaille avec vos référents. L’objectif est de produire un livrable que l’équipe peut examiner, corriger et décider de diffuser en connaissance de cause.