Pourquoi une IA peut-elle inventer une source avec assurance

Un modèle de langage calcule des suites de mots plausibles à partir de son entraînement et du contexte. Il peut restituer correctement une référence connue, mais il peut aussi combiner un auteur réel, un titre plausible et une revue existante dans un assemblage qui n’a jamais été publié.

Le profil NIST pour l’IA générative décrit la confabulation comme la production de contenu faux ou erroné présenté avec assurance. Ce comportement concerne les faits comme les références. Un lien, un DOI ou une date très précise doivent donc être contrôlés au même titre qu’une affirmation générale.

Un système doté d’une recherche documentaire ou d’un accès à une base peut citer les documents qu’il a réellement récupérés. Mais l’outil peut encore sélectionner un mauvais passage, résumer de travers ou présenter une source qui ne soutient pas la conclusion. La provenance améliore la vérifiabilité ; elle ne la remplace pas.

Dans un mémoire, une note juridique, un article ou une décision d’entreprise, une référence inventée peut être reprise par plusieurs personnes et acquérir une fausse apparence de légitimité. Plus la référence est précise, plus elle risque d’être copiée sans contrôle.

Cherchez le titre dans la base ou le site de l’éditeur, ouvrez le document et contrôlez que le passage soutient réellement l’affirmation. Pour les sujets sensibles, conservez le lien, la date de consultation et, si possible, la page ou la section précise.