Waarom kan AI met zekerheid een bron verzinnen

Een taalmodel voorspelt plausibele reeksen op basis van training en context. Het kan een bekende referentie correct reproduceren, maar ook een echte auteur, geloofwaardige titel en bestaand tijdschrift combineren tot een publicatie die nooit heeft bestaan.

Het NIST-profiel voor generatieve AI beschrijft confabulatie als onjuiste inhoud die met vertrouwen wordt gepresenteerd. Dat geldt voor feiten én verwijzingen. Een DOI, link of exacte datum moet dus gecontroleerd worden.

Een systeem met document retrieval kan bronnen noemen die het werkelijk heeft opgehaald. Toch kan het een verkeerde passage kiezen, verkeerd samenvatten of een bron koppelen die de conclusie niet draagt. Herkomst verbetert controleerbaarheid, niet automatisch het oordeel.

In een paper, juridisch memo, artikel of bedrijfsbesluit kan een verzonnen referentie door meerdere mensen worden overgenomen en zo onterecht geloofwaardigheid krijgen. Juist precieze details verleiden tot kopiëren zonder controle.

Zoek de titel bij de uitgever of databank, open het origineel en controleer of de passage de claim werkelijk ondersteunt. Bewaar bij gevoelige onderwerpen ook link, raadpleegdatum en waar mogelijk pagina of sectie.