Por qué una IA puede inventar una fuente con total seguridad

Un modelo de lenguaje predice secuencias plausibles a partir de su entrenamiento y del contexto. Puede reproducir una referencia conocida, pero también combinar autor real, título plausible y revista existente en una publicación que nunca existió.

El perfil del NIST para IA generativa describe la confabulación como contenido falso o erróneo presentado con seguridad. Afecta tanto a hechos como a referencias. Un enlace, DOI o fecha exacta deben comprobarse, no creerse porque parezcan muy específicos.

Un sistema con búsqueda documental puede citar material que realmente recuperó. Aun así puede elegir un pasaje equivocado, resumir mal o enlazar una fuente que no respalda la conclusión. La procedencia mejora la auditoría, no sustituye el juicio.

En un informe, nota jurídica, artículo o decisión empresarial, una referencia inventada puede copiarse varias veces y adquirir una falsa legitimidad. Cuanto más precisa parece, mayor es la tentación de reutilizarla sin comprobar.

Busca el título en la editorial o base, abre el original y comprueba que el pasaje sostiene la afirmación. En asuntos sensibles, conserva el enlace, la fecha de consulta y, si es posible, la página o sección exacta.