Un agente de IA actúa con los permisos que recibe

Un sistema agentivo puede consultar documentos, preparar respuestas o realizar operaciones mediante herramientas. Su autonomía depende de las funciones y permisos disponibles y de las aprobaciones exigidas. Ejemplo hipotético: redactar un correo y enviarlo sin confirmación son capacidades distintas, aunque la interfaz se parezca.

OWASP describe la agencia excesiva mediante exceso de funciones, permisos o autonomía. Una interpretación errónea es más grave si permite modificar, borrar o transmitir datos. El mínimo privilegio limita lo disponible a la tarea y exige controles independientes del texto generado por el modelo.

La inyección indirecta intenta desviar el sistema mediante contenido externo que este consulta. Una web o un archivo no debería adquirir la autoridad de las instrucciones del usuario. Pedir al modelo que ignore textos maliciosos no constituye por sí solo una garantía suficiente.

Leer documentos públicos no equivale a acceder al correo, archivos internos o pagos. Hay que evaluar datos accesibles y cambios posibles. Registros, límites de actuación y revocación son requisitos de funcionamiento. La CNIL recomienda definir usos y gobernanza antes de desplegar IA generativa.

En un piloto, lectura o borradores pueden bastar. Las acciones sensibles necesitan una aprobación que muestre destino, contenido y alcance. Probar errores, documentos engañosos, cancelación y retirada de accesos. Más autonomía no significa necesariamente más utilidad.