Een AI-agent kan handelen, maar met welke rechten

Een chatbot die tekst terugstuurt en een agent die e-mail kan verzenden, bestanden wijzigen of API’s aanroepen hebben niet hetzelfde impactniveau. Zodra een model acties mag uitvoeren, worden toolrechten, identiteit en grenzen onderdeel van het beveiligingsmodel.

OWASP beschrijft excessive agency als een risico wanneer een model meer functionaliteit, rechten of autonomie krijgt dan nodig. Een fout antwoord is dan niet alleen tekst; het kan leiden tot een wijziging, verzending of verwijdering. Least privilege beperkt de mogelijke schade.

Prompt injection kan via een document, webpagina of bericht instructies in de context van een agent brengen. Wanneer de agent daarna tools mag gebruiken, kan onbetrouwbare inhoud proberen het gedrag te sturen. Filters alleen lossen dat probleem niet volledig op.

Een demonstratie-agent zonder schrijfrechten is iets anders dan een agent met toegang tot productie, CRM, betalingen of cloudbeheer. Hetzelfde model kan dus een heel ander risicoprofiel hebben afhankelijk van credentials, netwerk en toolset.

Gebruik aparte serviceaccounts, beperkte scopes, expliciete bevestiging voor gevoelige acties en logging die achteraf te controleren is. Voeg waar mogelijk budgetten, rate limits en een kill switch toe. Test ook hoe de agent reageert op vijandige of dubbelzinnige inhoud.