Agent IA ينجم يتصرّف، أما بصلاحيات شنوة

Chatbot ترجع نص وagent تنجم تبعث email، تبدّل fichier ولا تنادي API موش نفس التأثير. كي model تاخو صلاحية تعمل actions، permissions، identité والحدود يدخلوا في security model.

OWASP يحكي على excessive agency كي model عندها functions، permissions ولا autonomie أكثر من اللازم. الغلطة وقتها ما تبقاش نص؛ تنجم تولّي modification، envoi ولا suppression. Least privilege ينقص حجم الضرر.

Prompt injection تنجم تدخل من document، page web ولا message يقراه agent. كان عندها tools، محتوى موش موثوق ينجم يحاول يوجّه تصرفها. Filters وحدهم ما يحلوش المشكلة كاملة.

Demo agent من غير write access موش كيف agent عندها production، CRM، paiements ولا cloud admin. نفس model تنجم يكون عندها risk مختلف تماما حسب credentials، réseau والtools.

استعمل service accounts منفصلين، scopes صغار، confirmation صريحة للأفعال الحساسة وlogs تنجم تراجعهم. زيد budgets، rate limits وkill switch وين تنجم. وجرّب agent قدام محتوى hostile ولا ambigu.