Man mano che un agente AI diventa capace di eseguire azioni sempre più articolate, cresce anche l'importanza di definire con precisione cosa può e non può fare. Un accesso troppo ampio, concesso per comodità di sviluppo, espone l'azienda a rischi che vanno oltre l'errore occasionale.
Il principio del minimo privilegio
Lo stesso principio applicato agli utenti umani — dare accesso solo a ciò che serve per il compito specifico — vale ancora di più per un agente AI: se un agente si occupa di preventivi, non dovrebbe avere accesso a funzioni di eliminazione di dati non pertinenti al suo compito, anche se tecnicamente possibile implementarlo.
Azioni reversibili vs irreversibili
Una distinzione utile è tra azioni facilmente reversibili — creare una bozza, calcolare un valore — e azioni difficili da annullare — inviare una comunicazione a un cliente, eliminare definitivamente un dato. Le seconde meritano controlli più stringenti, come la conferma esplicita dell'utente prima dell'esecuzione.
Un perimetro definito, non un'autonomia illimitata
Un agente AI sicuro opera all'interno di un perimetro di azioni esplicitamente concesse, definito da chi progetta il sistema — non decide autonomamente quali strumenti usare al di fuori di quelli messi a disposizione. Questo perimetro va rivisto periodicamente, restringendolo se emergono usi impropri o allargandolo con cautela quando emerge un bisogno reale e verificato.