Anche il sistema meglio progettato incontra, prima o poi, un'azione che fallisce: un dato mancante, una condizione non prevista, un problema temporaneo di connessione. Come un agente AI gestisce questo momento determina se l'utente si fida o meno del sistema nel tempo.
Il rischio del fallimento silenzioso
Il comportamento peggiore possibile è un'azione che fallisce senza che l'agente lo comunichi chiaramente, lasciando l'utente a credere che qualcosa sia stato completato quando in realtà non lo è. Questo tipo di fallimento silenzioso mina la fiducia nel sistema più di un errore esplicito e ben comunicato.
Comunicazione chiara del problema
Un agente ben progettato, quando un'azione fallisce, lo segnala esplicitamente all'utente, spiegando cosa non ha funzionato in termini comprensibili — non un codice di errore tecnico, ma una spiegazione utile a capire cosa fare successivamente, che sia riprovare, correggere un dato, o contattare supporto.
Recupero e nuovo tentativo
In alcuni casi, l'agente può tentare autonomamente un recupero — un nuovo tentativo dopo un errore temporaneo, ad esempio — ma questo comportamento va progettato con cautela: ritentare automaticamente un'azione con conseguenze economiche, senza supervisione, può creare problemi peggiori di quello originale se il primo tentativo in realtà era riuscito parzialmente.