In Breve
- Qual è il rischio principale associato al pulsante ‘Approvo’?
- Il rischio principale è la mancanza di responsabilità in caso di malfunzionamenti, poiché le decisioni degli agenti AI possono non essere tracciabili.
- Come devono essere trattati gli agenti AI nelle reti?
- Devono essere trattati come entità con identità, richiedendo credenziali e audit trail simili a quelle degli operatori umani.
- Qual è l'importanza della supervisione umana negli agenti autonomi?
- La supervisione umana è fondamentale per garantire un'integrazione efficace di identità e policy, mantenendo trasparenza e allineamento con gli obiettivi.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le aziende gestiscono le reti. Questi sistemi possono risolvere problemi durante la notte senza necessità di intervento umano, lasciando la verifica delle azioni all’ispezione successiva. Tuttavia, questa pratica, nota come Human-on-the-Loop, presenta dei rischi significativi.
In scenari in cui agenti improvvisati eseguono correzioni senza tracce esaustive delle decisioni, si rischia di trasformare il click sul pulsante ‘Approvo’ in un rito privo di reale valutazione critica. Questo può rendere difficile attribuire responsabilità in caso di malfunzionamenti o interruzioni di servizio.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea che senza vincoli adeguati, le deleghe a sistemi agentici possono accumularsi, creando livelli di autonomia non approvati. Ricerche recenti indicano che il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno, mentre il 79% considera gli agenti AI come ‘utenti’ che necessitano di gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Questi richiedono credenziali, politiche, limiti operativi e audit trail simili a quelli degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per persone, e applicare soluzioni adattate in modo informale agli agenti può generare accessi ‘ombra’ e rischi non quantificati.
Per mitigare tali rischi, ogni agente dovrebbe essere configurato come un’entità principale con permessi limitati, accesso temporizzato e percorsi di revoca chiari. È essenziale mantenere un registro completo delle azioni compiute, delle autorizzazioni e delle motivazioni alla base delle scelte.
La fiducia nell’autonomia degli agenti deve essere progressiva. Gli agenti possono iniziare in modalità suggerimento e guadagnare capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Con l’aumento delle decisioni autonome, la supervisione umana deve essere affiancata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario comprendere cosa ciascun agente conosceva oltre a cosa ha fatto. Pertanto, impostare permessi rigorosi, controlli d’identità e audit trail è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.