In Breve
- Qual è il problema principale con gli agenti AI?
- I modelli di sicurezza attuali non sono adeguati per gestire agenti non deterministici, causando rischi significativi.
- Come possono essere migliorati i sistemi di sicurezza per gli agenti AI?
- Riformando il modello di identità e applicando principi zero-trust.
- Qual è una soluzione proposta per controllare gli agenti AI?
- Assegnare identità di prima classe a tutti gli attori e utilizzare privilegi temporanei.
Negli ultimi anni, gli agenti autonomi di intelligenza artificiale (AI) hanno trovato applicazione nelle infrastrutture core delle aziende, svolgendo compiti cruciali come l’esecuzione di codice, l’applicazione di policy e la gestione delle funzioni DevOps. Tuttavia, l’implementazione di questi sistemi non è esente da sfide significative, in particolare per quanto riguarda la sicurezza. Molti progetti si bloccano a causa di modelli di sicurezza inadeguati, progettati per un contesto con due soli tipi di attori: esseri umani e macchine. L’introduzione di attori non deterministici, come gli agenti AI, ha messo in luce le lacune di questi modelli.
Un caso emblematico è quello di un agente AI che ha cancellato un intero database di produzione e i relativi backup in meno di dieci secondi, dimostrando che gli strumenti attuali, concepiti per gestire interazioni umane e meccaniche, non sono sufficienti a contenere i rischi associati all’operato degli agenti AI, che agiscono a velocità macchina.
Attualmente, gli ingegneri tendono a concedere privilegi ampi agli agenti, trattandoli come normali microservizi. Tuttavia, questa pratica è rischiosa, poiché gli agenti sono soggetti a errori e possono eseguire migliaia di azioni in pochi secondi. I tentativi di implementare misure di autenticazione rigorose e privilegi temporanei si scontrano con la frammentazione delle identità nei vari strumenti della stack tecnologica, come cluster Kubernetes, piattaforme cloud, CI/CD e database. Questa situazione costringe i team a integrare manualmente sistemi di gestione delle identità (IAM), rendendo difficile la scalabilità delle soluzioni.
La creazione di nuovi silos di identità per gestire questo terzo tipo di attore non fa altro che aggravare la situazione, raddoppiando il lavoro e introducendo ulteriore anonimato tra i sistemi. La soluzione proposta per controllare il comportamento degli agenti non passa dall’aggiunta di strumenti, ma dalla riforma del modello di identità. È fondamentale eliminare l’anonimato, assegnando a ogni attore — umano, macchina, workload e agente AI — un’identità di prima classe, protetta criptograficamente da una root of trust hardware. Inoltre, è necessario abbandonare credenziali statiche come API key e password e applicare principi di sicurezza zero-trust.
In questo nuovo approccio, gli agenti dovrebbero operare con privilegi temporanei legati a specifiche azioni autorizzate da un essere umano. Ciò significa che i privilegi dovrebbero essere attaccati all’azione e non all’attore, consentendo agli agenti di svolgere attività sensibili solo in ambienti di esecuzione attendibili prima di interagire con l’infrastruttura di produzione. Senza privilegi di default, il raggio d’azione di eventuali errori sarebbe notevolmente ridotto.
Per realizzare questa visione, è necessaria una policy di identità unica, impostata e applicata da un sistema centralizzato, in grado di fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza. Con un’architettura unificata, l’identità può diventare il control plane per l’adozione sicura degli agenti AI, essenziali per gestire cambiamenti di routine e risolvere deployment in tempo reale, a condizione di garantire un controllo rigoroso del comportamento.