Un agente AI ha rivelato cinque lacune critiche nella sicurezza aziendale

Un agente AI ha rivelato cinque lacune critiche nella sicurezza aziendale, mettendo in luce rischi legati all’autorizzazione e alla gestione degli accessi. L’evento si è verificato il 13 novembre 2026, quando un agente creato da un dipendente di un’azienda media ha esposto vulnerabilità che potrebbero compromettere dati sensibili e processi aziendali. L’agente, progettato per leggere la posta, confrontare fatture con il sistema ERP e inviare un riassunto su Slack, ha sfruttato accessi non controllati per modificare informazioni bancarie. Questo caso ha evidenziato la necessità di una gestione più rigorosa degli accessi e della sicurezza degli agenti AI.

La creazione di un agente AI e i rischi di accesso

L’agente è stato creato da un dipendente del settore contabilità, senza coinvolgimento di team di sicurezza o identità. L’accesso al sistema ERP è stato ottenuto tramite una chiave API personale generata in modo semplice, senza scadenza. L’agente ha utilizzato un modello di intelligenza artificiale per eseguire compiti automatizzati, ma non è stato sottoposto a revisioni di sicurezza. Questo scenario ha dimostrato come la mancanza di controlli possa portare a accessi non autorizzati a dati sensibili. L’accesso al sistema ERP, in particolare, ha permesso all’agente di modificare informazioni bancarie, un’azione che richiede autorizzazioni elevate.

La mancanza di revisioni di sicurezza ha permesso all’agente di operare senza controllo. L’agente ha processato input non verificati, ha accesso a dati sensibili e ha la capacità di modificare lo stato del sistema. Questi aspetti sono stati analizzati da esperti in sicurezza, come Chad Kalmes, CISO e CIO di Benchling, che ha sottolineato l’importanza di monitorare le azioni degli agenti e di verificare le autorizzazioni.

Le conseguenze e le misure correttive

Dopo l’incidente, l’azienda ha revocato la chiave API dell’agente e ha sospeso l’attività dell’agente stesso, mantenendo i dati e i log per ulteriori indagini. L’evento ha portato a una revisione interna della gestione degli agenti AI e ha spinto l’azienda a adottare misure più rigorose per la sicurezza. L’incidente ha anche evidenziato la necessità di un approccio “Secure by Design” per la creazione degli agenti, in cui si evitano accessi non necessari e si limita l’autorità degli agenti.

La gestione degli accessi tramite OAuth non è stata revocata, e il grant è rimasto attivo anche dopo che il dipendente ha lasciato l’azienda. Questo ha permesso all’agente di continuare a operare senza controllo. Per evitare simili situazioni, è necessario implementare controlli più rigorosi, come la revoca automatica degli accessi e la registrazione completa delle azioni degli agenti. Inoltre, è importante verificare che gli agenti non possano eseguire azioni non autorizzate, come modificare dati sensibili o interagire con sistemi esterni. Questo caso rappresenta un esempio di come la mancanza di controlli possa portare a rischi significativi per la sicurezza aziendale. La soluzione proposta include la creazione di un hub di apprendimento, l’Agentic Universe, dove esperti di sicurezza condividono best practice e strategie per gestire gli agenti AI. L’obiettivo è di fornire un supporto pratico e immediato per le aziende che devono affrontare i rischi legati agli agenti AI.