AI agenti potrebbero causare costi cloud imprevisti, esperti avvertono

Le bollette cloud e AI sembrano un po’ alte? I tuoi agenti AI potrebbero esserti stati lasciati liberi, causando costi elevati. Un problema crescente tra esperti di sicurezza dei dati è che agenti AI non controllati potrebbero portare a spese cloud impreviste e significative, con alcune aziende che affrontano costi difficili da tracciare e gestire. Questo problema, evidenziato dalla società di sicurezza dei dati Forcepoint, non riguarda il furto di dati o la compromissione del modello, ma piuttosto il consumo non controllato delle risorse di calcolo da parte dei sistemi AI.

Agenti AI non controllati potrebbero causare costi elevati

Gli esperti avvertono che anche un singolo prompt potrebbe portare a una cascata di operazioni di calcolo, con conseguenze di costi incontrollati. La ricerca di Forcepoint sottolinea che i sistemi AI agenti, progettati per operare in modo autonomo, possono consumare eccessive risorse di calcolo, token, chiamate API o altre risorse se non monitorati correttamente. Questo può portare a bollette cloud superiori alle aspettative, specialmente man mano che i sistemi AI diventano più complessi e potenti.

Un singolo prompt potrebbe portare a molte operazioni di calcolo

La ricerca di Forcepoint ha rilevato che il problema si è aggravato man mano che l’AI si è evoluta. La società lo definisce come “consumo non limitato”, dove un singolo richiamo utente potrebbe portare a decine o centinaia di operazioni successive. Importante è che il consumo elevato di calcolo e token possa essere difficile da rilevare, e i protocolli di sicurezza esistenti potrebbero non catturarlo, poiché non è necessario un attacco per ottenere effetti significativi. Basta una configurazione errata dell’automazione o una sessione AI prolungata per causare costi incontrollati.

Attaccanti potrebbero sfruttare l’AI non controllata per guadagnare

Tuttavia, Forcepoint avverte anche che gli attaccanti potrebbero sfruttare questa vulnerabilità. Con utenti malintenzionati che generano carichi di lavoro elevati e consumano grandi quantità di calcolo per il loro beneficio, potrebbero finire per pagare le spese. Questo sottolinea l’importanza di una maggiore visibilità e di dispositivi di interruzione per prevenire l’accumulo di carichi di lavoro e costi.

Le squadre di sicurezza non monitorano spesso le dashboard delle bollette cloud

Lo studioso di sicurezza Jyotika Singh ha sottolineato che le aziende dovrebbero prendere il rischio più seriamente. Ha notato che la finanza raramente analizza i modelli di prompt o il design degli agenti, il che potrebbe portare a costi non controllati. Le aziende sono incoraggiate a stabilire budget a diversi livelli più fini, come chiavi API, utenti individuali e team. Dovrebbero anche avere maggiore controllo su dove vengono attribuiti i costi, garantendo che l’uso dell’AI rimanga entro limiti accettabili. Man mano che l’AI si evolve, la necessità di strategie di monitoraggio e budget robusti diventa sempre più critica. Con il potenziale per gli agenti AI di causare tensioni finanziarie significative, le aziende devono essere proattive nel gestire la loro infrastruttura AI per evitare costi imprevisti e garantire un uso responsabile.