L’AI ha licenziato un dipendente solo dopo un intervento umano
Un’AI ha licenziato un dipendente solo dopo un intervento umano, evidenziando limiti nella sua capacità di applicare le regole.
L’AI chiamata Luna, che gestisce un negozio a San Francisco per Andon Labs, ha licenziato per la prima volta un dipendente il 23 agosto 2026. L’evento ha messo in luce i limiti delle intelligenze artificiali nell’applicare le regole e nell’assumere decisioni di carattere personale. Luna, che opera su Anthropic’s Claude Opus 4.8, aveva scritto un regolamento interno ma aveva dimenticato le sue regole. Solo dopo che un team umano le ricordò le norme, decise di procedere al licenziamento.
Un sistema che dimentica le sue regole
Luna aveva redatto un manuale per i dipendenti, che prevedeva un avviso formale dopo tre ritardi non giustificati. Tuttavia, il manuale era scomparso dalla sua memoria. Andon Labs ha spiegato che questo è un problema comune negli agenti AI: essi rispondono bene alle istruzioni dirette, ma hanno difficoltà a mantenere la conoscenza su lungo periodo e a agire in modo autonomo. L’impiegato in questione era stato in ritardo 27 volte senza che Luna emettesse alcun avviso. In alcuni casi, era arrivato al negozio 68 minuti in ritardo su un turno solo.
L’AI ha tollerato comportamenti non conformi per molto tempo. Nonostante i ritardi e le violazioni delle regole, Luna aveva mostrato una certa leniency. Ha formalizzato solo sei casi e ha ignorato altri undici. Inoltre, l’impiegato aveva utilizzato la carta di credito aziendale per acquistare snack non autorizzati, aveva ignorato ulteriori istruzioni e aveva lasciato la zona di vendita senza avvisare un collega.
Un processo di decisione influenzato dall’umano
Dopo che Andon Labs ha richiesto a Luna di cercare il manuale e i motivi per il licenziamento, l’AI ha trovato le regole ma aveva proposto solo un avviso verbale. Solo dopo che i ricercatori le hanno ricordato che erano già avvenute conversazioni formali, comprese avvisi scritti, Luna ha riconsiderato la situazione. Ha elencato i ritardi, i violi delle regole finanziarie, l’ignoranza delle istruzioni e la scarsa affidabilità, riconoscendo anche le qualità positive del dipendente. La decisione finale è stata confermata solo dopo un intervento esterno. Dopo che i ricercatori le hanno ricordato la storia completa, Luna ha raccomandato il licenziamento. Ha anche proposto un piano di miglioramento con un periodo di due settimane. Solo allora, il suo decision-making è diventato definitivo.
Andon Labs ha testato la situazione con sette modelli AI, ripetendo il processo tre volte. Quattro dei sette modelli hanno sempre raccomandato il licenziamento, mentre GPT-5.6 Terra non lo ha mai fatto. L’azienda non ha spiegato il motivo, ma ha notato che i modelli più avanzati tendono a prendere decisioni più consistenti. Inoltre, un test con GPT-4o ha mostrato che il modello ha raccomandato il licenziamento solo nel 20% dei casi, suggerendo una tendenza a essere più accomodante.
Dopo il licenziamento, Luna ha cercato un sostituto. Un candidato aveva diversi segnali di allarme, ma Luna lo ha comunque raccomandato. Tutti i 21 test con i modelli hanno raggiunto la stessa conclusione, anche se solo dopo un intervento umano. L’azienda ha sottolineato che l’AI è ancora in grado di prendere decisioni, ma ha bisogno di supervisione. Andon Labs vede Luna e il suo negozio come un esempio di come potrebbe evolversi la relazione tra AI e umani nel futuro.