AI researchers warn of extinction risk as Pentagon dismisses concerns

Un gruppo di ricercatori del settore AI ha lanciato un allarme sulla possibilità che la tecnologia possa portare all’estinzione umana, un tema che ha suscitato reazioni contrastanti, tra cui il rifiuto del Pentagono. La discussione è emersa dopo la dimissione di Jacob Coxon da Anthropic, un laboratorio di ricerca specializzato in intelligenza artificiale. Coxon ha condiviso su X la sua preoccupazione che le aziende di AI stessero “correndo verso un’intelligenza superiore autosufficiente e giocando con la nostra vita”, un messaggio che ha raggiunto oltre 150 milioni di visualizzazioni. Secondo Coxon, i ricercatori che sviluppano l’AI credono sinceramente che la tecnologia possa causare la fine dell’umanità entro la fine del decennio.

rischi e preoccupazioni del settore

Alcuni dei principali ricercatori del settore, tra cui Samuel Marks di Anthropic e Paul Christiano, hanno sostenuto le dichiarazioni di Coxon, affermando che il rischio di estinzione umana è reale e crescente. Christiano, ex capo della sicurezza al Dipartimento degli Stati Uniti per gli standard e l’innovazione dell’AI, ha sottolineato che i progressi recenti nell’AI hanno reso più probabile un rischio catastrofico e irreversibile. Secondo lui, il rischio di perdere il controllo dell’AI potrebbe portare alla morte di milioni di persone. Inoltre, il rischio di estinzione è stato valutato al di sopra del 10% entro la fine del decennio.

Il rischio di estinzione umana è stato valutato al di sopra del 10% entro la fine del decennio. Altri ricercatori, come Geoffrey Hinton, hanno espresso preoccupazioni simili, affermando che un rischio del 10% sembra una stima ragionevole. OpenAI ha annunciato che Christiano è entrato nel consiglio del suo fondo non profit, riconoscendo la sua preoccupazione per i rischi legati all’AI.

risposta del Pentagono e del settore privato

Il Pentagono, attraverso il suo capo tecnologico Emil Michael, ha rifiutato l’allarme, affermando che il rischio di estinzione umana è esagerato e che il mercato libero, la collaborazione tra aziende e il coinvolgimento delle autorità governative potrebbero mitigare i potenziali danni. Michael ha anche rivelato che il Dipartimento della Difesa ha spostato circa il 90% del suo carico di lavoro di AI classificato da Anthropic, con l’intenzione di completare il trasferimento entro la fine del mese. Tuttavia, il Pentagono è in conflitto con Anthropic riguardo alle misure di sicurezza per l’uso militare dei modelli.

Il Pentagono ha rifiutato l’allarme, affermando che il rischio di estinzione umana è esagerato. Al tempo stesso, alcuni ricercatori come Gary Marcus hanno espresso preoccupazioni per i rischi di attacchi informatici e disinformazione, ma hanno riconosciuto che non esiste un scenario realistico per l’estinzione totale dell’umanità. L’attenzione si è spostata rapidamente verso il Congresso, dove i rappresentanti hanno iniziato a discutere misure di controllo e regolamentazione. Il senatore Bernie Sanders ha annunciato l’intenzione di introdurre una legge per sospendere lo sviluppo dell’AI, mentre il senatore Ted Cruz ha definito il rischio “spaventoso”. La discussione ha suscitato un dibattito internazionale, con ricercatori come Geoffrey Hinton e Yoshua Bengio che hanno espresso preoccupazioni simili in passato.

La reazione al messaggio di Coxon ha raggiunto un livello senza precedenti, non solo per la sua portata, ma anche per la posizione di alto livello dei ricercatori che lo hanno sostenuto. Mentre il settore privato e il governo continuano a discutere le misure da adottare, l’attenzione si concentra su come regolamentare l’AI in modo da mitigare i rischi senza ostacolare l’innovazione. La prossima fase del dibattito potrebbe influenzare le politiche future del settore e le decisioni di Anthropic riguardo al suo IPO previsto per metà ottobre.