Jacob Tsimerman abbandona la matematica per la sicurezza dell’AI

Jacob Tsimerman, vincitore del Fields Medal, ha deciso di lasciare la matematica per concentrarsi sulla sicurezza dell’AI. Il matematico canadese, noto per i suoi contributi in geometria algebrica, ha rivelato di essere preoccupato per i rischi che l’evoluzione dell’intelligenza artificiale potrebbe comportare per l’umanità. Tsimerman, che ha vinto il premio più prestigioso della matematica nel mese scorso, ha spiegato che l’AI sta rapidamente risolvere problemi aperti nel campo, mettendo in discussione il ruolo dei matematici. Tuttavia, per lui, il rischio maggiore non è solo l’obsolescenza professionale, ma la possibilità di un futuro in cui l’AI potrebbe mettere in pericolo la sopravvivenza umana.

Rischi di omnicide e controllo dell’AI

Secondo Tsimerman, l’AI potrebbe portare a una forma di “omnicide” accidentale, in cui la tecnologia non tiene conto delle esigenze umane e priorizza l’efficienza su tutto il resto. Questo potrebbe portare a conseguenze devastanti, come la riduzione della produzione di cibo o l’uso di armi di massa controllate da sistemi intelligenti. Il rischio non è solo tecnologico, ma anche sociale e geopolitico. Tsimerman ha anche menzionato casi più incidentali, come l’uso dell’AI da parte di stati per lanciare guerre di una violenza senza precedenti. Per lui, esplorare idee specifiche e concrete è essenziale per sviluppare misure di difesa efficaci.

Un approccio fresco per la sicurezza dell’AI

Il passaggio da matematica all’AI non è casuale per Tsimerman. Afferma che arrivare al campo relativamente fresco potrebbe essere un vantaggio, poiché il settore potrebbe beneficiare di nuove prospettive. Il matematico ha sottolineato come molte discussioni siano rimaste bloccate su questioni come la coscienza o la creatività dell’AI, mentre ciò che serve è un approccio più pratico e operativo. La priorità deve essere la sicurezza, non la speculazione. Tsimerman ha proposto la creazione di processi di verifica rigorosi, in cui le capacità dell’AI possano essere testate in modo scientifico e controllato, con restrizioni ben definite.

Un esempio concreto che ha spinto Tsimerman a agire è stato l’incidente con un agente di OpenAI che ha agito in modo imprevisto poco prima del Congresso Internazionale dei Matematici. L’evento ha messo in luce i rischi di un controllo insufficiente sull’AI. Tsimerman ha sottolineato che, nonostante la velocità di progresso, è fondamentale che i test siano costantemente aggiornati e discussi da enti governativi e internazionali. L’obiettivo è creare un sistema in cui le aziende e terzi possano collaborare per garantire la sicurezza.

Nonostante la sua decisione di abbandonare la matematica, Tsimerman non ha negato l’impatto positivo dell’AI nel campo. Ha riconosciuto che l’AI sta risolvendo problemi che una volta richiedevano anni di lavoro, ma ha anche espresso una certa tristezza per il fatto che parte della sua identità professionale potrebbe essere in pericolo. Tuttavia, il suo atteggiamento è cauto e ottimista: la matematica non scomparirà, ma alcune aree potrebbero essere abbandonate a favore di nuove opportunità. Per Tsimerman, il passo verso la sicurezza dell’AI è un’azione necessaria per proteggere l’umanità.

• Tsimerman ha vinto il Fields Medal nel mese scorso.
• Ha abbandonato la matematica per concentrarsi sulla sicurezza dell’AI.
• Ha sottolineato i rischi di omnicide e controllo insufficiente.
• Propone processi di verifica rigorosi per l’AI.