Costruire fiducia nell’IA: il ruolo chiave della governance e dell’etica

Francesca Rossi, global leader for responsible AI and AI governance di IBM, ha sottolineato durante una conversazione con Formiche.net che la sfida dell’intelligenza artificiale (IA) non si risolve solo con l’innovazione tecnologica, ma con la capacità di costruire sistemi affidabili e degni di fiducia. Secondo Rossi, il vero vantaggio competitivo nei prossimi anni non deriverà dai modelli più potenti, ma dalla governance responsabile e dall’etica che accompagnano lo sviluppo di questa tecnologia. La discussione ha toccato temi come la sicurezza, la competitività, la responsabilità e l’impatto sociale dell’IA, con riferimenti a iniziative come la Rome Call for AI Ethics e le Linee guida etiche dell’Unione Europea.

La fiducia come fattore chiave per l’adozione dell’IA

La fiducia, afferma Rossi, è una relazione che si costruisce attraverso la governance, non solo all’interno delle organizzazioni, ma anche nelle interazioni tra persone e macchine. Per costruire sistemi di IA degni di fiducia, è necessario garantire che le decisioni siano comprensibili, contestabili e accompagnate da un intervento umano, soprattutto in situazioni di impatto rilevante. La fiducia, però, non è la stessa cosa dell’affidabilità: la prima è una relazione, la seconda una proprietà dei sistemi. Rossi sottolinea che l’affidabilità si costruisce attraverso la ricerca e l’ingegneria, mentre la fiducia si conquista attraverso la governance e la trasparenza.

La fiducia è il fattore che determinerà l’adozione dell’IA in contesti chiave come la sanità, la finanza e la pubblica amministrazione.

L’IA è una tecnologia dual-use: le stesse capacità che possono aiutare a difendere un sistema informatico o a individuare una campagna di disinformazione possono essere utilizzate per attaccare quel sistema o generare disinformazione. Questo rende la sicurezza un tema cruciale, che richiede una governance attenta e una capacità di adattamento. Rossi ha anche evidenziato alcuni rischi sottovalutati, come la discriminazione, l’erosione della fiducia nell’informazione e la riduzione della capacità umana di giudizio. La preparazione della forza lavoro, inoltre, è un aspetto spesso trascurato, ma cruciale per l’adozione responsabile dell’IA.

La governance come strumento per la responsabilità

La governance, afferma Rossi, deve rendere la responsabilità parte integrante del processo decisionale, non un controllo effettuato a posteriori. Questo non deve essere visto come un onere, ma come un vantaggio per l’innovazione, poiché lo sviluppo responsabile dell’IA crea valore per tutti. La governance deve anche includere la progettazione di sistemi che rafforzino l’intelligenza umana, non la sostituiscano. Ciò implica la creazione di architetture che alternino il pensiero veloce e lento, come suggerito da Daniel Kahneman.

La responsabilità non deve essere vista come un freno, ma come un fattore di competitività duraturo.

Per rispondere a questi rischi, Rossi ha sottolineato che la questione centrale non è fermare l’innovazione, ma governarla in modo responsabile. Ciò include la valutazione dei rischi prima dell’implementazione, il monitoraggio successivo, strumenti per misurare bias e robustezza, e la definizione di ruoli e responsabilità chiari. L’IBM, da tempo, ha promosso questa visione, investendo nella ricerca sulla sicurezza e nella valutazione dei sistemi con la stessa determinazione dedicata al miglioramento delle capacità. Rossi conclude che i prossimi anni premieranno non tanto chi avrà il modello più grande, quanto chi sarà in grado di costruire attorno all’IA un ecosistema nel quale le persone possano riporre fiducia in modo consapevole.