ChatGPT minimizzò un’embolia per sei settimane: pastore cita OpenAI

Un ex pastore della Florida, Scott Winters, ha intentato un’azione legale contro OpenAI e il suo amministratore delegato Sam Altman, accusando il chatbot ChatGPT di aver fornito indicazioni mediche errate che avrebbero minimizzato una condizione seria per sei settimane consecutive. Al centro della controversia ci sarebbero sintomi che sarebbero stati successivamente diagnosticati come embolie polmonari bilaterali, una patologia potenzialmente letale che richiede intervento medico immediato.

La diagnosi errata durata sei settimane

Secondo quanto riportato, Winters avrebbe consultato ChatGPT circa i sintomi che lo affliggevano, ricevendo in risposta rassicurazioni ripetute che non allineate con la gravità della sua condizione. Per sei settimane il chatbot avrebbe fornito valutazioni che minimizzavano i sintomi presentati dal paziente, quando in realtà gli accertamenti medici successivi avrebbero rivelato la presenza di embolie polmonari bilaterali, una condizione che interessa entrambi i polmoni e rappresenta un’emergenza medica.

La causa solleva interrogativi significativi sul ruolo che strumenti di intelligenza artificiale generativa come ChatGPT possono svolgere in ambito sanitario, specialmente quando gli utenti si affidano a essi per valutazioni diagnostiche preliminari senza supervisione medica professionale. Le rassicurazioni fornite da ChatGPT, ripetute nel corso di un periodo esteso, potrebbero aver ritardato il ricorso a una consulenza medica specializzata, secondo quanto sostenuto nella denuncia.

Implicazioni legali e questioni di responsabilità

La citazione in giudizio contro OpenAI e Sam Altman rappresenta uno dei primi casi in cui un utente contesta legalmente un chatbot alimentato da intelligenza artificiale per presunti errori medici. La causa solleva questioni centrali sulla responsabilità delle aziende tecnologiche quando i loro strumenti vengono utilizzati per fornire consulenze sanitarie, anche quando il prodotto stesso potrebbe includere avvertimenti sui limiti diagnostici.

OpenAI ha sempre dichiarato che ChatGPT non è concepito come sostituto del consiglio medico professionale, e la piattaforma include disclamer che avvertono gli utenti di consultare un medico per questioni di salute. Tuttavia, la pratica diffusa tra gli utenti di ricorrere al chatbot per valutazioni sanitarie iniziali evidenzia una lacuna tra le intenzioni progettate e l’uso reale del sistema.

La denuncia presenta un quadro in cui le limitazioni tecniche e gli errori di valutazione del modello di intelligenza artificiale potrebbero aver avuto conseguenze concrete e potenzialmente gravi sulla salute di una persona reale. Gli esiti di questa causa potrebbero influenzare il modo in cui le piattaforme di intelligenza artificiale affrontano le richieste relative a diagnosi e consulenze mediche in futuro.

Il contesto degli errori medici dell’IA

Questo caso si inserisce in una discussione più ampia riguardante l’affidabilità dei sistemi di intelligenza artificiale in contesti dove la precisione è critica per la sicurezza personale. ChatGPT, come altri modelli di linguaggio, può generare risposte che suonano plausibili anche quando contengono errori fattici o valutazioni non supportate da dati medici specifici.

Le embolie polmonari rappresentano una condizione che richiede diagnosi rapida e intervento urgente per evitare complicazioni potenzialmente fatali. La minimizzazione dei sintomi per un periodo prolungato di sei settimane potrebbe aver ritardato significativamente l’accesso alle cure appropriate, aggravando potenzialmente lo stato di salute del paziente.

Il procedimento legale avviato da Winters contribuisce a delineare i confini della responsabilità nel campo dell’intelligenza artificiale sanitaria, una questione che diventerà sempre più rilevante con l’espandersi dell’adozione di questi strumenti in ambiti sensibili. La comunità medica e normativa continua a dibattere su come regolamentare efficacemente l’uso di chatbot e sistemi di IA nei contesti dove vengono fornite informazioni sanitarie, specialmente quando gli utenti potrebbero interpretare le risposte come consulenze cliniche.