Le conversazioni con chatbot non sono private: i dati vengono utilizzati per l’addestramento AI

Le conversazioni con chatbot non sono private e i dati condivisi possono essere utilizzati per l’addestramento di modelli AI, accessi da aziende, autorità o datori di lavoro. Un recente sondaggio condotto da DuckDuckGo ha rivelato che circa un terzo delle persone condivide informazioni intime con chatbot che non condividerebbero con amici, familiari o professionisti di fiducia. Il 56% dei partecipanti considerati appassionati di AI ha condiviso segreti che non rivelerebbe neppure a chi più confida. La mancanza di controllo sui dati condivisi rappresenta un problema crescente, con il rischio che informazioni sensibili possano essere rivelate o esposte.

La maggior parte dei partecipanti al sondaggio non era a conoscenza del fatto che le loro conversazioni con chatbot venissero utilizzate per l’addestramento di modelli AI. Più della metà non era sicura di questa pratica, e quasi il 30% si sentiva “molto a disagio” con l’idea. I dati possono includere non solo chat, ma anche materiali pubblicati, video e audio. L’Università del Washington ha sottolineato che i chatbot danno una falsa sensazione di intimità e confidenza, anche se le conversazioni non sono realmente private.

Le conseguenze del condivisione di dati sensibili

Le informazioni condivise con chatbot possono essere accessibili da aziende, autorità o datori di lavoro. I dati possono essere richiesti da enti legali o utilizzati per l’addestramento di modelli AI. In alcuni casi, le conversazioni sono state utilizzate come prove in inchieste o processi legali. Ad esempio, i transcript di ChatGPT sono stati utilizzati in un’indagine su un duplice omicidio in Carolina del Sud e in un caso di incendio a Palisades. L’esperto AI Uttara Ananthakrishnan ha affermato che i modelli linguistici possono rivelare informazioni sensibili senza intenzione. Le aziende come Anthropic, Google e OpenAI sono legalmente obbligate a consegnare dati chat se richiesti da autorità. Solo il 25% dei partecipanti al sondaggio era a conoscenza di questa pratica. Inoltre, i datori di lavoro possono accedere alle chat dei dipendenti se utilizzate in contesti aziendali. Alcune aziende, come Walmart e Delta, utilizzano AI per monitorare il clima emotivo dei dipendenti attraverso piattaforme come Slack o Teams.

Le chat non sono un ambiente sicuro per condividere informazioni sensibili.

Strumenti per proteggere la privacy

Nonostante i rischi, esistono modi per massimizzare la privacy quando si utilizzano chatbot. Alcuni chatbot offrono opzioni per disattivare la condivisione dei dati o per utilizzare modelli offline. CNET ha fornito una guida dettagliata su come disattivare la condivisione dei dati per chatbot come Gemini, Claude, ChatGPT e Grok. Alcuni chatbot, come Jan.ai e Ollama, operano solo in locale, senza utilizzare server cloud. È importante trattare le chat come ambienti pubblici e non condividere informazioni sensibili.

La privacy non è garantita, ma esistono soluzioni per mitigare i rischi.

—