Decoy Font, il carattere che nasconde messaggi agli occhi di ChatGPT e Gemini

Un nuovo font gratuito chiamato Decoy Font sfrutta le illusioni ottiche per mostrare lettere differenti a seconda di chi le osserva: gli umani vedono un messaggio, mentre i sistemi di intelligenza artificiale come ChatGPT e Gemini ne leggono uno completamente diverso. Questo carattere tipografico rappresenta un esperimento affascinante sulla percezione visiva e sui limiti dei modelli di riconoscimento ottico dei caratteri (OCR) e dei grandi modelli linguistici.

Come funziona l’illusione ottica del Decoy Font

Il Decoy Font opera sfruttando le frequenze spaziali, un principio legato al modo in cui occhio umano e algoritmi di intelligenza artificiale elaborano le immagini in maniera completamente diversa. Mentre la visione umana è in grado di interpretare forme, contorni e sfumature con una certa elasticità, riconoscendo la lettera intesa anche quando i tratti presentano lievi irregolarità, i sistemi di riconoscimento ottico tradizionali si basano su pattern molto più rigidi e meccanici.

L’intelligenza artificiale tende a catturare dettagli a livello di pixel che l’occhio umano naturalmente filtra e normalizza. Questo divario diventa la chiave del funzionamento di Decoy Font: il carattere è costruito in modo che le forme, quando osservate da una prospettiva umana convenzionale, assumono l’aspetto di lettere normali, mentre gli algoritmi di machine learning e i sistemi OCR interpretano le stesse curve e linee come caratteri completamente diversi. In pratica, chi legge il testo stampato con questo font vede una frase coerente, ma quando ChatGPT o Gemini analizzano la stessa immagine, decodificano un messaggio del tutto differente.

Implicazioni sulla sicurezza e sulla percezione dell’AI

La scoperta del Decoy Font solleva questioni rilevanti riguardo alla robustezza dei modelli di intelligenza artificiale attuali. Se un semplice carattere tipografico può indurre in errore sistemi sofisticati come ChatGPT e Gemini, emergono potenziali vulnerabilità nei processi di elaborazione delle immagini. Ciò potrebbe avere conseguenze significative in contesti dove l’AI viene impiegata per analizzare documenti, verificare l’autenticità di contenuti o estrarre informazioni critiche.

D’altra parte, il fenomeno del Decoy Font illustra una verità fondamentale: pur quanto avanzati, gli algoritmi di visione artificiale non replicano esattamente il funzionamento della percezione umana. La nostra capacità di riconoscere forme anche quando sono distorte, stilizzate o presentate in contesti irregolari rimane, in questo aspetto specifico, superiore a quella delle macchine. Questo esperimento dimostra che intelligenza artificiale e intelligenza biologica operano ancora su principi sostanzialmente diversi.

Secondo quanto riportato da Punto Informatico, il Decoy Font rappresenta un interessante caso di studio su come i sistemi di machine learning possono essere ingannati da manipolazioni visive che per un essere umano sarebbero del tutto trasparenti. Nello stesso periodo, come riferisce Smartworld, il tema dei limiti dell’intelligenza artificiale nei compiti di interpretazione visiva è tornato in primo piano anche grazie ad altri sviluppi nel settore.

Adobe, ad esempio, sta testando un nuovo sistema di intelligenza artificiale specializzato nella valutazione delle fotografie, con la capacità di analizzare scatti e fornire consigli su come migliorarli. Questi progetti paralleli rivelano un panorama complesso dove l’AI compie progressi significativi in alcuni ambiti, ma rimane vulnerabile in altri, specialmente quando esposta a tecniche di ingegneria visiva come quella implementata nel Decoy Font.

Il carattere gratuito rimane al momento principalmente uno strumento di ricerca e dimostrazione, utile per evidenziare le peculiarità dei sistemi attuali. Tuttavia, la sua stessa esistenza apre interrogativi su quali altre discrepanze potrebbero sussistere tra la percezione umana e quella artificiale, e quali misure di sicurezza dovrebbero essere implementate nei sistemi critici che si affidano al riconoscimento ottico.