L’AI e la responsabilità: chi decide, chi firma, chi è davvero responsabile?

L’adozione dell’AI sta modificando radicalmente il modo in cui le imprese prendono decisioni, spostando il focus dalla singola persona al sistema complesso che supporta il processo. Chi firma non è sempre chi decide, e questo crea un rischio nuovo per la governance aziendale. L’AI, pur essendo in grado di elaborare informazioni e previsioni in modo superiore rispetto all’essere umano, non elimina la responsabilità, anzi la rende più urgente. La questione non riguarda solo la tecnologia, ma la struttura organizzativa e la distribuzione delle competenze cognitive.

La governance cognitiva: un concetto necessario

La governance dell’AI non si limita al controllo dei modelli o dei dati, ma deve includere l’intera architettura decisionale. Un algoritmo perfettamente accurato può produrre decisioni pessime se inserito in un contesto mal progettato. La responsabilità non si ferma alla firma, ma deve seguire il processo che ha portato alla scelta. La governance cognitiva richiede di comprendere non solo come l’AI opera, ma anche come influisce sulle decisioni e sulle competenze umane.

Human in command, non solo in loop

Il concetto di human in the loop è importante, ma non sufficiente. L’essere umano deve non solo firmare, ma anche comprendere, contestare e modificare le scelte. La presenza formale non basta: serve una capacità reale di dire no. La governance deve garantire che le persone non siano semplici terminali, ma attori veri nel processo decisionale. La distribuzione delle funzioni cognitive tra uomini e macchine deve essere progettata in modo che la responsabilità non si perda nel sistema. La questione è anche economica: responsabilità e valore si muovono insieme. Se una decisione è frutto di un’architettura distribuita, dobbiamo chiederci non solo chi paga quando qualcosa va male, ma anche chi crea davvero il valore quando qualcosa va bene. Chi controlla i modelli, i dati e le interfacce può influenzare profondamente le scelte senza apparire formalmente come decisore. Il potere più efficace non è quello di ordinare cosa scegliere, ma di definire quali alternative risultano visibili, plausibili e comparabili.

La trasparenza del futuro non riguarderà soltanto il risultato prodotto dall’AI, ma il modo in cui l’AI ha contribuito a costruire lo spazio decisionale dell’impresa. Per questo il principio da difendere non dovrebbe essere semplicemente quello dell’human in loop, ma qualcosa di più esigente: human in command. Non la presenza simbolica di una persona alla fine del processo, ma la conservazione reale della capacità di comprendere gli obiettivi, mettere in discussione le premesse, modificare le procedure, chiedere alternative, contestare la raccomandazione e assumersi consapevolmente la scelta.

• La decisione è distribuita, ma la responsabilità deve rimanere chiara.
• La governance deve includere non solo la tecnologia, ma anche le competenze umane.
• Chi controlla i modelli e i dati può influenzare le scelte senza apparire come decisore.
• Il potere non è solo nel decidere, ma nel definire le alternative disponibili.

Il rischio altrimenti è costruire organizzazioni straordinariamente intelligenti ma incapaci di spiegare chi abbia deciso davvero. E una società nella quale tutti contribuiscono alla decisione, mentre nessuno ne possiede pienamente la responsabilità, può essere efficientissima nel produrre scelte e sorprendentemente fragile quando arriva il momento di risponderne. Il punto, allora, non è scegliere tra uomo e macchina. È molto più concreto: distribuire il pensiero senza dissolvere la responsabilità.