La fiducia nell’era dell’Ia: tra deep fake e governo delle macchine
La diffusione di notizie false online ha accompagnato lo sviluppo dei Social Network fin dal loro esordio ma, se inizialmente si trattava di quelle che venivano definite “bufale” o fake news che, seppur non prive di rischi e non meno insidiose, avevano un potenziale manipolativo in parte limitato, l’avvento dell’Intelligenza artificiale generativa ha alzato l’asticella della disinformazione mirata, grazie alla sua capacità di produrre contenuti altamente realistici manipolando contenuti audio, video, immagini e testi.
Non si è trattato solo di un aumento quantitativo della disinformazione, ma di un’accelerazione soprattutto qualitativa che ha consentito la personalizzazione su specifici target demografici, ha reso più difficile l’individuazione delle fake news e le possibilità di smentita.
Deep fake e disinformazione
Nel settembre 2024, il 57% dei partecipanti a un sondaggio del Pew Research Center si è dichiarato “molto” o “estremamente” preoccupato sull’uso dell’Intelligenza artificiale per la creazione di fake news riguardo alle elezioni, segnalando una consapevolezza da parte degli utenti circa la possibilità di subire manipolazioni mirate, e le tornate elettorali del biennio 2024-2025 hanno fornito riscontri empirici dell’impiego di strategie elettorali di questo tipo.
Secondo quanto emerso dai dati diffusi dal Center for International Governance Innovation (CIGI), nel 2024, il 25% dei casi di uso politico dell’Ia durante le campagne elettorali (AI incidents) era attribuibile a candidati o partiti, il 20% ad attori stranieri e il 10% ad altri soggetti, ma per il 46% degli “incidenti” la fonte è rimasta incerta a causa delle difficoltà di attribuzione nell’ecosistema digitale.
Il caso più rilevante in termini di conseguenze istituzionali di incidenti di questo tipo riguarda la Romania dove, la Corte costituzionale nel dicembre 2024, ha annullato i risultati del primo turno delle elezioni presidenziali (novembre 2024) che avevano visto vincere a sorpresa il candidato ultranazionalista e filorusso Călin Georgescu. Praticamente sconosciuto all’elettorato fino a poche settimane prima, i sondaggi lo davano a meno del 5%, mentre ottenne circa il 23% dei voti attraverso una campagna elettorale portata avanti quasi interamente su canali digitali. Il Consiglio Supremo di Difesa Nazionale romeno segnalò interferenze di probabile matrice russa che includevano contenuti video manipolati con Ia, reti di account su TikTok, canali Telegram attivati in favore di Georgescu e attacchi informatici contro sistemi elettorali (oltre 85.000) con credenziali di accesso a siti elettorali trovate su piattaforme di cybercrime russe.
La decisione di annullamento ‒ arrivata a 48 ore dal previsto secondo turno ‒ è stato il primo provvedimento di questo tipo adottato da un paese Ue per interferenza digitale straniera e, anche la Commissione Europea ha successivamente avviato un’indagine formale nei confronti di TikTok per violazione del Digital Services Act (DSA) in relazione alla mancata mitigazione dei rischi per l’integrità elettorale.
Uno studio sulle ricadute politiche del deep fake
L’aspetto più rischioso dei deep fake non risiede tanto nei singoli contenuti virali, quanto nei loro effetti cumulativi sull’opinione pubblica e sul progressivo indebolimento della capacità di distinguere ciò che è vero dai contenuti artificiali. In un contesto di questo tipo, non è solo facile diffamare avversari e oppositori politici, ma è possibile sfruttare il clima di sfiducia verso le notizie che circolano in Rete a proprio favore, liquidando facilmente come deep fake anche prove audiovisive autentiche. Questo meccanismo è stato definito nella letteratura accademica “liar’s dividend”: la sola esistenza dei deep fake conferisce ai soggetti coinvolti in scandali reali uno strumento di plausibile negazione, con effetti potenzialmente più pervasivi della manipolazione stessa.
Uno studio pubblicato sulla «American Political Science Review» e condotto da Daniel Schiff, Jackson Schiff e Natalia Bueno su 15.000 adulti americani basato su cinque esperimenti, ha cercato di quantificare gli impatti di questi meccanismi. I partecipanti sono stati prima esposti a notizie di scandali reali riguardanti i politici americani e, successivamente, alle risposte del politico coinvolto che potevano essere di quattro tipi diversi: 1) smentita per informational uncertainty (“è tutto falso/è un deep fake”); 2) smentita per oppositional rallying (“è un attacco politico orchestrato dagli avversari”); 3) il silenzio; 4) le scuse.
I risultati mostrano che, in 7 casi su 8, per le notizie in formato testuale le smentite aumentano il sostegno politico verso il soggetto in questione (a differenza di quanto accade con scuse o silenzio), a prescindere dall’orientamento politico dell’intervistato, mentre la stessa strategia risulta inefficace quando la prova è audiovisiva, evidenziando l’importanza attribuita dagli utenti a questo tipo di contenuti.
Nuove norme per il controllo del deep fake: il regolamento europeo e il caso italiano
Il contrasto nei confronti di queste dinamiche è tutt’altro che semplice, soprattutto per la rapidità con cui contenuti di questo tipo si diffondono in Rete. Tuttavia, alcune risposte normative iniziano ad arrivare: l’AI Act europeo (Regolamento Ue 2024/1689, in vigore dal 1° agosto 2024) ha imposto obblighi di trasparenza per i contenuti generati o manipolati con l’Ia, richiedendo in particolare che tali contenuti siano etichettati in modo rilevabile.
L’Italia, con la legge 132/2025 (in vigore dal 10 ottobre 2025), è stata fra i primi paesi Ue a dotarsi di una normativa nazionale organica in materia, introducendo la fattispecie penale di «Illecita diffusione di contenuti generati o alterati con sistemi di Intelligenza artificiale» che punisce con la reclusione da uno a cinque anni «[…] chiunque cagiona un danno ingiusto ad una persona, cedendo, pubblicando o altrimenti diffondendo, senza il suo consenso, immagini, video o voci falsificati o alterati mediante l’impiego di sistemi di Intelligenza artificiale e idonei a indurre in inganno sulla loro genuinità».
Algocrazia: il governo delle macchine
Una delle forme più insidiose del controllo digitale, posta in essere col passaggio dai dati alla loro elaborazione, è costituita da quella che la letteratura sull’argomento definisce con il termine “algocrazia”, ovvero la delega dei processi decisionali a sistemi algoritmici che gestiscono in modo sempre più autonomo la governance di àmbiti strategici come la finanza, la sanità, la giustizia e la politica. Si tratta – secondo John Danaher – di una vera e propria minaccia alla legittimità dei processi decisionali pubblici: se i cittadini non possono comprendere i meccanismi che hanno guidato le decisioni che li riguardano né, di conseguenza, contestarle, si assiste ad un’erosione dei princìpi fondamentali del consenso democratico.
L’integrazione dei sistemi algoritmici nella Pubblica amministrazione non può essere semplicemente considerata parte della transizione digitale e della semplificazione di procedure e organizzazione, ma sta divenendo un criterio operativo di governo che funziona attraverso meccanismi di ranking, classificazione e previsione utilizzati per stabilire fattori di rischio, affidabilità, urgenza delle prestazioni, soggetti da sottoporre a controllo. Tali sistemi lavorano su volumi di dati, velocità e livelli di complessità inarrivabili alla capacità umana, e prendono decisioni che determinano l’allocazione di risorse, l’accesso ai diritti e l’applicazione di sanzioni in sfere che hanno forti impatti sulla vita, quali l’erogazione di sussidi sociali, la concessione del credito, la salute, la selezione del personale e le sentenze dei tribunali.
L’automation bias e la falsa neutralità degli algoritmi
Si tratta di una forma di potere particolarmente opaca poiché opera sulla base dell’analisi dei dati assumendo che decisioni così prese siano più efficienti, prive di discrezionalità e capaci di prendere in considerazione tutti gli scenari possibili, a differenza di quanto accade nel caso di decisioni prese dall’uomo. Pur offrendo alcuni vantaggi in termini di standardizzazione e rapidità, i sostenitori del governo algoritmico tendono a trascurare il valore del discernimento umano, nonché il fatto che non può esistere un’indipendenza algoritmica essendo gli algoritmi stessi frutto di dati storici che riflettono l’evoluzione di disuguaglianze, discriminazioni e pregiudizi sociali.
La matematica della data economy non è neutrale: i modelli riflettono scelte umane e definizioni di “successo” elaborate secondo la visione di chi detiene il potere sui dati; il loro presunto “obiettivismo” finisce per perpetuare e amplificare i pregiudizi di chi li ha progettati, giustificati così dall’autorità dei numeri.
Al fattore tecnologico si aggiunge in questo caso anche un fattore umano che le scienze cognitive chiamano automation bias, fenomeno che identifica la propensione dell’uomo ad accettare acriticamente indicazioni provenienti da sistemi automatizzati, soprattutto in condizioni di sovraccarico di lavoro, carenza di tempo o incertezza: delegare le decisioni all’algoritmo consente di scaricare le responsabilità dal decisore umano a un sistema tecnico che, di per sé, non è imputabile sul piano giuridico e politico, non è soggetto a imputazione sul piano giuridico e politico, quello che la letteratura sulla governance dell’Ia definisce “accountability gap”, ovvero il vuoto di responsabilità che si apre quando nessun soggetto umano identificabile può essere ritenuto pienamente responsabile di una decisione algoritmicamente prodotta.
Decisioni automatizzate sotto esame: l’allarme delle Istituzioni e la risposta di Bruxelles
In effetti, sistemi come il COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) – utilizzato nei tribunali degli Stati Uniti per determinare il rischio di recidiva dei detenuti e supportare i giudici nella formulazione delle sentenze – o il Systeem Risico Indicatie – adottato nei Paesi Bassi tra il 2016 e il 2020 per identificare potenziali frodatori del sistema di welfare sulla base dell’incrocio di dati relativi a identità, lavoro, reddito, istruzione, patrimonio, ecc. – si sono dimostrati estremamente vulnerabili a bias preesistenti, penalizzando soprattutto minoranze etniche e gruppi sociali svantaggiati.
A livello internazionale, dunque, varie Istituzioni hanno lanciato l’allarme sul largo impiego di sistemi decisionali algoritmici e i sui rischi ad essi connessi: l’Ocse ha documentato un uso diffuso nell’àmbito della progettazione ed erogazione delle politiche pubbliche e nel settore finanziario; l’Agenzia dell’Unione europea per i diritti fondamentali ha evidenziato il rischio di distorsioni negli algoritmi utilizzati per sostenere o automatizzare decisioni sulla selezione del personale, l’accesso al credito, la valutazione del rischio e la polizia predittiva e, in àmbito sanitario l’Oms ha osservato che l’Intelligenza artificiale viene utilizzata in diagnosi, triage, ricerca farmacologica, amministrazione sanitaria e sorveglianza epidemiologica, sottolineando i rischi di errori o discriminazioni se i sistemi sono addestrati su dati incompleti o sbilanciati.
L’Ue è intervenuta sul tema con un impianto normativo incentrato sulla tutela dei diritti dei cittadini, sia attraverso il GDPR (Regolamento 2016/679, art.22) che vieta in linea di principio le decisioni basate esclusivamente su automatismi quando queste producono effetti giuridici o incidono sulla persona, sia nel già citato AI Act, sancendo il diritto a ottenere spiegazioni chiare sul ruolo dell’Ia nel processo decisionale e sui criteri adottati per i sistemi classificati ad alto rischio (ovvero quelli in materia di lavoro, istruzione, accesso a servizi essenziali pubblici e privati, law enforcement, migrazione e amministrazione della giustizia).
Tuttavia, laddove l’intervento normativo ex post si dimostra insufficiente – sempre alla rincorsa di un fenomeno in rapidissima evoluzione – occorre un lavoro continuo che coinvolga Istituzioni, imprese tecnologiche e società civile per restituire a questi sistemi, ormai pervasivi, un grado di trasparenza e di controllo che ne consenta un uso realmente al servizio delle persone.
*Mariarosaria Zamboi, ricercatrice dell’Eurispes
