Il libro di Caterina e Giovanni Maria Flick L’algoritmo d’oro e la torre di Babele si articola in due momenti distinti che lasciano intravedere da subito l’intento stesso dell’opera: la prima parte (“Presupposti e interrogativi”), in cui a più riprese viene citata la Costituzione, è dedicata all’impatto della tecnologia sulla nostra civiltà e a quelli che sono gli interrogativi che sorgono circa i suoi sviluppi; la seconda (“Risposte e soluzioni”) fa chiarezza, ha un carattere didascalico, cerca di offrire soluzioni agli interrogativi e ai dilemmi che le moderne tecnologie hanno generato. L’intento degli autori non sembra quello di prefigurare scenari distopici nei quali le macchine governeranno l’essere umano, quanto piuttosto creare un’opera in grado di aprire gli occhi al lettore, focalizzando l’attenzione su quei campanelli d’allarme che ormai non possono più essere ignorati.
L’algoritmo d’oro e la torre di Babele, ovvero l’impatto della tecnologia sulla nostra civiltà
Se nei confronti dell’ambiente e dei cambiamenti climatici il sentimento più diffuso è un senso di preoccupazione e timore che ci porta ad agire (ancora troppo lentamente), al contrario, rispetto alle pericolose inclinazioni che stanno assumendo i progressi digitali quello che vige è un entusiasmo generalizzato. Per questo il testo si pone come una riflessione sulla necessità, sempre più imminente, di trovare un equilibrio tra la civiltà dell’uomo e quella delle macchine, per non cadere in un disordine sociale che potrebbe generare una nuova Torre di Babele. Da qui, dunque, l’importanza di un libro sul rapporto tra informatica e informazione, esplicita nella percezione stessa che i due temi possiedono al giorno d’oggi: entrambi hanno a che fare con le persone, la collettività; entrambi hanno rappresentato una svolta epocale per l’uomo nel modo di relazionarsi, conoscere, lavorare, convivere.
Un libro sul rapporto tra informatica e informazione
La doppia anima del testo è chiara fin dal titolo, nel quale l’algoritmo rappresenta il mito dell’informatica (come recita il titoletto corsivo), mentre la Torre di Babele richiama allegoricamente all’informazione declinata nel nostro tempo, nella modernità, in un presente in cui a creare l’incomprensione fra gli uomini non è Dio, ma l’uomo stesso, con un uso distorto e manipolato dello strumento comunicativo (inevitabilmente amplificato dal nuovo paradigma digitale). Al pari di Aronne abbiamo costruito anche noi un falso idolo moderno: l’algoritmo informatico le cui logiche, che lo vogliamo o no, si basano su meccanismi di profitto e di potere ormai inarrestabili. L’identificazione con il biblico vitello d’oro, che ne vogliono dare gli autori, è di immediata comprensione: un’entità astratta, infallibile, che ci conosce meglio di noi stessi, un dio da adorare durante l’assenza di Mosè (alias la perdita del raziocinio, della socialità, dell’essenza umana) a tutti gli effetti.
Giustizia predittiva, i rischi di affidare a un algoritmo la giustizia
La macchina ha cominciato a sostituirci, a decidere per noi; ne è un esempio – e su questo gli autori ci invitano a riflettere – uno degli àmbiti più delicati nei quali si esercita il discernimento umano: la giustizia. È già in fase di avanzata realizzazione ed una realtà consolidata in alcuni paesi, la cosiddetta giustizia “predittiva” che si occupa della possibilità di prevedere, attraverso esempi passati e calcoli matematici, l’esito di una sentenza. È così che l’algoritmo arriva a «[…] suggerire decisioni anziché fornire informazioni ad un giudice. In questo modo si finisce per stimolare la passività del giudice attraverso il richiamo automatico dei precedenti e cioè del passato. Da ciò può derivare una discriminazione nell’applicazione della giustizia, se l’algoritmo è stato programmato sulla base di pregiudizi. Infine, l’utilità degli strumenti di identificazione biometrica (in particolare di riconoscimento facciale) nelle indagini giudiziarie, attualmente consentita, rischia di degenerare in una forma di controllo e di sorveglianza di massa […]». Attraverso ragionate riflessioni, corroborate da esempi e citazioni, gli autori cercano di mettere in guardia il lettore: la nostra è una società che sembra avviata verso un baratro informatico (anche per pigrizia, ovviamente) dal quale difficilmente si riuscirà a riemergere se anche quello che dovremmo lasciare all’agire umano (come i processi, le decisioni in tribunale) preferiamo delegarlo all’intelligenza artificiale, senza mettere in conto il potenziale rischio della manipolazione stessa dell’algoritmo.
Nel sentimento generale di ottimismo digitale si sottovalutano le pericolose derive legate a tale progresso
Il saggio si apre con una considerazione relativa all’articolo 9[1] della Costituzione, fondamentale per seguire il percorso dall’informazione all’informatica. Il sentimento diffuso nei confronti del progresso digitale è di ottimismo, di entusiasmo verso vantaggi ormai acquisiti ed irrinunciabili ma, al tempo stesso, si sottovalutano le pericolose derive legate a tale progresso. Fin dalle prime pagine si riflette sulla crescente consapevolezza che si ha verso la «tutela dell’ambiente, della biodiversità e degli ecosistemi nell’interesse delle future generazioni». Tuttavia, come dimostra la recente modifica dell’articolo 9 della Costituzione (articolo che rientra nei princìpi fondamentali) ancora non si ha coscienza di quanto sia importante tutelare e preservare la biodiversità della stessa specie umana, al pari di animali e vegetali. Come denunciano gli autori, tutto è immerso in una sorta di “presentismo”, in un hic et nunc che governa non solo l’agire del singolo – sempre più individualista e portato al consumismo – ma anche dell’uomo politico – tradotto appieno dalle parole di De Gasperi citate nel primo capitolo («Il politico è quello che pensa alle prossime elezioni, l’uomo di Stato è quello che pensa alle prossime generazioni»).
L’algoritmo d’oro e la torre di Babele è un invito alla conservazione dell’umano e alla sua conciliazione con il progresso tecnologico
Il fil rouge che lega a doppio nodo informazione, comunicazione e informatica è emerso prepotentemente grazie al Covid-19, quando il non-luogo di Internet si è tradotto in un vero e proprio spazio di aggregazione capace di far sentire l’individuo parte della realtà circostante, anche se lontana fisicamente. Il potenziamento di questi nuovi mezzi ha avuto come conseguenza la trasformazione del potere dell’informazione in caos informativo, dal momento che: «La sequenza linguaggio-informazione-conoscenza-saggezza rischia di svuotarsi per la perdita della forza conoscitiva del linguaggio». Il cerchio si chiude – nella conclusione dal titolo “Guardare al passato per progettare il futuro” – con un’esortazione: applicare all’informatica lo stesso monito verso il futuro contenuto nell’articolo 9 della Costituzione. È un invito alla conservazione dell’umano e alla sua conciliazione con il progresso tecnologico; è la presa di coscienza della necessità di guardare all’esperienza passata per trarre le indicazioni per il futuro. Consapevoli di quello che ci aspetta, il finale è del tutto aperto e pieno di interrogativi: ne saremo capaci? Riusciremo a individuare i limiti di queste potenzialità e a rispettarli?
[1] Art. 9: «La Repubblica promuove lo sviluppo della cultura e la ricerca scientifica e tecnica. Tutela il paesaggio e il patrimonio storico e artistico della Nazione. (Tutela l’ambiente, la biodiversità e gli ecosistemi, anche nell’interesse delle future generazioni. La legge dello Stato disciplina i modi e le forme di tutela degli animali)».
