Prima le dimissioni shock di Jacob Coxon, informatico di Anthropic che ha parlato di rischio per l’umanità, poi la clamorosa esclusione, dal premio Goncourt, dello scrittore Thelison Orelien, reo di aver utilizzato per la stesura del suo romanzo l’Ia. Il timore di trovarsi di fronte alla dittatura degli algoritmi in un mondo senza scrittori cresce a dismisura: gli autori sembrano ridotti a fare i “timonieri” dell’algoritmo, i creativi sembrano spiazzati, gli artisti messi all’angolo. Gli editori, in questa fase di grande trasformazione, hanno alzato la voce, con preoccupazioni espresse in più occasioni ufficiali. Esiste un tema giuridico prima di tutto: in che modo un autore potrà dimostrare al suo editore di non aver interagito con la macchina presunta “intelligente”? Ma ne esiste uno, forse più impattante, dal carattere più squisitamente letterario: dove andranno a finire l’originalità dell’autore, il suo stile, il suo modo inimitabile di leggere il mondo e di raccontarcelo se è la macchina che confeziona e intesse le storie? Di opere ibride già ne esistono, bisognerebbe farsene una ragione ‒ ha ricordato Melania Mazzucco ‒ fermo restando che il fitto intreccio che lega la coscienza individuale al flusso della scrittura non sarà comunque mai riproducibile, a meno che l’Ia non acquisisca anche l’autocoscienza. Mai dire mai… Di certo, non possiamo sapere quale sarà la prossima frontiera con cui fare i conti.
Raffaele Gaito, tra i principali divulgatori italiani in tema di Intelligenza artificiale, fondatore di IA360 Academy, ha pubblicato di recente: In cosa posso esserti utile? Guida molto pratica e poco emotiva all’intelligenza artificiale (ed. Mondadori). Gli abbiamo chiesto cosa possiamo fare per vivere al meglio la rivoluzione in atto.
Gaito, l’Ia è un grande inganno o un’eccezionale opportunità?
Se diamo enfasi alle polarizzazioni estreme, ridando vita alle categorie che Umberto Eco aveva definito, nel celebre scritto degli anni Sessanta, degli “apocalittici” e degli “integrati”, non arriviamo a nessuna soluzione. Bisogna scongiurare il clima da “caccia alle streghe” che si sta creando e fare uno sforzo collettivo per centrare l’attenzione sulle potenzialità, che sono tante, e sui rischi, che pure esistono, legati all’uso di questa tecnologia, senza dividerci in sterili contrapposizioni. Il mio mestiere è insegnare a usare con consapevolezza gli strumenti del digitale e credo che, a dispetto dello scalpore sollevato dagli ultimi fatti di cronaca, si stiano aprendo straordinarie possibilità, che siamo in condizione di cogliere a patto di governare questi cambiamenti con razionalità, sapendo che si tratta di un punto di partenza non un punto di arrivo.
Stiamo abbattendo la differenza tra vero e falso, che non sono distinguibili. La creatività individuale è messa sotto scacco, non sappiamo neanche valutare se dietro un romanzo esista uno scrittore in carne e ossa. Quali sono le conseguenze di tutto questo?
La questione è mal posta. Dobbiamo cambiare l’approccio per orientarci meglio. L’Ia deve aiutarci a pensare, esplorare, verificare, sperimentare, produrre, non certo a “spegnere il cervello” per delegare tutte le nostre attività. Perché non spostiamo l’attenzione sulla qualità dei contenuti prodotti con l’Ia senza vivere l’utilizzazione di ChatGPT come una colpa da smascherare? Quando il dibattito passa dalla validità dei contenuti al sistema della loro produzione, si compie un salto logico fuorviante, che non ci consente di comprendere a fondo la qualità di quello che scriviamo, che rimane il nodo principale da sciogliere.
La riflessione di tutta l’industria dell’editoria guarda con timore crescente all’autenticità dei processi di creazione della scrittura. Grande tema che preoccupava già Platone, che con il diffondersi della parola scritta temeva la perdita della memoria. Niente di nuovo verrebbe da dire. Qual è la sua opinione in merito?
Il nuovo fa sempre paura, genera ritrosie e sospetto. Il problema è antropologico prima ancora che tecnologico. Abbiamo un bisogno quasi ossessivo di scoprire se qualcuno ha utilizzato l’Ia, quando in realtà non ci interroghiamo mai sulla filiera di produzione di un testo e, soprattutto, non siamo mai stati particolarmente interessati a conoscerla. Da secoli leggiamo contenuti firmati senza sapere chi li abbia materialmente scritti: esiste il ghost writer, mestiere molto antico per altro, così come le redazioni, gli editor, i collaboratori, i traduttori. Esistono persone che preparano discorsi che poi qualcun altro pronuncia. Per anni abbiamo accettato tutto questo senza particolari problemi. Un politico può pronunciare un discorso che non ha materialmente scritto, un manager può firmare un articolo preparato da un collaboratore, un accademico può pubblicare un paper scritto insieme a un’intera équipe. Nessuno si è mai messo sistematicamente a chiedere: “Scusa, ma chi ha premuto i tasti?”.
Oggi parliamo con le tecnologie. Imprese, Istituzioni, soprattutto editori hanno lanciato un alert. Non era mai avvenuto, come se lo spiega?
Non c’è da stupirsi, perché la rivoluzione in atto ha delle connotazioni uniche. A cominciare dalla velocità dei ritmi di diffusione che, nel caso di ChatGPT e degli altri applicativi, non ha precedenti nella storia. La facilità d’uso è l’altro aspetto che stupisce. Oggi parliamo con la tecnologia, entrando in comunicazione con essa che ci dà delle risposte, nel nostro linguaggio. Questo apre un fronte molto delicato di analisi.
Cosa intende dire?
Che dobbiamo con attenzione distinguere tra la comunicazione e la relazione che non è fatta solo di un passaggio di informazione, ma di una capacità critica di rielaborazione dei contenuti. La domanda non deve essere se la macchina mi ha aiutato a produrre un testo, ma se mi ha sostituito facendomi spegnere il cervello. La parola chiave diventa, dunque, responsabilità sui contenuti che firmo.
Problema impegnativo anche per chi fa il nostro mestiere di giornalisti, nell’era delle fake news e dei falsi autorizzati. Come se ne esce?
Lavorando per la qualità dei contenuti e sulla serietà delle fonti che dipendono dalla responsabilità dei giornalisti e di chi fa informazione. Quando leggo qualcosa, voglio che mi faccia pensare, che mi insegni qualcosa, che mi emozioni, mi faccia arrabbiare, mi convinca o magari mi faccia cambiare idea. Non mi interessa sapere quanta fatica biologica è stata necessaria per produrla. Ci sono testi meravigliosi scritti da esseri umani, come del resto ne esiste una quantità enorme di incomprensibili. Lo stesso vale per i libri, i film e le canzoni. Il bollino “prodotto da un essere umano” non è infallibile, soprattutto non è una garanzia di qualità e autenticità, almeno non lo è sempre e in assoluto.
Non confondere l’origine con il valore effettivo dei contenuti, è questa dunque la strada da percorrere?
Il dibattito attuale sta generando confusione tra l’origine materiale di un contenuto e l’esperienza che quel contenuto produce in chi lo legge. Un testo può essere stato scritto interamente da un individuo e non avere nulla da dire. Al contrario, può essere stato prodotto con il supporto dell’Intelligenza artificiale e riuscire invece a mostrare qualcosa che prima non si vedeva. Ha più valore un testo che genera qualcosa in chi lo legge. Se mi dà chiarezza, mi emoziona, mi fa arrabbiare, mi fa sorridere, mi mostra una prospettiva nuova o mi cambia un’opinione, ha fatto esattamente ciò per cui la scrittura da millenni esiste.
Perciò è fuorviante interrogarsi se dietro un’opera ci sia una persona che ha lavorato su una tastiera per otto ore oppure con un modello di Intelligenza artificiale?
L’esercizio critico e la responsabilità rimangono fondamentali. Se firmo un contenuto, sono responsabile di quello che contiene: informazioni sbagliate, fonti che non ho verificato, conseguenze delle mie parole. Questo vale indipendentemente dal fatto che io abbia scritto tutto da solo, abbia utilizzato un collaboratore, un editor o un sistema di Intelligenza artificiale. Direi di più; l’arrivo dell’Ia dovrebbe spingerci proprio in questa direzione: più attenzione alla qualità di un testo, alle fonti e meno ossessione per la provenienza materiale del testo. Diffidare di un contenuto e verificarne le fonti è sacrosanto, chiedersi chi lo ha scritto può essere utile, ma pensare di stabilirne il valore solo in base all’utilizzazione di un ipotetico modello di Ia che lo ha prodotto, è sicuramente fuorviante.
