Algoritmi discriminatori. L’importanza dell’alfabetizzazione digitale

I processi online sono processi sociali che richiamano a costruzioni identitarie e meccanismi di potere

Mai come oggi, in piena pandemia da Covid-19, i confini tra il reale e il virtuale appaiono totalmente sfocati, in quanto praticamente tutti gli aspetti della vita degli individui sono largamente dislocati nel mondo virtuale e ciò che prima riguardava solo segmenti della società, ora riguarda la totalità delle persone, a diversi livelli, a qualsiasi età. Le relazioni sentimentali, sessuali, amicali, nascono, si evolvono e spesso si vivono attraverso app di dating o social network, con aumenti di accesso di oltre il 100% per alcune app di incontri  il lavoro è smart, le attività culturali, della produzione artistica, della condivisione tra utenti di creazioni originali, è digitale; la salute è ormai digitale o, quantomeno, lo è l’accesso ad essa. La pandemia ha cancellato qualsiasi ragionamento che muova dal voler separare gli àmbiti. D’altro canto, i processi online sono – tanto quanto quelli offline – processi sociali che richiamano a costruzioni identitarie e a meccanismi di potere e che, come tutti i processi sociali, sono frutto di costruzioni culturalmente e socialmente mediate che poco hanno a che fare con l’idea di un online “neutro”, frutto di processi e costruzioni unbiased. Comprendere e interpretare la dimensione digitale degli eventi e dei mutamenti sociali è, dunque, conditio sine qua non per la piena comprensione di tutti i processi sociali in generale, processi che hanno, nella maggior parte dei casi, una costante componente virtuale.

Comprendere la componente virtuale per studiare i mutamenti sociali

Di fondamentale importanza è imparare a ragionare in termini di discernimento delle implicazioni sull’inclusione, l’uguaglianza, la discriminazione di genere, la tutela delle persone nel momento in cui si assumono gli algoritmi come campo d’analisi. Gli studi sulla dimensione digitale degli eventi non possono non partire da un’impostazione di analisi algoretica delle strutture che sottendono il funzionamento dei processi digitali e di Intelligenza Artificiale. Il termine “algoretica”, in opposizione al concetto di “algocrazia” (dominio degli algoritmi) è stato introdotto nel 2018 da Paolo Benati, frate francescano docente di “Teologia Morale ed Etica delle Tecnologie” alla Pontificia Università Gregoriana, e ci porta a comprendere come sia sempre più necessario prefigurare forme di presidio e di controllo sul funzionamento degli algoritmi legati a servizi, funzioni e processi in grado di incidere sulla vita delle persone. Simbolo più recente del problema, la sentenza di condanna emessa dal Tribunale di Bologna nel gennaio 2021 verso l’algoritmo di Deliveroo, azienda leader nel food delivery, che discriminava, nel funzionamento del processo di rating dei riders da parte degli utenti, quei lavoratori che si fossero assentati per malattia, sciopero o altri seri motivi.

Come noi, anche gli algoritmi hanno atteggiamenti discriminatori

Safiya Noble, direttrice dell’UCLA – Center for Critical Internet Inquiry, nota come anche gli algoritmi che regolano la struttura di ricerca di Google non producano risultati neutrali, ma supportino narrazioni dominanti, riproducendo e moltiplicando sistemi di discriminazione, come quelli relativi al genere e al colore della pelle. Del resto, la stessa creazione, gestione e implementazione di questi algoritmi è in capo a esseri umani, i quali potrebbero veicolare forme di pensiero razziste o sessiste. È significativa la storia di James Damore, ex-dipendente di Google che alcuni anni fa fu licenziato per aver redatto un manifesto critico sulle politiche di “discriminazione positiva” in atto nell’organizzazione. Sebbene le posizioni di Damore siano state difese anche da una piccola parte del mondo accademico – poiché ritenute per certi versi una forma di semplice libertà di espressione non violenta di un pensiero contrario ad una politica aziendale –, il tema dell’influenza dei valori e delle credenze dei programmatori sull’algoritmo è reale. Come nota la Noble, è significativo il fatto che una ricerca da lei effettuata su Google di due termini semplici come “black” e “girls”, avesse prodotto come risultato immediato dei siti pornografici, sebbene l’algoritmo sia atto a registrare le abitudini e le preferenze di ricerca dell’utente che, nel caso della Noble, riguardavano il femminismo e i movimenti per i diritti dei neri. Alle accuse di restituire contenuti sessisti, Google ha sempre risposto che ad essere sessista non è l’algoritmo, ma le dinamiche di ricerca degli utenti. Tuttavia, è oggettivo che il modo in cui la macchina della ricerca funziona rappresenta uno strumento di replicazione e di amplificazione degli stereotipi razzisti e di genere esistenti.

Per altro verso Amazon, qualche anno fa, dovette porre fine all’utilizzo di un algoritmo per valutare i curricula degli aspiranti programmatori, poiché questo, avendo registrato la preponderante presenza maschile del settore, aveva come conseguenza imparato a valutare negativamente quelli che contenevano la parola “donna” e ad escluderli automaticamente dalla selezione.

Leggi anche

Tali esempi chiariscono come lo studio sociologico degli algoritmi, delle relazioni di potere che portano alla loro definizione e anche dell’uso stesso del digitale come strumento, siano fondamentali per comprendere la strutturazione di esclusioni e discriminazioni che non sono sicuramente nuove ma che si sono reinventate insieme al generale processo di digitalizzazione della società.

Solo il 10% dei contributi di Wikipedia è scritto da donne; di conseguenza l’enciclopedia presenta più voci su argomenti di interesse maschile

Al di là degli algoritmi, anche le stesse funzionalità di determinate piattaforme può contribuire a rappresentare un terreno fertile per la replicazione di comportamenti discriminatori e sessisti. Le dinamiche di generazione di contenuti di un luogo positivo – e apparentemente democratico – come Wikipedia, simbolo di quella che Pierre Lévy ha definito “intelligenza collettiva”, riflette la disparità di genere presente all’interno della società: secondo Ford e Wajcal solo il 10% dei contributi di Wikipedia è scritto da donne e la conseguenza è che l’enciclopedia presenta più voci su argomenti di interesse maschile (come le pornostar); di fatto, la disparità di genere è entrata così all’interno della struttura stessa del sito.

La violenza di genere viaggia anche sulla Rete

Per altro verso, facendo riferimento ad esempio alla violenza di genere, il lavoro di Silvia Semenzin e Lucia Bainotti sul revenge porn può chiarire alcune dinamiche causa-effetto: la diffusione di immagini e video prodotti da donne e inviati in chat private senza il consenso delle dirette interessate su Telegram, può avvenire più facilmente perché l’app, diversamente da altri social network, garantisce la possibilità di restare anonimi e di partecipare a grossi gruppi senza rilasciare troppe informazioni sensibili. Lo studio del mezzo usato (in questo caso Telegram) ha consentito alle autrici di ragionare sul modo in cui si sostanzia la violenza di genere su Internet; più in generale lo studio del digitale permette di arricchire la conoscenza del fenomeno che, senza un focus sui metodi digitali, sarebbe stata irrimediabilmente lacunosa.

Alfabetizzazione digitale significa imparare a conoscere il funzionamento del sistema per un uso in sicurezza

Tutte le criticità esposte riguardano anche il mondo dei diritti in generale, della salute e delle cure. Il digital divide è, esso stesso, una forma “strutturale” di disuguaglianza che esprime le difficoltà di chi, per varie ragioni, non è in grado di accedere alle tecnologie. Se parte dei processi fondamentali per la vita delle persone come la cura della propria salute si spostano online è importante chiedersi cosa questo possa comportare in termini di accesso alle cure. Se, ad esempio, la prenotazione per una visita o per un vaccino avvengono online, in che posizione si trovano coloro che non hanno accesso per cause strutturali – legate cioè alla mancanza di infrastrutture adeguate – o culturali – con riferimento al livello di alfabetizzazione digitale – al mondo digitale?

Attualmente, i servizi essenziali mantengono sempre forme di accesso “a doppio binario”: digitale e analogico. Ma, di solito, l’accesso analogico è quello che richiede più tempo, risorse, pazienza da parte delle persone (pensiamo alle interminabili attese ai call center dei CUP), dando vita a forme di discriminazione sottesa, che funzionano, più o meno palesemente, da deterrente al proseguire nella non adozione del digitale. Lo spostamento di vari aspetti della vita su piattaforme digitali è già una realtà, e non è sempre un processo indolore. Questo cambiamento ha portato sicuramente opportunità importanti, ma ha anche contribuito all’acuirsi di differenze già esistenti. Per questo è sempre più importante parlare e lavorare su programmi di alfabetizzazione digitale, che non significa solo promuovere abilità informatiche, o capacità tecniche nell’interfacciarsi con Internet e con i vari device, ma vuol dire soprattutto rendere le persone consapevoli dei meccanismi di funzionamento del sistema, al fine di sviluppare le capacità di ciascuno di comprendere in che modo tale sistema può essere utilizzato con efficacia e sicurezza, ma anche, purtroppo, per avere sempre chiaro il modo in cui tutti noi veniamo utilizzati dal sistema stesso.

Per approfondire:
Lupton (2012), Digital Sociology: An Introduction, University of Sidney, Sidney.
S.U. Noble (2018), Algorithms of Oppression. How Search Engines Reinforce Racism, New York University Press, New York.
Semenzin,S. –  Bainotti, L. (2020) The use of Telegram for the non-consensual dissemination of intimate images: gendered affordances and the construction of masculinities, SocArXiv, 18 Apr. 2020, web edition.
Ford, J. Waicman (2017), “‘Anyone can edit’, not everyone does: Wikipedia’s infrastructure and the gender gap”, Social Studies of Science, 47, 4: 511-527.

*Luca Falzea è docente a contratto di “Famiglia, genere e socializzazione” – Università degli Studi di Torino.

*Alessandro Di Legge è membro del Consiglio Direttivo dell’Eurispes.

Ultime notizie
civil aviation
Ambiente

“Green flights”: the cooperation model between Italy and China in civil aviation

The participation in the video-conference by the ambassadors of the respective countries, Luca Ferrari for Italy and Li Junhua for China, is...
di Marco Ricceri*
civil aviation
aviazione civile
Rapporti

“Voli green”: il modello di cooperazione tra Italia e Cina nell’aviazione civile

La partecipazione alla video-conferenza degli ambasciatori dei rispettivi paesi, Luca Ferrari per l’Italia e Li Junhua per la Cina, è un indice...
di Marco Ricceri*
aviazione civile
turismo di lusso
Economia

Il turismo di lusso non conosce crisi ed è già ai livelli del 2019

Il turismo di lusso ha sofferto meno la crisi del 2020, per la possibilità di offrire esperienze esclusive e in condizioni di sicurezza lontane dall’affollamento del turismo di massa e dei voli low cost. Sembra infatti che il settore sia ritornato già ai livelli pre-pandemia del 2019.
di Roberta Rega
turismo di lusso
Unione europea
Economia

Piano nazionale di ripresa, strategie territoriali per massimizzare l’impatto degli interventi

Ue, per massimizzare l’impatto degli interventi è importante agire in modo strategico e coordinato dalla fase di programmazione a quella di attuazione, e contribuendo a rafforzare gli obiettivi di addizionalità propri della coesione, in particolare nelle aree marginali del nostro Paese.
di Claudia Bugno*
Unione europea
Economia

PNRR: un modello più snello di governance per l’Italia

Le sfide poste dal PNRR potrebbero segnare una svolta storica nell’accelerazione delle nuove politiche di sviluppo, come quelle relative alle transizioni verde...
di Claudia Bugno*
vaccino
Diritto

Obbligo vaccinale o sospensione, arriva la sentenza per i sanitari no-vax

Vaccino anti-Covid o sospensione nella impossibilità di essere ricollocati ad altra mansione che non comporti pericolo di contagio: la sentenza del Consiglio di Stato chiarisce la posizione legale nei confronti dei professionisti sanitari no-vax.
di Vincenzo Macrì
vaccino
giochi pubblici
Osservatori

Giochi pubblici: “L’irresistibile convenienza della legalità”

Giochi pubblici, la tutela sostanziale della legalità non è affare solo dello Stato. Oltre alla chiarezza normativa, è necessaria partecipazione attiva dei concessionari e delle associazioni di categoria, quali soggetti danneggiati dal reato, ai procedimenti penali contro i gestori del gioco illegale e al fianco dell’Avvocatura dello Stato.
di Chiara Sambaldi e Andrea Strata*
giochi pubblici
Fisco

Un fisco “predittivo” per facilitare la lotta all’evasione fiscale

La lotta all’evasione fiscale si fa anche grazie all’utilizzo di software predittivi, sulla base dei quali programmare le verifiche a “colpo sicuro”. La Guardia di Finanza guarda al futuro e investirà in tale direzione 32 milioni di euro su big data e cybersicurezza.
di Giovambattista Palumbo*
esame di stato
Istruzione

Generazioni sotto esame. Dalla maturità all’esame di Stato, che ne sarà della prova scritta?

L’esame di Stato, un tempo esame di maturità, continua a far discutere ministri dell’Istruzione e studenti su quale sia la formula migliore. Una formula che è cambiata negli anni, fino ad arrivare alla richiesta odierna di abolire la prova scritta fatta dagli studenti e non ancora smentita dal Ministero.
di Giuseppe Pulina
esame di stato
violenza di genere
Donne

Violenza di genere, omicidi e reati spia in aumento nel 2021

La violenza di genere è aumenta nei primi 11 mesi del 2021, sia per gli omicidi che per i reati spia di tali violenze. Secondo il report del servizio analisi della Polizia Criminale, su un totale di 263 omicidi volontari compiuti in Italia dal primo gennaio ad oggi, 109 hanno riguardato donne.
di redazione
violenza di genere