L’IA sta cambiando il modo in cui le città funzionano. Le metropoli contemporanee non sono più modellate soltanto da scelte urbanistiche, dinamiche economiche e comportamenti individuali. Sempre più spesso, a orientare i flussi urbani intervengono algoritmi di raccomandazione presenti in piattaforme che usiamo quotidianamente, capaci di influenzare in modo sistematico dove andiamo, che cosa frequentiamo e quali luoghi diventano centrali o marginali.
Un nuovo modello di città modellato dalle app
È ciò che ha accertato una ricerca pubblicata sulla rivista Machine Learning, curata dall’Istituto di scienza e tecnologie dell’informazione A. Faedo del Consiglio nazionale delle ricerche di Pisa (Cnr-Isti), in collaborazione con l’Istituto di calcolo e reti ad alte prestazioni del Cnr di Palermo (Cnr-Icar) e la Scuola Normale Superiore di Pisa.
Lo studio analizza per la prima volta in modo esplicito il feedback loop tra sistemi di raccomandazione, comportamenti umani e trasformazioni urbane e mostra come le scelte guidate dagli algoritmi possano ampliare le opportunità individuali, ma allo stesso tempo produrre, sul piano collettivo, concentrazione dei flussi e nuove disuguaglianze spaziali.
L’intervista a Luca Pappalardo e Giovanni Mauro
In questa intervista, due tra i ricercatori autori dello studio spiegano perché l’Intelligenza Artificiale non possa più essere considerata uno strumento neutro, ma vada interpretata come un vero attore urbano, con effetti profondi sull’equità, sull’accessibilità e sulla qualità della vita nelle città del futuro.
Prof. Pappalardo, lo studio dell’impatto sulle dinamiche urbane dell’Intelligenza Artificiale nasce sicuramente dall’osservazione di un elemento, un fattore. Quale? Da dove siete partiti?
Il nostro lavoro si inserisce in una specifica linea di ricerca del nostro laboratorio (il KDD-Lab), che abbiamo chiamato “coevoluzione umano-AI”. L’obiettivo principale è analizzare l’interazione ciclica e co-evolutiva tra l’Intelligenza Artificiale e le dinamiche umane, studiando come le scelte umane influenzino l’IA e come, a sua volta, l’IA modifichi i comportamenti umani. Attualmente stiamo esplorando questa coevoluzione in diversi àmbiti, tra cui i social media, le piattaforme di e-commerce, i sistemi di IA generativa e le piattaforme che forniscono suggerimenti per l’esplorazione urbana (luoghi da visitare e percorsi). Quest’ultimo contesto è di particolare interesse per il nostro laboratorio. Ciò è dovuto sia alla nostra pregressa esperienza nello studio delle leggi statistiche che governano il movimento umano negli ambienti urbani, sia al fatto che l’esplorazione delle città è sempre più mediata e influenzata dai suggerimenti algoritmici. Di conseguenza, un’analisi contemporanea e completa di questo fenomeno deve necessariamente includere e modellare l’IA come nuovo attore chiave.
Dott. Mauro, il fenomeno che avete osservato prende avvio dai cosiddetti recommender system posti alla base di piattaforme online come Google Maps, Trip Advisor, Yelp o TheFork ovvero la capacità che hanno queste ed altre app di “consigliare” gli utenti e fornire le “raccomandazioni” sui percorsi, luoghi di interesse o di intrattenimento. Partiamo da qui: quando incide anzitutto il consiglio di una app sulla scelta finale di un utilizzatore? Andando avanti, il vostro studio introduce il concetto di “feedback loop” tra sistemi di raccomandazione e comportamenti umani. Si può dire che di fronte ad una moltitudine di dati, spesso anche contradditori tra loro, come ad esempio le recensioni, l’utente accetti di buon grado, anzi con piacere, il consiglio della sua app preferita?
Il tema dei recommender system (sistemi di raccomandazione) è ben noto nella letteratura informatica e si concentra sullo sviluppo di algoritmi che forniscano suggerimenti sempre più precisi agli utenti. La peculiarità del nostro studio risiede nello sviluppo di una simulazione che modella l’impatto dell’accettazione o del rifiuto dei suggerimenti algoritmici da parte dell’utente. Qualsiasi scelta dell’utente va ad alimentare la sua “storia”, sulla base della quale l’IA fornirà i successivi suggerimenti: questo è il feedback loop. I suggerimenti non sono statici, ma aggiornano continuamente la rappresentazione della storia dell’utente nella prospettiva dell’IA. La probabilità che un utente segua i suggerimenti algoritmici varia a seconda dell’individuo, ma può essere molto alta in determinate situazioni. Ciò è dovuto alla natura persuasiva dei suggerimenti, che, sfruttando la storia passata dell’utente, riescono a intercettare i suoi gusti. Qui entra in gioco anche il cosiddetto popularity bias (distorsione di popolarità): in contesti sconosciuti (come i luoghi in una città), la tendenza è quella di scegliere il posto più popolare (se molti ci vanno, è probabilmente un buon posto). Spesso, il luogo più popolare è proprio quello suggerito dai recommender system.
Dott. Mauro, uno degli indicatori principali del vostro lavoro mostra come gli algoritmi che suggeriscono dove andare in base alle abitudini degli utenti, osservando non solo le scelte individuali, ma anche le dinamiche collettive che ne derivano, generano effetti come la concentrazione delle visite o la polarizzazione dei luoghi. L’IA sta cambiando il modo in cui le città funzionano. Quali sono gli esempi principali di questo fenomeno? Quindi, osservazione del fenomeno, comprensione dei meccanismi attraverso cui si sviluppa, principali effetti. Andiamo al cuore dello studio: il simulatore da voi sviluppato consente di osservare effetti di medio-lungo periodo: quali trasformazioni strutturali delle città risultano più rilevanti secondo le vostre analisi?
La nostra è una simulazione il cui obiettivo è quello di analizzare come cambiano essenzialmente due livelli di analisi: la distribuzione di visite ai luoghi e gli schemi di co-localizzazione. Per il primo punto emerge quello che noi definiamo il “paradosso della diversità”. Sotto la forza persuasiva dell’IA, ciascun utente finisce per ampliare la varietà dei luoghi che frequenta. Tuttavia, se si osserva il fenomeno su scala collettiva, scopriamo un effetto opposto: gli utenti vengono progressivamente convogliati verso un insieme limitato di luoghi, che agisce come un vero e proprio “attrattore”. Esiste poi un aspetto meno immediato. Il meccanismo di feedback algoritmico non incide solo sui luoghi, ma anche sugli incontri tra le persone. Lo studio analizza infatti le reti di co-localizzazione, ossia individui che si trovano negli stessi spazi negli stessi giorni. All’aumentare dell’influenza degli algoritmi, si forma un nucleo ristretto di persone sempre più densamente interconnesse: un rich club che frequenta gli stessi locali e si incontra ripetutamente.
Prof. Pappalardo, dai risultati emerge una possibile divergenza tra benefici individuali e impatti collettivi: quali sono le maggiori criticità che avete riscontrato nella distribuzione dei flussi urbani?
Approfondendo il paradosso della diversità, abbiamo rilevato che i luoghi che attraggono un maggior numero di visite a seguito della simulazione sono, in realtà, quelli che erano già più popolari prima dell’intervento. In termini quantitativi, il 10% dei luoghi più popolari attraeva il 33% delle visite prima della simulazione; dopo l’introduzione dell’IA, questa stessa percentuale di luoghi arriva ad attrarre il 57% delle visite. I luoghi già popolari tendono quindi a diventarlo ancora di più con l’integrazione dell’intelligenza artificiale, un fenomeno riconducibile al meccanismo del rich get richer (il ricco diventa sempre più ricco) spesso osservato nei sistemi complessi.
Alcuni studi Eurispes sulle smart cities hanno evidenziato il rischio che l’innovazione digitale accentui le disuguaglianze territoriali. Che cosa si può fare per evitare questa deriva? Nel dibattito sull’uso dell’Intelligenza Artificiale emerge l’esigenza di una governance più consapevole delle tecnologie digitali. Quali strumenti operativi possono supportare le amministrazioni locali in questa direzione? Alla luce dello studio, secondo lei sarebbe possibile immaginare una progettazione di algoritmi capaci di tenere conto non solo delle preferenze individuali, ma anche del benessere collettivo?
Dal 2024 il Digital Services Act europeo impone alle grandi piattaforme digitali di valutare l’impatto sociale dei propri algoritmi, e servizi come Google Maps rientrano pienamente tra quelli sottoposti a scrutinio. Tuttavia, il Regolamento attuativo è stato pubblicato solo nel luglio 2025 e, ad oggi, nessuno studio indipendente ha potuto accedere ai dati reali. In linea di principio, le piattaforme dovrebbero consentire ai ricercatori non solo l’accesso ai dati, ma anche la possibilità di applicare l’algoritmo a gruppi controllati di utenti, così da condurre studi di natura più propriamente empirica. Questo, però, non è ancora avvenuto. Di conseguenza, l’approccio simulativo rappresenta al momento l’unica strada concretamente praticabile. Diversi lavori suggeriscono che l’integrazione di criteri di equità spaziale e sociale già nella fase di addestramento dell’algoritmo possa favorire esiti più equi, senza sacrificare in modo significativo l’accuratezza. Questi studi, tuttavia, sono stati condotti “a bocce ferme”, senza tenere conto del feedback loop. È quindi nostra ferma intenzione esplorare tecniche di controllo di questo meccanismo di retroazione.
