Chairperson: Fabio Quassoli, Università degli Studi di Milano-Bicocca
.
Nota introduttiva
Nell’introduzione del 2015 a Digital Sociology , Deborah Lupton scriveva “Oggi viviamo in una società digitale. I movimenti nello spazio, le abitudini di acquisto, le comunicazioni online sono controllati passo dopo passo dalle tecnologie digitali. Ci stiamo trasformando in soggetti digitali, che ci piaccia o no, e che lo scegliamo o meno”. Da allora, la presenza di digital devices è diventata sempre più pervasiva informando di sé e modificando radicalmente le relazioni sociali e l’esperienza quotidiana. Già all’inizio degli anni duemila, David Lyon, aveva introdotto il concetto di surveillance society, sottolineando come lo sviluppo delle ICT stesse favorendo il diffondersi di forme di sorveglianza capillare dei comportamenti individuali e di gruppo, con finalità di tipo sia commerciale (profilazione delle scelte di consumo) sia politico, grazie a un potenziamento dei metodi e dei dispositivi di controllo sociale.
I contributi proposti in questo panel si concentrano sul legame tra digitalizzazione e controllo sociale, analizzando alcuni esempi recenti di sorveglianza digitale, con particolare attenzione per due aspetti: in primo luogo, l’interazione tra le caratteristiche tecnologiche dei dispositivi utilizzati, le pratiche che li attivano e i contesti organizzativi entro i quali si dispiegano le nuove forme di controllo sociale digitale; in secondo luogo, i rischi sul piano etico e politico – violazione della privacy, discriminazione algoritmica, amplificazione delle diseguaglianze, esclusione sociale “digitale” – che accompagnano l’affermarsi della surveillance society.
Il primo paper analizza il rapporto tra democrazia e controllo sociale, esaminando il delicato equilibrio che, durante la pandemia da Covid 19, si è stabilito tra l’efficacia del controllo operato dalle istituzioni di governo e il rispetto dei principi democratici, con particolare attenzione per la tutela dei dati personali. Prendendo spunto dall’esperienza del digital contact tracing, l’autore offre una panoramica di come tale questione è stata affrontata su scala globale, per poi focalizzarsi sul dibattito europeo relativo al diritto alla privacy e ai limiti che è necessario porre alle possibili ingerenze da parte delle autorità statali nella vita dei cittadini.
Il secondo paper si concentra sui ‘gemelli digitali delle città’: sistemi che utilizzano i big data per comprendere le dinamiche tipiche di un contesto metropolitano e assistere gli attori politici ed amministrativi nelle loro decisioni. In relazione a questa recente novità nel campo della produzione di politiche pubbliche, poco conosciuta ed esplorata, l’autore evidenzia come, tali sistemi possano, da una parte, rafforzare le basi conoscitive del processo di policy-making e accrescere la consapevolezza con cui la governance urbana viene esercitata, dall’altra, contribuire allo sviluppo di forme di discriminazione algoritmica, social scoring e sorveglianza diffusa.
Il terzo contributo affronta il tema della sorveglianza digitale, analizzando l’impatto della digitalizzazione e dei big data sulle pratiche e i dispositivi di prevenzione e repressione della criminalità, soprattutto urbana, da parte delle agenzie formali di controllo. L’autrice riflette sulle esperienze di sviluppo e impiego di sistemi di analisi predittiva da parte di numerose polizie, inclusa quella italiana, evidenziando le potenzialità ma anche le criticità connesse ad uno sviluppo sempre più capillare della sorveglianza.
Il quarto paper considera, da una prospettiva di filosofia politica, l’impatto di un utilizzo pervasivo delle ICT da parte di regimi autoritari in termini di controllo, sorveglianza, propaganda, censura e oppressione della popolazione. Si interroga, inoltre, sulle istituzioni e sugli strumenti normativi grazie ai quali i cittadini delle liberal-democrazie occidentali possono proteggere le proprie libertà fondamentali nella sfera digitale.
Nel complesso, i contributi che compongono il panel pongono in evidenza alcune sfide che le scienze umane e sociali sono chiamate ad affrontare per rendere conto delle forme attuali in cui viene esercitato il potere politico e del rischio che la relazione tra governanti e governati possa essere radicalmente ridefinita dal costante sviluppo di dispositivi di controllo e sorveglianza digitale.
.
Democrazia e tecnologie potenzialmente invasive: spunti dalla vicenda del digital contact tracing durante la pandemia
Dario Pizzul, Università di Pavia
Per contrastare una pandemia virale, i vaccini, o più in generale interventi di tipo medico o farmaceutico, non sono che uno degli elementi di una più ampia strategia. Alcuni di questi interventi non farmaceutici di uso consueto sono l’utilizzo di dispositivi di protezione, il distanziamento fisico, o il tracciamento dei contatti. Con la pandemia da COVID-19 una nuova tipologia di intervento è stata introdotta su scale globale: il tracciamento dei contatti attraverso l’uso di tecnologie digitali. Il cosiddetto digital contact tracing (DCT) è una procedura che, in teoria, è in grado di velocizzare il tracciamento della diffusione del virus, intervenire più rapidamente nell’isolamento dei possibili contagiati, e, quindi, ridurre la diffusione della malattia (Ferretti et al., 2020). Questo impiego non del tutto inedito delle tecnologie digitali per la gestione di una malattia infettiva ha però avuto un impatto senza precedenti con COVID-19 per via dell’alto numero di paesi che hanno sviluppato delle app per il DCT (O’Neil et al., 2020). Paesi con democrazie deboli o assenti hanno implementato tecnologie che si sono dimostrate ulteriori strumenti di controllo sulla popolazione. È il caso della Cina dove il DCT è stato integrato con i servizi commerciali di WeChat e Alipay, registrando numero di telefono, indirizzo, posizione e altre informazioni personali degli utenti, e attribuendo loro un punteggio di rischio che ne condizionava la possibilità di spostarsi (Boeing & Wang, 2021). Oppure di Algeria e Kuwait, che, secondo Amnesty International (2020), soprattutto per il loro utilizzo pervasivo del GPS, ponevano rischi molto alti per la privacy degli utenti. In Europa, il dibattito intorno allo sviluppo delle app per il DCT è stato molto articolato. Tra i molti aspetti interessanti quali l’utilizzo di un approccio centralizzato o decentralizzato, il coinvolgimento decisivo di Apple e Google, o le vicende organizzative dei gruppi di sviluppo, ciò che vale la pena approfondire qui è la questione del design delle affordances delle app e il suo risvolto a livello politico. Attraverso degli estratti di interviste realizzate con gli sviluppatori dei due modelli principali, cioè quello centralizzato (francese) e quello decentralizzato (svizzero, ed usato dalla maggior parte dei paesi europei), si ricostruiranno le posizioni del dibattito su temi quali la privacy degli utenti e le possibili ingerenze delle autorità statali. L’analisi delle posizioni degli interlocutori coinvolti in questo caso specifico aprono una questione più generale meritevole di attenzione e dibattito, ossia: quanto uno stato democratico, come quelli europei, deve garantire al massimo la tutela dei dati by design, anche a costo di sviluppare una tecnologia digitale “spuntata” rispetto agli scopi che intende perseguire; o quanto, invece, in virtù delle leggi a cui sottostà secondo i principi dello Stato di diritto che ne limitano l’ingerenza, può dotarsi di uno strumento potenzialmente più invasivo ma potenzialmente più efficace?
.
Problematiche di controllo sociale nei sistemi dei gemelli digitali delle città
Gabriele Suffia, Università di Bologna
Negli ultimi anni, i progetti di digitalizzazione delle città si sono sempre più mossi verso integrazioni di sistemi. Una formula per descrivere queste realtà è quella dei cd. “gemelli digitali delle città”: sistemi compositi, che fanno uso dei Big Data per conoscere la società e aiutare decisori politici e amministrativi nel prendere decisioni. A seconda dei progetti, si può perfino ipotizzare che siano questi sistemi a prendere decisioni essi stessi. Una riflessione possibile è quella che, ancora una volta, ci troviamo di fronte ad un’evoluzione tecnologica (teorizzata e introdotta all’inizio degli anni 2000 in ambito industriale) che si pensa “soluzione” e, quindi, si mette alla ricerca di un problema. Questo approccio ci potrebbe portare a chiederci che cosa i gemelli digitali possono fare per le città; potremmo pensare a quali dati siano i più veloci e facili da ottenere, e come rifornire il gemello digitale per svolgere appieno la propria funzione; ci potremmo interrogare sulle potenzialità e criticità dello strumento. Un’altra riflessione che potremmo fare è, invece, a partire dalla città e dai suoi cittadini. Questo secondo approccio ci imporrebbe di avere prima una comprensione del singolo problema e, in base a questo, di disegnare ad hoc uno strumento (che potrebbe assomigliare, o meno, ad un gemello digitale) per affrontarlo.A seconda dell’approccio, quindi, quando parliamo di gemelli digitali non intendiamo sempre la stessa cosa, anche se le parole che usiamo sono le medesime (così come quando parliamo di smart city). Postulando, tuttavia, che comunque lo strumento possa essere definito “gemello digitale della città”, si impongono riflessioni sui dati che vengono raccolti e/o prodotti e, nello specifico, a quello che essi rappresentano. Attraverso questi dati può aumentare certamente la conoscenza del decisore politico/amministrativo sulla città, ma questi sistemi di datification della società si scontrano con problemi, tra cui quello del cd. “social scoring”, o con il problema delle disuguaglianze sociali. A seconda di come vengono costruiti, infatti, questi sistemi possono essere più o meno sensibili a determinati fenomeni sociali. Senza gli opportuni controlli, si può arrivare a vere e proprie forme di “discriminazione algoritmica”, così come a sorveglianza su larga scala e a “estrapolazioni dalla folla” che annullano la protezione dell’opinione pubblica e lasciano inerme l’individuo. Nuove norme, come il “Data Act” (Regolamento UE in vigore dal gennaio 2024 e applicabile in dal settembre 2025), aprono oggi alla possibilità che dati raccolti e trattati da privati vengano richiesti dal pubblico per fronte ad emergenze, come quella pandemica. Non sempre, tuttavia, l’accuratezza che per il privato è sufficiente per avere un profitto, è sufficiente anche per non ledere diritti di individui e comunità intere. In ogni caso si tratta di dati che, se personali, devono essere trattati in compliance con le previsioni del GDPR (in primis, con una finalità esplicita e “pre-esistente” la raccolta stessa del dato). Ampia letteratura si pone il problema del confine tra dato personale e dato non-personale, con sistemi di intelligenza artificiale che sempre più possono erodere le nostre capacità/intenzioni di separare l’individuo dal dato. Sembra ampliarsi la conoscenza che il controllore di questi sistemi viene ad avere sui controllati, che non hanno strumenti per controllare il controllore. Si tratta di un problema annoso, ma che introduce un nuovo “corto circuito” della democrazia, quello del “populismo corporate” (per usare una felice espressione del prof. Floridi) che interroga non solo la governance, ma soprattutto la sfera politica. Questi dibattiti dovrebbero spingere a grande prudenza, e a chiederci che cosa vogliamo davvero rendere digitalizzato e cosa no. Un punto di partenza potrebbe essere costituito dall’analisi di tutti gli stakeholder coinvolti e del loro rapporto con il diritto.
.
Le pratiche di sorveglianza nell’era dei big data: conoscere e identificare possibili scenari di ricerca
Eleonora Di Molfetta, Università degli Studi di Milano-Bicocca
Il ricorso alle tecnologie digitali e alla raccolta, elaborazione e analisi di big data tramite algoritmi automatizzati rappresenta un aspetto sempre più rilevante nelle pratiche di prevenzione e controllo della criminalità e, più in generale, nella governance della sicurezza urbana. Si evidenziano numerosi esempi significativi, tra cui lo sviluppo di forme di predictive policing basate su tecniche di machine learning, la realizzazione di progetti di sicurezza partecipata incorporate in app a disposizione sia della polizia sia dei cittadini, la creazione di reti di videosorveglianza che includono sistemi di CCTV pubblici e privati, e l’attivazione di protocolli per lo scambio di informazioni tra agenzie governative nazionali finalizzati alla sorveglianza di massa. In un contesto globale di innovazione e digitalizzazione della sicurezza, un numero sempre più crescente di paesi utilizza tecniche analitico-statistiche e algoritmi per migliorare l’ordine pubblico, garantire la sicurezza dei cittadini, monitorare la devianza e la criminalità, e massimizzare l’attività delle forze dell’ordine. In particolare, lo sviluppo ed utilizzo di algoritmi predittivi in uso presso varie forze di polizia, come l’olandese CAS, il tedesco Precobs, l’americano Predpol, e l’italiano KeyCrime, ha dimostrato di essere notevolmente efficace nella prevenzione e repressione della criminalità, consentendo allo stesso tempo una più efficace ed efficiente distribuzione delle risorse di polizia nel territorio urbano. Tuttavia, accanto alle potenzialità offerte dalla digitalizzazione della sicurezza, emergono anche rilevanti criticità connesse al carattere sempre più pervasivo delle attività di sorveglianza, ai rischi di violazioni sistematiche della privacy dei cittadini, alla diffusione di forme di discriminazione algoritmica e all’accentuarsi di rischi di esclusione sociale, soprattutto per i gruppi più vulnerabili. A partire da queste considerazioni, il contributo si propone di esplorare i potenziali scenari di sviluppo della ricerca sul tema, evidenziando sia gli aspetti trasversali della sorveglianza digitale sia quelli influenzati più significativamente del contesto sociale, politico e culturale di riferimento.
.
Resistere al potere tirannico. Da John Locke all’era dei media digitali
Gabriele Giacomini, Università di Udine
John Locke, teorico imprescindibile del pensiero liberale e democratico, è stato un anticipatore dell’analisi circa il rapporto fra obbedienza e ribellione nella società, in particolar modo per quanto riguarda le motivazioni e le modalità di resistenza ad un potere autoritario. Già alla fine del XVII secolo, John Locke teorizzò che se uno Stato abusa dei suoi cittadini, questi hanno il diritto di ribellarsi, anche con il ricorso alla violenza, in nome dei diritti alla libertà e alla vita. Oggi le tecnologie dell’informazione e della comunicazione possono senza dubbio aiutare le prime fasi di resistenza, soprattutto dal punto di vista organizzativo. Allo stesso tempo, però, le ICT sembrano offrire potenti strumenti agli autocrati, sia di tipo difensivo sia di genere proattivo. Le rivoluzioni fallite che si sono svolte nell’era digitale in Paesi come Myanmar, Iran, Egitto, Hong Kong e Bielorussia, e il recente caso dell’occupazione russa di parte dell’Ucraina, caratterizzato dal controllo delle comunicazioni digitali da parte degli occupanti, portano alla luce i grandi sforzi, spesso coronati da successo, dei regimi autoritari di utilizzare le nuove tecnologie per la sorveglianza, la propaganda, la censura, l’oppressione dell’autodeterminazione dei popoli e la soppressione dei diritti fondamentali. Questa riflessione teorica, dati i rischi di derive dispotiche in molti Paesi del mondo, dopo aver presentato alcuni esempi di utilizzo delle ICT a fini repressivi, intende interrogarsi su quali competenze, regole e istituzioni possano aiutare i cittadini a difendere la propria libertà e la propria autodeterminazione quando queste sono minacciate, anche nella sfera digitale.
