BERLINO – Dopo solo qualche settimana dalla comparsa dei primi casi di COVID-19 al di fuori della Cina, la Corea del Sud ha lanciato un sistema per trasmettere i profili e i movimenti delle persone che erano risultate positive alla malattia. In seguito, altri paesi europei e asiatici si sono affrettati a sviluppare dei sistemi di tracciamento con più o meno successo e preoccupazione rispetto alle loro implicazioni etiche.
Un simile slancio, d’altronde, era comprensibile: se i sistemi già esistenti possono salvare migliaia di vite, perché i paesi non dovrebbero usarli? Ma nella fretta di contrastare la pandemia, le società si sono concentrate poco sulla rapidità con cui tali programmi sono stati introdotti, e su ciò che dovremmo aspettarci in seguito.
Certo è che il regime di tracciamento coreano ha già suscitato un acceso dibattito. All’inizio si trattava del fatto che il sistema violava limiti eticamente accettabili con l’invio di alert contenenti il dettaglio dei movimenti di soggetti positivi al coronavirus ad altre persone residenti nella zona, rivelando così visite a karaoke bar, alberghi a ore e club per gay, tanto per citare qualche esempio.
Ma il sistema coreano si distingue anche perché collega la posizione del telefono mobile con gli spostamenti e le informazioni sanitarie personali, le riprese delle telecamere a circuito chiuso e i dati di dozzine di società di carte di credito. Tali informazioni vengono poi analizzate da un centro di raccolta e smistamento dati originariamente concepito per le cosiddette “smart city”, le città intelligenti, del paese. Eliminando le barriere alle procedure burocratiche di approvazione, questo sistema sembra aver ridotto il tempo necessario al tracciamento dei contatti da un giorno intero ad appena dieci minuti.
I difensori della privacy e della sicurezza digitale mettono in guardia da anni circa l’interconnessione di fonti di dati pubbliche e private distinte. Ma la pandemia ha evidenziato per la prima volta con quanta facilità questi flussi di dati possono essere centralizzati e collegati su richiesta – non solo in Corea del Sud, ma in ogni parte del mondo.
La scomoda verità è che la creazione di un’infrastruttura per collegare dati comportamentali molto personali su scala mondiale è in atto già da qualche tempo. La scrittrice Shoshana Zuboff fa risalire la nascita di questo “capitalismo della sorveglianza” all’espansione dei poteri di sicurezza dei vari stati che seguì gli attacchi terroristici dell’11 settembre 2001 contro gli Stati Uniti.
Gli elementi chiave di tale infrastruttura – smartphone, sensori, telecamere, moneta digitale, dati biometrici e apprendimento automatico – sono stati alimentati da modelli di business basati sui dati. La loro convenienza ed efficienza – la promessa di fare di più con meno – hanno conquistato tanto i singoli utenti quanto le aziende. Ma l’aver adottato le tecnologie digitali in modo così rapido ed entusiasta ci ha lasciato poco tempo e scarsi motivi per riflettere sulle conseguenze del quadro che emerge dalla congiunzione dei vari punti fra loro.
Sebbene i media spesso definiscano le iniziative tecnologiche legate alla pandemia come tecniche “all’avanguardia”, pochissimo di ciò che le riguarda è effettivamente nuovo – tranne, forse, la loro accresciuta visibilità. Tracciare i movimenti degli esseri umani a livello sia individuale che globale è un’attività alla base di molte imprese già esistenti. I rapporti sulla mobilità COVID-19 di Google, ad esempio, presentano una vasta gamma di dati che spaziano dal singolo utente fino a intere città e nazioni, mostrando chi resta a casa, chi va al lavoro e come questi modelli siano cambiati durante il lockdown.
Lo stesso vale per i dati sui nostri acquisti e sui nostri comportamenti a livello individuale e di gruppo. Il tracciamento dei modelli comportamentali individuali su vasta scala è talmente vitale per l’automazione che i lockdown dovuti alla pandemia, che interessano oltre quattro miliardi di persone, hanno confuso i modelli di intelligenza artificiale e di apprendimento automatico, stravolgendo così gli algoritmi di rilevamento delle frodi e sviando i sistemi di gestione delle catene di fornitura.
Questa improvvisa visibilità pubblica dei dati comportamentali avrebbe potuto risvegliare l’opinione pubblica. Dopotutto, le rivelazioni di Edward Snowden hanno reso le persone consapevoli del fatto che le loro chiamate Skype ed e-mail venivano monitorate in nome della lotta al terrorismo, mentre lo scandalo di Cambridge Analytica nel Regno Unito ha messo in luce la vendita e l’utilizzo dei dati personali per scopi di microtargeting politico.
In particolare, la crisi legata a COVID-19 avrebbe potuto evidenziare come i dati comportamentali raccontino quello che facciamo ogni minuto del giorno, e perché questo fatto sia importante. Invece, abbiamo accettato queste tecnologie perché le percepiamo, almeno nell’ambito della crisi attuale, come perlopiù finalizzate al bene comune (anche se trascuriamo l’aspetto della loro efficacia).
Tuttavia, man mano che i confini tra sanità pubblica e privata si fanno sempre più sfumati, potremmo cambiare atteggiamento rispetto ai compromessi che ci viene chiesto di fare. Potremmo diventare meno tolleranti verso il tracciamento comportamentale se le scelte di vita individuali vengono costantemente monitorate in nome del bene collettivo. Le potenziali tecnologie che dovrebbero aiutarci a gestire un futuro postpandemico, dagli strumenti di sorveglianza sul luogo di lavoro ai passaporti sanitari digitali permanenti, potrebbero mettere a dura prova i nostri sistemi valoriali, e ciò potrebbe portare a una profonda divergenza, sul piano culturale e politico, su quali tecnologie andrebbero e non andrebbero sfruttate.
Sarebbe facile inquadrare l’intero dibattito in termini di sorveglianza e di privacy, ma questi non sono gli unici elementi importanti in gioco. La raccolta di dati comportamentali privati su larga scala non solo alimenta le grandi imprese, ma consente anche una modellazione predittiva, sistemi di allerta precoce e sistemi di imposizione e di controllo a livello nazionale e globale. Inoltre, dal momento che il futuro sarà probabilmente plasmato dalle crisi, dai disastri naturali fino alle carestie e alle pandemie, le tecnologie digitali, i dati comportamentali umani e le decisioni basate su processi algoritmici avranno un ruolo sempre più cruciale nel prevederle, contenerle e gestirle.
Le società, quindi, dovranno misurarsi con domande difficili su come affrontare le diverse sfide al di là delle libertà civili e dei dannosi pregiudizi, discriminazioni e iniquità evidenziati dalle tecnologie di raccolta dei dati. Dovremo decidere chi debba possedere le informazioni comportamentali e come utilizzarle nel pubblico interesse. E dovremo riconoscere che coloro che prendono decisioni sulla base di questi dati, e le idee politiche che hanno alle spalle, creeranno nuove forme di potere destinate ad avere ampie ripercussioni sulla nostra vita.
Mentre riponiamo sempre maggiore fiducia nei big data per risolvere problemi importanti, l’interrogativo più urgente che dobbiamo porci non è cosa possiamo fare, bensì cosa intendiamo fare con questi dati. Se non rifletteremo su questo, qualcun altro potrebbe rispondere al posto nostro.
Traduzione di Federica Frasca
BERLINO – Dopo solo qualche settimana dalla comparsa dei primi casi di COVID-19 al di fuori della Cina, la Corea del Sud ha lanciato un sistema per trasmettere i profili e i movimenti delle persone che erano risultate positive alla malattia. In seguito, altri paesi europei e asiatici si sono affrettati a sviluppare dei sistemi di tracciamento con più o meno successo e preoccupazione rispetto alle loro implicazioni etiche.
Un simile slancio, d’altronde, era comprensibile: se i sistemi già esistenti possono salvare migliaia di vite, perché i paesi non dovrebbero usarli? Ma nella fretta di contrastare la pandemia, le società si sono concentrate poco sulla rapidità con cui tali programmi sono stati introdotti, e su ciò che dovremmo aspettarci in seguito.
Certo è che il regime di tracciamento coreano ha già suscitato un acceso dibattito. All’inizio si trattava del fatto che il sistema violava limiti eticamente accettabili con l’invio di alert contenenti il dettaglio dei movimenti di soggetti positivi al coronavirus ad altre persone residenti nella zona, rivelando così visite a karaoke bar, alberghi a ore e club per gay, tanto per citare qualche esempio.
Ma il sistema coreano si distingue anche perché collega la posizione del telefono mobile con gli spostamenti e le informazioni sanitarie personali, le riprese delle telecamere a circuito chiuso e i dati di dozzine di società di carte di credito. Tali informazioni vengono poi analizzate da un centro di raccolta e smistamento dati originariamente concepito per le cosiddette “smart city”, le città intelligenti, del paese. Eliminando le barriere alle procedure burocratiche di approvazione, questo sistema sembra aver ridotto il tempo necessario al tracciamento dei contatti da un giorno intero ad appena dieci minuti.
I difensori della privacy e della sicurezza digitale mettono in guardia da anni circa l’interconnessione di fonti di dati pubbliche e private distinte. Ma la pandemia ha evidenziato per la prima volta con quanta facilità questi flussi di dati possono essere centralizzati e collegati su richiesta – non solo in Corea del Sud, ma in ogni parte del mondo.
La scomoda verità è che la creazione di un’infrastruttura per collegare dati comportamentali molto personali su scala mondiale è in atto già da qualche tempo. La scrittrice Shoshana Zuboff fa risalire la nascita di questo “capitalismo della sorveglianza” all’espansione dei poteri di sicurezza dei vari stati che seguì gli attacchi terroristici dell’11 settembre 2001 contro gli Stati Uniti.
BLACK FRIDAY SALE: Subscribe for as little as $34.99
Subscribe now to gain access to insights and analyses from the world’s leading thinkers – starting at just $34.99 for your first year.
Subscribe Now
Gli elementi chiave di tale infrastruttura – smartphone, sensori, telecamere, moneta digitale, dati biometrici e apprendimento automatico – sono stati alimentati da modelli di business basati sui dati. La loro convenienza ed efficienza – la promessa di fare di più con meno – hanno conquistato tanto i singoli utenti quanto le aziende. Ma l’aver adottato le tecnologie digitali in modo così rapido ed entusiasta ci ha lasciato poco tempo e scarsi motivi per riflettere sulle conseguenze del quadro che emerge dalla congiunzione dei vari punti fra loro.
Sebbene i media spesso definiscano le iniziative tecnologiche legate alla pandemia come tecniche “all’avanguardia”, pochissimo di ciò che le riguarda è effettivamente nuovo – tranne, forse, la loro accresciuta visibilità. Tracciare i movimenti degli esseri umani a livello sia individuale che globale è un’attività alla base di molte imprese già esistenti. I rapporti sulla mobilità COVID-19 di Google, ad esempio, presentano una vasta gamma di dati che spaziano dal singolo utente fino a intere città e nazioni, mostrando chi resta a casa, chi va al lavoro e come questi modelli siano cambiati durante il lockdown.
Lo stesso vale per i dati sui nostri acquisti e sui nostri comportamenti a livello individuale e di gruppo. Il tracciamento dei modelli comportamentali individuali su vasta scala è talmente vitale per l’automazione che i lockdown dovuti alla pandemia, che interessano oltre quattro miliardi di persone, hanno confuso i modelli di intelligenza artificiale e di apprendimento automatico, stravolgendo così gli algoritmi di rilevamento delle frodi e sviando i sistemi di gestione delle catene di fornitura.
Questa improvvisa visibilità pubblica dei dati comportamentali avrebbe potuto risvegliare l’opinione pubblica. Dopotutto, le rivelazioni di Edward Snowden hanno reso le persone consapevoli del fatto che le loro chiamate Skype ed e-mail venivano monitorate in nome della lotta al terrorismo, mentre lo scandalo di Cambridge Analytica nel Regno Unito ha messo in luce la vendita e l’utilizzo dei dati personali per scopi di microtargeting politico.
In particolare, la crisi legata a COVID-19 avrebbe potuto evidenziare come i dati comportamentali raccontino quello che facciamo ogni minuto del giorno, e perché questo fatto sia importante. Invece, abbiamo accettato queste tecnologie perché le percepiamo, almeno nell’ambito della crisi attuale, come perlopiù finalizzate al bene comune (anche se trascuriamo l’aspetto della loro efficacia).
Tuttavia, man mano che i confini tra sanità pubblica e privata si fanno sempre più sfumati, potremmo cambiare atteggiamento rispetto ai compromessi che ci viene chiesto di fare. Potremmo diventare meno tolleranti verso il tracciamento comportamentale se le scelte di vita individuali vengono costantemente monitorate in nome del bene collettivo. Le potenziali tecnologie che dovrebbero aiutarci a gestire un futuro postpandemico, dagli strumenti di sorveglianza sul luogo di lavoro ai passaporti sanitari digitali permanenti, potrebbero mettere a dura prova i nostri sistemi valoriali, e ciò potrebbe portare a una profonda divergenza, sul piano culturale e politico, su quali tecnologie andrebbero e non andrebbero sfruttate.
Sarebbe facile inquadrare l’intero dibattito in termini di sorveglianza e di privacy, ma questi non sono gli unici elementi importanti in gioco. La raccolta di dati comportamentali privati su larga scala non solo alimenta le grandi imprese, ma consente anche una modellazione predittiva, sistemi di allerta precoce e sistemi di imposizione e di controllo a livello nazionale e globale. Inoltre, dal momento che il futuro sarà probabilmente plasmato dalle crisi, dai disastri naturali fino alle carestie e alle pandemie, le tecnologie digitali, i dati comportamentali umani e le decisioni basate su processi algoritmici avranno un ruolo sempre più cruciale nel prevederle, contenerle e gestirle.
Le società, quindi, dovranno misurarsi con domande difficili su come affrontare le diverse sfide al di là delle libertà civili e dei dannosi pregiudizi, discriminazioni e iniquità evidenziati dalle tecnologie di raccolta dei dati. Dovremo decidere chi debba possedere le informazioni comportamentali e come utilizzarle nel pubblico interesse. E dovremo riconoscere che coloro che prendono decisioni sulla base di questi dati, e le idee politiche che hanno alle spalle, creeranno nuove forme di potere destinate ad avere ampie ripercussioni sulla nostra vita.
Mentre riponiamo sempre maggiore fiducia nei big data per risolvere problemi importanti, l’interrogativo più urgente che dobbiamo porci non è cosa possiamo fare, bensì cosa intendiamo fare con questi dati. Se non rifletteremo su questo, qualcun altro potrebbe rispondere al posto nostro.
Traduzione di Federica Frasca