La minaccia dell’intelligenza artificiale per le società aperte

DAVOS – Voglio mettere in guardia il mondo da un pericolo senza precedenti che sta minacciando la sopravvivenza stessa delle società aperte.

Gli strumenti di controllo sempre più sofisticati che l’apprendimento automatico e l’intelligenza artificiale sono in grado di produrre stanno offrendo ai regimi repressivi un vantaggio intrinseco. Per loro, tali strumenti di controllo sono un aiuto; per le società aperte, invece, essi rappresentano un pericolo mortale.

Parlerò in particolare della Cina, dove il presidente Xi Jinping vuole uno stato monopartitico per regnare incontrastato. Xi sta cercando di consolidare tutte le informazioni disponibili su un individuo in un database centralizzato per creare un “sistema di credito sociale”. In base a questi dati, i cittadini saranno valutati da algoritmi che determineranno se essi rappresentano una minaccia per lo stato monopartitico. E a seconda dell’esito della valutazione, verranno trattati di conseguenza. 

Il sistema di credito sociale non è ancora pienamente operativo, ma l’obiettivo sottostante è chiaro. Esso subordinerà il destino dei singoli agli interessi dello stato monopartitico secondo modalità mai viste finora.

Dal canto mio, trovo il sistema di credito sociale inquietante e odioso. Purtroppo, alcuni cinesi lo trovano, invece, alquanto interessante poiché fornisce informazioni e servizi attualmente non disponibili ed è anche in grado di proteggere i cittadini rispettosi della legge dai nemici dello stato. 

La Cina non è l’unico regime autoritario al mondo, ma è indubbiamente il più ricco, forte e avanzato nel campo dell’apprendimento automatico e dell’intelligenza artificiale. Ciò rende Xi il rivale più pericoloso di quanti credono nell’idea di società aperta. Ma Xi non è l’unico. I regimi autoritari si stanno moltiplicando in ogni parte del mondo e, se avranno successo, rischiano di diventare totalitari.

Quale fondatore della Open Society Foundations, ho dedicato la mia vita a combattere le ideologie totalitarie ed estremiste che erroneamente dichiarano che il fine giustifica i mezzi. Sono convinto che il desiderio di libertà della gente non possa essere represso all’infinito, ma riconosco che, al momento, le società aperte corrono un grave pericolo.

Utilizzo l’espressione “società aperta” per sintetizzare l’idea di una società in cui lo stato di diritto prevale sul governo del singolo, e dove il ruolo dello stato è proteggere i diritti umani e la libertà individuale. A mio parere, una società aperta dovrebbe occuparsi in particolare di coloro che sono vittima di discriminazioni o esclusione sociale e degli indifesi.

Com’è possibile proteggere le società aperte se queste nuove tecnologie conferiscono ai regimi autoritari un vantaggio naturale? Questa è la domanda che mi preoccupa, e che dovrebbe preoccupare tutte le persone che preferiscono vivere in una società aperta.

Alla ricerca di una società aperta

La mia profonda inquietudine in proposito trae origine dalla mia storia personale. Sono nato in Ungheria nel 1930 e sono ebreo. Avevo tredici anni quando i tedeschi occuparono l’Ungheria e cominciarono a deportare gli ebrei nei campi di sterminio. Mio padre, e questa è stata la mia grande fortuna, comprese la natura del regime nazista e per questo si adoperò per fornire documenti falsi e un nascondiglio a tutti i membri della sua famiglia, così come anche ad altri ebrei. La maggior parte di noi è sopravvissuta.   

Il 1944 fu l’anno della mia esperienza formativa e, ancora fanciullo, imparai quanto faccia la differenza il tipo di regime politico che sale al potere. Quando il regime nazista venne sostituito dall’occupazione sovietica, abbandonai l’Ungheria non appena mi fu possibile e trovai riparo in Inghilterra.

Alla London School of Economics, sviluppai uno schema teorico sotto l’influenza del mio mentore, Karl Popper. Tale schema si rivelò inaspettatamente utile quando, in seguito, trovai lavoro nel settore dei mercati finanziari. Esso non aveva nulla a che fare con la finanza, ma si basava sul pensiero critico, e mi permise di analizzare le carenze delle teorie dominanti a cui s’ispiravano gli investitori istituzionali. Divenni così un manager di fondi speculativi di successo e orgoglioso di essere il critico più pagato al mondo.

Gestire un fondo speculativo era un’attività molto stressante. Dopo che ebbi guadagnato più denaro di quanto servisse a me e alla mia famiglia, attraversai una sorta di crisi di mezza età. Perché ammazzarmi per guadagnare più soldi? Riflettei a lungo su quello che per me era davvero importante e nel 1979 creai l’Open Society Fund, i cui obiettivi erano favorire l’apertura delle società chiuse, ridurre le carenze delle società aperte e promuovere il pensiero critico.  

I miei sforzi iniziali puntarono a cercare di indebolire il sistema dell’apartheid in Sudafrica e, successivamente, a sostenere l’apertura del sistema sovietico. Avviai una collaborazione con l’Accademia ungherese delle scienze, che era sotto il controllo comunista, ma i cui rappresentanti erano segretamente solidali con il mio impegno. Questa iniziativa ebbe un successo che andò oltre ogni immaginazione. Fu allora che mi appassionai a ciò che amo definire “filantropia politica”. Correva l’anno 1984.   

Negli anni che seguirono, cercai di replicare il successo ottenuto sia in Ungheria che in altri paesi comunisti. Ottenni risultati piuttosto soddisfacenti nell’Impero sovietico, compresa la stessa Unione sovietica, mentre in Cina fu tutta un’altra storia.  

Una dittatura dai tratti cinesi

Il mio primo impegno in Cina si preannunciava alquanto promettente. Si trattava di uno scambio di visite tra alcuni economisti ungheresi, fortemente ammirati nel mondo comunista, e un gruppo di esperti di un think tank cinese di recente costituzione, che erano ansiosi di imparare dagli ungheresi. 

Sulla base di tale successo iniziale, proposi a Chen Yizi, il leader del gruppo, di replicare il modello ungherese in Cina. Chen ottenne il sostegno del premier Zhao Ziyang e del suo segretario politico, Bao Tong, un riformista. Nell’ottobre del 1986 venne così inaugurata un’impresa congiunta chiamata China Fund. Si trattava di un’istituzione diversa da tutte le altre presenti in Cina che, almeno sulla carta, aveva la massima autonomia.  

Boa ne era il paladino, ma i tanti che si opponevano a riforme radicali si coalizzarono per attaccarlo. Dichiararono che il sottoscritto era un agente della Cia e chiesero a un’agenzia per la sicurezza interna di avviare un’indagine. Per proteggersi, Zhao rimpiazzò Chen con un alto funzionario di polizia per la sicurezza esterna. Poiché le due organizzazioni erano paritetiche, non potevano interferire negli affari reciproci.  

Approvai questo cambiamento perché ero irritato con Chen per aver concesso troppe borse di studio ai membri del suo istituto, non rendendomi conto delle lotte politiche che si svolgevano dietro le quinte. Ma coloro che presentavano domanda al China Fund presto notarono che l’organizzazione era finita sotto il controllo della polizia politica e cominciarono ad allontanarsi. Nessuno ebbe il coraggio di spiegarmi il motivo di tale allontanamento.    

Alla fine, uno dei borsisti cinesi venne da me a New York – correndo un notevole rischio personale – e mi raccontò quello che era successo. Di lì a poco, Zhao venne rimosso dall’incarico e io colsi la palla al balzo per chiudere la fondazione. Ciò avvenne poco prima del massacro di piazza Tienanmen nel 1989, e macchiò la reputazione delle persone associate alla fondazione. Queste fecero di tutto per riabilitare il loro nome e, alla fine, vi riuscirono. 

Col senno di poi, appare chiaro che il mio tentativo di creare una fondazione operante secondo criteri del tutto estranei ai cinesi fu un errore. All’epoca, offrire una borsa di studio creava una sorta di vincolo tra il donatore e il beneficiario obbligando entrambi a giurarsi fedeltà eterna.  

Il tradimento delle riforme

Questo per quanto riguarda la storia. Ma ora concentriamoci sugli sviluppi dell’ultimo anno, alcuni dei quali mi hanno sorpreso. 

Quando ho iniziato a visitare la Cina, ho incontrato molti personaggi che ricoprivano incarichi di potere, i quali erano fervidi sostenitori dei principi della società aperta. Durante la loro giovinezza, erano stati deportati nelle campagne per essere rieducati, spesso patendo disagi e sofferenze molto più gravi di quello che avevo passato io stesso in Ungheria. Eppure, avevamo molto in comune, e cioè il fatto di aver subito gli effetti di una dittatura.

Erano ansiosi di sentirmi parlare del pensiero di Popper sulla società aperta, ma pur trovando il concetto piuttosto accattivante, continuavano a dargli un’interpretazione un po’ diversa dalla mia. Conoscevano la tradizione confuciana, ma in Cina la tradizione del voto non esisteva. Il loro modo di ragionare rimaneva gerarchico, non egualitario, e conteneva un innato rispetto per le alte cariche. Io, d’altra parte, volevo che tutti avessero la possibilità di votare.   

Non sono rimasto sorpreso quando Xi ha incontrato una forte opposizione in patria; ciò che mi ha sorpreso è la forma che essa ha assunto. Alla riunione dei massimi leader del partito convocata lo scorso anno presso la località balneare di Beidaihe, sembra che Xi abbia abbassato la cresta. Sebbene non vi sia stato alcun comunicato ufficiale, si vocifera che l’assemblea abbia disapprovato l’abolizione dei limiti al mandato e il culto della personalità che Xi ha creato intorno a sé. 

Gli impegnati difensori della società aperta in Cina, che hanno pressappoco la mia età, sono andati quasi tutti in pensione, e il loro posto è stato riempito da persone più giovani, la cui promozione dipende dal presidente. Di fatto, stando a quanto riferito, sono stati leader in pensione come Zhu Rongji a muovere delle critiche a Xi durante la riunione di Beidaihe.

È importante comprendere che tali critiche erano soltanto un monito a Xi per i suoi eccessi, ma non hanno ribaltato l’abolizione del limite del doppio mandato. Fra l’altro, il “pensiero di Xi Jinping”, da lui stesso promosso come un personale distillato della teoria comunista, è stato innalzato allo stesso livello del “pensiero di Mao Tse Tung”. Quindi, Xi resta il leader supremo, e forse lo sarà per il resto della sua vita. Il risultato finale dell’attuale scontro politico resta pendente.  

La società aperta e i suoi sostenitori

Finora mi sono concentrato sulla Cina, ma le società aperte hanno molti altri nemici, in particolare la Russia di Putin. E lo scenario più pericoloso è quello in cui questi nemici cospirano e imparano gli uni dagli altri come meglio mantenere i cittadini sotto scacco. 

Cosa possiamo fare per fermarli?

Il primo passo è riconoscere il pericolo. Ecco perché sto parlando così apertamente. Ma ora arriva la parte difficile. Quelli tra noi che vogliono preservare la società aperta devono collaborare e formare un’alleanza efficace. Abbiamo un compito che non può essere lasciato ai governi. La storia ha dimostrato che anche i governi che vogliono proteggere la libertà individuale hanno svariati interessi, e inoltre antepongono la libertà dei propri cittadini a quella dell’individuo come concetto astratto.

La mia rete di Open Society Foundations si occupa di proteggere i diritti umani, specialmente di coloro che non hanno un governo capace di difenderli. Quando, quarant’anni fa, l’avventura è cominciata, molti governi sostenevano le nostre iniziative. Purtroppo, le loro fila si sono assottigliate. Gli Stati Uniti e l’Europa, un tempo i nostri alleati più forti, oggi sono presi dai loro problemi interni. 

Pertanto, vorrei soffermarmi su quello che considero l’interrogativo più importante per le società aperte: cosa succederà in Cina?

Solo i cittadini cinesi possono dare una risposta. Tutto quello che possiamo fare noi è operare una netta distinzione tra loro e Xi. Dal momento che Xi ha dichiarato la propria ostilità alla società aperta, la principale fonte di speranza è diventata il popolo cinese.

E di motivi di speranza, di fatto, ce ne sono. Come alcuni esperti di Cina mi hanno spiegato, esiste una tradizione confuciana secondo la quale i consiglieri dell’imperatore devono pronunciarsi quando sono in netto disaccordo con una delle sue azioni o uno dei suoi decreti, ben sapendo che ciò potrebbe costare loro l’esilio o persino l’esecuzione. Sapere questo mi ha molto risollevato proprio quando ero sull’orlo della disperazione, perché significa la comparsa sulla scena di una nuova élite politica disposta a sostenere la tradizione confuciana, e il fatto che Xi continuerà ad avere oppositori in Cina.

Il disfacimento della Via della seta

Xi presenta la Cina come un modello da emulare per altri paesi, ma viene anche criticato all’estero. La sua Belt and Road Initiative (BRI) è ormai operativa da abbastanza tempo per aver evidenziato le sue carenze. Per prima cosa, essa è stata progettata per promuovere gli interessi della Cina, non quelli dei paesi destinatari. Inoltre, i suoi ambiziosi progetti infrastrutturali sono stati finanziati principalmente con dei prestiti, non delle sovvenzioni, ed è spesso capitato che funzionari stranieri venissero corrotti per accettarli. Molti di questi progetti, poi, si sono rivelati deboli sul piano economico.

Il caso più emblematico si è verificato in Sri Lanka. La Cina aveva prestato allo Sri Lanka il denaro per pagare se stessa per la costruzione di un porto che avrebbe favorito gli interessi strategici cinesi. Il porto, però, non ha richiamato un traffico commerciale tale da consentire agli srilankesi di onorare il proprio debito, e così la Cina si è impadronita del porto. Esistono molti altri casi simili in tutto il mondo, che stanno alimentando il risentimento. 

La Malesia è alla guida del movimento di opposizione. Il governo precedente, guidato da Najib Razak, ha venduto tutto alla Cina. Ma nel maggio del 2018 Najib è stato destituito da una coalizione capeggiata da Mahathir Mohamed. Il governo di quest’ultimo ha immediatamente bloccato una serie di progetti infrastrutturali importanti portati avanti da aziende cinesi, e attualmente sta negoziando l’ammontare del debito residuo della Malesia nei confronti della Cina.

La situazione non è altrettanto chiara in Pakistan, il maggior beneficiario degli investimenti cinesi. L’esercito pakistano si sente profondamente in obbligo verso la Cina, ma la posizione di Imran Khan, divenuto primo ministro lo scorso agosto, è più ambivalente. All’inizio del 2018, la Cina e il Pakistan avevano annunciato grandiosi progetti di cooperazione militare. Verso la fine dell’anno, il Pakistan è precipitato in una profonda crisi finanziaria. Ma una cosa è apparsa evidente: la Cina intende utilizzare la BRI anche per scopi militari.

Tutti questi intoppi hanno costretto Xi a modificare il proprio atteggiamento verso la BRI. A settembre ha annunciato che i “progetti di vanità” saranno banditi in favore di iniziative più accuratamente studiate. Inoltre, a ottobre il Quotidiano del Popolo ha ammonito che i vari progetti devono rispondere agli interessi dei paesi destinatari. 

I vari clienti stanno sull’avviso e molti di loro, dalla Sierra Leone all’Ecuador, stanno rimettendo in discussione o rinegoziando dei progetti. Xi ha anche smesso di parlare del piano “Made in China 2025”, che l’anno prima era stato il perno centrale della sua campagna di auto-promozione. 

Contenimento 2.0?

Ancor più importante è il fatto che ormai il governo statunitense considera la Cina come un “rivale strategico”. Il presidente Donald Trump è notoriamente imprevedibile, ma questa decisione è scaturita da un piano strategico studiato nei minimi particolari. Da allora, il suo comportamento stravagante è stato perlopiù sostituito da una politica sulla Cina adottata dalle agenzie dell’amministrazione e supervisionata da Matthew Pottinger, consigliere per gli affari asiatici del Consiglio di sicurezza nazionale, e altri. Tale politica è stata illustrata nell’ambito di un fondamentale discorso del vice presidente Mike Pence il 4 ottobre 2018.    

Pur così, dichiarare la Cina un rivale strategico è troppo semplicistico. La Cina è un attore globale importante. Una politica efficace nei suoi confronti non può essere racchiusa in una generalizzazione, ma dev’essere più sofisticata, dettagliata e pratica, e deve includere una risposta economica degli Stati Uniti alla BRI. Il piano di Pottinger non specifica se l’obiettivo finale sia quello di giocare ad armi pari o sganciarsi dalla Cina.

Xi ha ben compreso la minaccia che la nuova politica degli Stati Uniti rappresenta per la sua leadership. Ha scommesso su un incontro personale con Trump durante l’incontro del G20 a Buenos Aires, il primo dicembre. Nel frattempo, il pericolo di una guerra commerciale globale è cresciuto ed è iniziata una forte svendita di titoli sul mercato azionario che ha creato problemi all’amministrazione Trump, la quale aveva concentrato tutte le energie e l’attenzione sulle elezioni di metà mandato tenutesi il mese prima. Quando Trump e Xi si sono incontrati, erano entrambi ansiosi di trovare un accordo. Così ne hanno raggiunto uno, anche se ciò che hanno concordato – una tregua di novanta giorni – è alquanto inconcludente.

Tuttavia, vi sono chiari segnali di un declino economico generalizzato della Cina, che avrà effetti sul resto del mondo. Un rallentamento globale è l’ultima cosa che il mercato vuole vedere.

Il tacito patto sociale in Cina è basato su un tenore di vita in costante crescita. Se il calo dell’economia e della borsa cinese sarà abbastanza grave, c’è il rischio che questo patto sociale venga meno e che persino la comunità imprenditoriale finisca per opporsi a Xi. Tale flessione potrebbe anche significare la condanna a morte della BRI, perché Xi potrebbe esaurire le risorse per continuare a finanziare un numero così elevato di investimenti in perdita.   

Sulla domanda più ampia in merito alla governance globale di Internet, esiste una battaglia non dichiarata tra la Cina e l’occidente. La Cina vuole dettare le regole e le procedure che governano l’economia digitale dominando il mondo in via di sviluppo con le sue nuove piattaforme e tecnologie. Ciò è una minaccia alla libertà di Internet e alla stessa società aperta. 

L’anno scorso credevo ancora che la Cina dovesse fare più parte delle istituzioni di governance a livello globale, ma la condotta che ha avuto Xi da allora mi ha fatto cambiare idea. La mia opinione attuale è che, invece di muovere una guerra commerciale contro praticamente il mondo intero, gli Usa dovrebbero concentrarsi sulla Cina; e invece di assolvere ZTE e Huawei alla leggera, dovrebbero adottare provvedimenti pesanti nei loro confronti. Se arrivassero a dominare il mercato delle reti 5G, queste aziende comporterebbero un rischio inaccettabile per la sicurezza del resto del mondo.  

Sfortunatamente, il presidente Trump sembra seguire una linea diversa, e cioè fare concessioni alla Cina e proclamare vittoria mentre rinnova gli attacchi contro gli alleati degli Stati Uniti, una strategia che rischia di minare l’obiettivo politico statunitense di contrastare gli abusi e gli eccessi della Cina. 

Una conclusione fiduciosa

Dal momento che Xi è il nemico più pericoloso delle società aperte, dobbiamo riporre le nostre speranze nei cittadini cinesi e, in particolare, nell’élite politica ispirata alla tradizione confuciana. Ciò non significa che quanti di noi credono nella società aperta debbano restare passivi. La realtà è che ci troviamo nel mezzo di una guerra fredda che rischia di trasformarsi in una guerra calda. D’altra parte, se Xi e Trump non fossero più al potere, si profilerebbe l’opportunità di sviluppare una maggiore cooperazione tra le due superpotenze digitali. 

Si potrebbe auspicare qualcosa di simile al trattato delle Nazioni Unite al termine della seconda guerra mondiale, che sarebbe la conclusione più idonea all’attuale serie di conflitti tra Stati Uniti e Cina, e che ripristinerebbe una cooperazione a livello internazionale consentendo alle società aperte di prosperare.   

Traduzione di Federica Frasca