Come le democrazie possono rivendicare il potere nel mondo digitale

Signora Tech | Getty

Twitter dovrebbe censurare le bugie twittate dal presidente degli Stati Uniti? YouTube dovrebbe eliminare la disinformazione covid-19? Facebook dovrebbe fare di più contro l'incitamento all'odio? Tali domande, che emergono quotidianamente nella copertura mediatica, possono far sembrare che il principale rischio tecnologico per le democrazie sia la cura dei contenuti da parte delle società di social media. Eppure queste controversie sono solo sintomi di una minaccia più ampia: la profondità del potere privatizzato sul mondo digitale.

Ogni paese democratico del mondo affronta la stessa sfida, ma nessuno può disinnescarla da solo. Abbiamo bisogno di un'alleanza democratica globale per stabilire norme, regole e linee guida per le aziende tecnologiche e per concordare protocolli per le attività digitali transfrontaliere, comprese le interferenze elettorali, la guerra informatica e il commercio online. I cittadini sono meglio rappresentati quando una coalizione dei loro governi, piuttosto che una manciata di dirigenti aziendali, definisce i termini della governance e quando sono in atto controlli, equilibri e meccanismi di supervisione.

C'è una lunga lista di modi in cui le aziende tecnologiche governano le nostre vite senza molte regolamentazioni. In aree che vanno dalla costruzione di infrastrutture critiche e dalla loro difesa, o persino alla produzione di strumenti informatici offensivi, alla progettazione di sistemi di intelligenza artificiale e database governativi, le decisioni prese nell'interesse del business stabiliscono norme e standard per miliardi di persone.

Sempre più spesso le aziende assumono ruoli statali o sviluppano prodotti che ledono i diritti fondamentali. Ad esempio, i sistemi di riconoscimento facciale che non sono mai stati adeguatamente regolati prima di essere sviluppati e implementati sono ora così ampiamente utilizzati da derubare le persone della loro privacy. Allo stesso modo, le aziende raccolgono sistematicamente dati privati, spesso senza consenso, una norma del settore che le autorità di regolamentazione sono state lente nell'affrontare.

Storia correlata

Perché il Congresso dovrebbe guardare Twitter e Facebook Se i politici americani si preoccupano davvero dei danni che le piattaforme online possono causare, dovrebbero guardare alle teorie del complotto online e a come sono aggravate dalla progettazione dei siti di social media.

Poiché le tecnologie si evolvono più velocemente delle leggi, crescono le discrepanze tra l'agenzia privata e il controllo pubblico. Prendiamo, ad esempio, le società di smart city, che promettono che i governi locali saranno in grado di alleggerire la congestione monitorando le auto in tempo reale e regolando i tempi dei semafori. A differenza, ad esempio, di una strada costruita da un'impresa edile, questa infrastruttura digitale non è necessariamente di dominio pubblico. Le aziende che lo costruiscono acquisiscono intuizioni e valore che potrebbero non tornare al pubblico.

Questa disparità tra il settore pubblico e quello privato sta andando fuori controllo. C'è un divario di informazioni, un divario di talenti e un divario di calcolo. Insieme, questi si sommano a un divario di potere e responsabilità. Un intero livello di controllo della nostra vita quotidiana esiste quindi senza legittimità democratica e con poca supervisione.

Perché dovremmo preoccuparci? Perché le decisioni che le aziende prendono sui sistemi digitali potrebbero non aderire a principi democratici essenziali come libertà di scelta, concorrenza leale, non discriminazione, giustizia e responsabilità. Conseguenze indesiderate di processi tecnologici, decisioni sbagliate o progetti guidati dal business potrebbero creare seri rischi per la sicurezza pubblica e nazionale. E il potere che non è soggetto a controlli ed equilibri sistematici è in contrasto con i principi fondanti della maggior parte delle democrazie.

Oggi, la regolamentazione tecnologica è spesso caratterizzata come una contesa a tre tra i sistemi guidati dallo stato in Cina e Russia, quello guidato dal mercato negli Stati Uniti e una visione basata sui valori in Europa. La realtà, tuttavia, è che ci sono solo due sistemi dominanti di governance tecnologica: quello privatizzato sopra descritto, che vale in tutto il mondo democratico, e quello autoritario.

Per portare in vantaggio le aziende tecnologiche di tutto il mondo, abbiamo bisogno di qualcosa di nuovo: un'alleanza globale che metta la democrazia al primo posto.

L'approccio laissez-faire dei governi democratici e la loro riluttanza a tenere a freno le società private in patria si manifestano anche sulla scena internazionale. Mentre i governi democratici hanno ampiamente consentito alle aziende di governare, i governi autoritari hanno iniziato a plasmare le norme attraverso i forum internazionali. Questo sfortunato cambiamento coincide con una tendenza al declino democratico in tutto il mondo, poiché le grandi democrazie come l'India, la Turchia e il Brasile sono diventate più autoritarie. Senza sforzi deliberati e immediati da parte dei governi democratici per riconquistare l'agenzia, i modelli di governo societario e autoritario eroderanno la democrazia ovunque.

Ciò significa che i governi democratici dovrebbero invece costruire le proprie piattaforme di social media, data center e telefoni cellulari? No. Ma devono rivendicare urgentemente il loro ruolo nella creazione di regole e restrizioni che sostengano i principi fondamentali della democrazia nella sfera tecnologica. Finora, questi governi hanno cominciato lentamente a farlo con leggi a livello nazionale o, nel caso dell'Europa, a livello regionale. Ma per portare in vantaggio le aziende tecnologiche di tutto il mondo, abbiamo bisogno di qualcosa di nuovo: un'alleanza globale che metta la democrazia al primo posto.

Fare squadra

Le istituzioni globali nate all'indomani della seconda guerra mondiale, come le Nazioni Unite, l'Organizzazione mondiale del commercio e l'Organizzazione del Trattato del Nord Atlantico, hanno creato un ordine internazionale basato su regole. Ma non tengono pienamente conto del mondo digitale nei loro mandati e programmi, anche se molti stanno finalmente iniziando a concentrarsi sulla cooperazione digitale, sull'e-commerce e sulla sicurezza informatica. E mentre il commercio digitale (che richiede le proprie normative, come le regole per il commercio elettronico e i criteri per lo scambio di dati) è di importanza crescente, i membri dell'OMC non hanno concordato regole globali sui servizi per la produzione intelligente, le catene di approvvigionamento digitali e altre transazioni abilitate digitalmente.

Ciò di cui abbiamo bisogno ora, quindi, è una grande coalizione democratica che possa offrire un'alternativa significativa ai due modelli esistenti di governance tecnologica, quello privatizzato e quello autoritario. Dovrebbe essere una coalizione globale, che accolga paesi che soddisfano criteri democratici.

La Community of Democracies, una coalizione di stati creata nel 2000 per promuovere la democrazia ma che non ha mai avuto un grande impatto, potrebbe essere rinnovata e potenziata per includere un mandato ambizioso per la governance della tecnologia. In alternativa, si potrebbe stabilire un D7 o D20, una coalizione simile al G7 o al G20 ma composta dalle più grandi democrazie del mondo.

Tale gruppo concorderebbe regolamenti e standard per la tecnologia in linea con i principi democratici fondamentali. Quindi ogni paese membro li applicherebbe a modo suo, proprio come fanno oggi gli stati membri dell'UE con le direttive dell'UE.

Quali problemi risolverebbe una simile coalizione? La coalizione potrebbe, ad esempio, adottare una definizione condivisa di libertà di espressione per le società di social media da seguire. Forse tale definizione sarebbe simile all'approccio europeo ampiamente condiviso, in cui l'espressione è libera ma ci sono chiare eccezioni per l'incitamento all'odio e l'incitamento alla violenza.

Oppure la coalizione potrebbe limitare la pratica di annunci politici di microtargeting sui social media: potrebbe, ad esempio, vietare alle aziende di consentire agli inserzionisti di personalizzare e indirizzare gli annunci sulla base della religione, dell'etnia, dell'orientamento sessuale o della raccolta di dati personali di qualcuno. Per lo meno, la coalizione potrebbe sostenere una maggiore trasparenza sul microtargeting per creare un dibattito più informato su quali pratiche di raccolta dei dati dovrebbero essere off limits.

La coalizione democratica potrebbe anche adottare standard e metodi di controllo per il operazioni digitali di elezioni e campagne . Ciò potrebbe significare concordare i requisiti di sicurezza per le macchine per il voto, oltre a standard di anonimato, stress test e metodi di verifica come la richiesta di un backup cartaceo per ogni voto. E l'intera coalizione potrebbe accettare di imporre sanzioni a qualsiasi paese o attore non statale che interferisca con un'elezione o un referendum in uno qualsiasi degli Stati membri.

Storia correlata

Perché il divieto di pubblicità politica di Facebook sta affrontando il problema sbagliato Una moratoria sui nuovi annunci politici poco prima del giorno delle elezioni affronta un tipo di sfida causata dai social media. Semplicemente non è quello che conta.

Un altro compito che la coalizione potrebbe assumere si sta sviluppando regole commerciali per l'economia digitale . Ad esempio, i membri potrebbero accettare di non chiedere mai alle aziende di consegnare il codice sorgente del software alle autorità statali, come fa la Cina. Potrebbero anche accettare di adottare norme comuni sulla protezione dei dati per le transazioni transfrontaliere. Tali mosse permetterebbero a una sorta di zona di libero scambio digitale di svilupparsi in nazioni che la pensano allo stesso modo.

La Cina ha già qualcosa di simile sotto forma di eWTP, una piattaforma commerciale che consente il commercio globale senza dazi per transazioni inferiori a un milione di dollari. Ma eWTP, che è stato avviato dal gigante dell'e-commerce Alibaba, è gestito da società del settore privato con sede in Cina. È noto che il governo cinese ha accesso ai dati tramite società private. Senza un'alternativa pubblica basata su regole, l'eWTP potrebbe diventare la piattaforma globale di fatto per il commercio digitale, senza mandato o supervisione democratica.

Un'altra questione che questa coalizione potrebbe affrontare sarebbe la sicurezza delle catene di approvvigionamento per dispositivi come telefoni e laptop. Molti paesi hanno bandito smartphone e apparecchiature di telecomunicazione da Huawei a causa del timore che la tecnologia dell'azienda possa avere vulnerabilità integrate o backdoor che il governo cinese potrebbe sfruttare. Lo sviluppo proattivo di standard comuni per proteggere l'integrità delle catene di approvvigionamento e dei prodotti creerebbe condizioni di parità tra i membri della coalizione e creerebbe fiducia nelle aziende che accettano di rispettarle.

La prossima area che potrebbe essere degna dell'attenzione della coalizione è guerra informatica e conflitto ibrido (dove l'aggressività digitale e fisica sono combinate). Negli ultimi dieci anni, un numero crescente di paesi ha identificato il conflitto ibrido come una minaccia alla sicurezza nazionale. Qualsiasi nazione con operazioni informatiche altamente qualificate può devastare i paesi che non riescono a investire nelle difese contro di loro. Nel frattempo, gli attacchi informatici da parte di attori non statali hanno spostato gli equilibri di potere tra gli stati.

Al momento, però, non ci sono criteri internazionali che definiscano quando un attacco informatico conta come un atto di guerra. Questo incoraggia i cattivi attori a colpire con molti piccoli colpi. Oltre al loro immediato effetto economico o (geo)politico, tali attacchi erodono la fiducia che sarà fatta giustizia.

Una coalizione democratica potrebbe lavorare per colmare questa lacuna di responsabilità e avviare un tribunale indipendente per indagare su tali attacchi, forse simile alla Corte arbitrale permanente dell'Aia, che si pronuncia sulle controversie internazionali. I leader dell'alleanza democratica potrebbero quindi decidere, sulla base delle sentenze del tribunale, se debbano seguire sanzioni economiche e politiche.

Questi sono solo alcuni dei modi in cui una coalizione democratica globale potrebbe far avanzare regole che sono gravemente carenti nella sfera digitale. Gli standard della coalizione potrebbero effettivamente diventare globali se i suoi membri rappresentassero una buona parte della popolazione mondiale. Il regolamento generale sulla protezione dei dati dell'UE fornisce un esempio di come potrebbe funzionare. Sebbene il GDPR si applichi solo all'Europa, le aziende tecnologiche globali devono seguire le sue regole per i loro utenti europei e questo rende più difficile opporsi poiché altre giurisdizioni adottano leggi simili. Allo stesso modo, i non membri della coalizione democratica potrebbero finire per seguire molte delle sue regole per goderne i benefici.

Se i governi democratici non assumeranno più potere nella governance della tecnologia man mano che i governi autoritari diventano più potenti, il mondo digitale, che fa parte della nostra vita quotidiana, non sarà democratico. Senza un sistema di chiara legittimità per chi governa, senza controlli, contrappesi e meccanismi di controllo indipendente, è impossibile ritenere responsabili le aziende tecnologiche. Solo costruendo una coalizione globale per la governance tecnologica i governi democratici possono ancora una volta mettere la democrazia al primo posto.

Marietje Schaak è il direttore della politica internazionale presso il Cyber ​​Policy Center della Stanford University e un membro della politica internazionale presso l'Institute for Human-Centered Artificial Intelligence di Stanford. Tra il 2009 e il 2019, Marietje è stata membro del Parlamento europeo per il partito liberaldemocratico olandese.

nascondere