Stiamo combattendo i robot IA delle fake news utilizzando più IA. È un errore.

Foto della copertina del libro

• Samuel Woolley è un assistente professore alla Moody School of Communication dell'Università del Texas-Austin. Questo è un estratto adattato dal suo prossimo libro Il gioco della realtà .

Ogni volta che accedi a Twitter e guardi un post popolare, è probabile che gli account bot apprezzino o commentino. Cliccando e potrai vedere che hanno twittato molte volte, spesso in un breve lasso di tempo. A volte i loro post vendono spazzatura o diffondono virus digitali. Altri account, in particolare i bot che pubblicano vetriolo confuso in risposta a particolari articoli di notizie o dichiarazioni ufficiali, sono interamente politici.

È facile presumere che l'intero fenomeno sia alimentato dall'informatica avanzata. In effetti, ho parlato con molte persone che pensano che gli algoritmi di apprendimento automatico guidati dall'apprendimento automatico o dall'intelligenza artificiale stiano dando ai robot politici la capacità di imparare dall'ambiente circostante e interagire con le persone in modo sofisticato.

Durante gli eventi in cui i ricercatori ora ritengono che i robot politici e la disinformazione abbiano svolto un ruolo chiave - il referendum sulla Brexit, il concorso Trump-Clinton nel 2016, la crisi della Crimea - è diffusa la convinzione che gli strumenti di intelligenza artificiale intelligente abbiano consentito ai computer di fingere di essere umani e di aiutare a manipolare la conversazione pubblica.

Esperti e giornalisti hanno alimentato questo: ci sono stati storie estremamente provocatorie sull'ascesa di una macchina di propaganda IA ​​armata e storie pretendendo che l'intelligenza artificiale ha conquistato la democrazia. Anche la mia stessa ricerca su come i social media vengono utilizzati per plasmare l'opinione pubblica, hackerare la verità e mettere a tacere la protesta - ciò che è noto come propaganda computazionale - è stata citata in articoli che suggeriscono che i nostri padroni dei robot sono già qui.

La realtà è, tuttavia, che meccanismi complessi come l'intelligenza artificiale hanno svolto un ruolo scarso nelle campagne di propaganda computazionale fino ad oggi. Tutte le prove che ho visto su Cambridge Analytica suggeriscono che l'azienda non ha mai lanciato gli strumenti di marketing psicografico che affermava di possedere durante le elezioni americane del 2016, sebbene affermasse di poter prendere di mira individui con messaggi specifici basati su profili di personalità derivati ​​dal suo controverso database di Facebook.

Quando ero all'Oxford Internet Institute, nel frattempo, abbiamo esaminato come e se i bot di Twitter sono stati utilizzati durante il dibattito sulla Brexit. Abbiamo scoperto che mentre molti sono stati utilizzati per diffondere messaggi sulla campagna di congedo, la stragrande maggioranza degli account automatizzati era molto semplice. Sono stati creati per alterare la conversazione online con i bot che erano stati creati semplicemente per aumentare i Mi piace e i follower, per diffondere link, alle tendenze di gioco o per trollare l'opposizione. È stato giocato da piccoli gruppi di utenti umani che hanno capito la magia dei meme e della viralità, del seminare cospirazioni online e vederli crescere. Le conversazioni sono state bloccate da spam e rumore di base generati da bot, allegati di proposito a particolari hashtag al fine di smobilitare le conversazioni online. I collegamenti ad articoli di notizie che mostravano un politico in una luce particolare sono stati pubblicizzati da account falsi o per procura creati per pubblicare e ripubblicare la stessa spazzatura ancora e ancora e ancora. Queste campagne sono state gestite in modo abbastanza schietto: questi bot non sono stati progettati per essere funzionalmente conversazionali. Non hanno sfruttato l'IA.

Non più stupido

Ci sono, tuttavia, segnali che la propaganda computazionale e la disinformazione abilitate dall'intelligenza artificiale stanno iniziando a essere utilizzate. Gli hacker e altri gruppi hanno già iniziato a testare l'efficacia di robot IA più pericolosi sui social media. Un pezzo del 2017 di Gizmodo ha riferito che due data scientist hanno insegnato a un'intelligenza artificiale a progettare la propria campagna di phishing: nei test, l'hacker artificiale era sostanzialmente migliore dei suoi concorrenti umani, componendo e distribuendo più tweet di phishing rispetto agli umani e con un tasso di conversione sostanzialmente migliore.

I contenuti problematici non vengono diffusi solo da bot politici abilitati all'apprendimento automatico. Né gli usi oi progetti problematici della tecnologia vengono generati solo dalle società di social media. I ricercatori hanno sottolineato che l'apprendimento automatico può essere contaminato da attacchi velenosi, attori dannosi che influenzano i dati di addestramento al fine di modificare i risultati di un determinato algoritmo, prima ancora che la macchina venga resa pubblica.

Kalev Leetaru, ricercatore presso la George Washington University, suggerisce che i primi attacchi guidati dai robot di intelligenza artificiale potrebbero non essere rivolti ai social media, ma coinvolgerebbero invece quello che è noto come un attacco denial-of-service distribuito, che comporta la chiusura di server Web mirati inondandoli di traffico.

Immagina per un momento di aver consegnato quella botnet al controllo di un sistema di deep learning e di aver dato a quell'algoritmo di intelligenza artificiale il controllo completo su ogni manopola e quadrante di quella botnet, scrive Leetaru .

Questi sforzi non sono orientati ad aiutare le testate giornalistiche a controllare i cumuli di contenuti. Piuttosto, aiutano un'azienda multimiliardaria a mantenere pulita la propria casa.

Gli fornisci anche feed in tempo reale delle informazioni sullo stato di Internet globale dai principali fornitori di sicurezza informatica e monitoraggio in tutto il mondo in modo che possa osservare secondo per secondo come la vittima e il resto di Internet in generale stanno rispondendo all'attacco. Forse tutto questo arriva dopo che l'algoritmo ha trascorso diverse settimane a monitorare l'obiettivo con dettagli squisiti per comprendere la totalità e le sfumature dei suoi modelli e comportamenti di traffico e scavare attraverso i suoi strati esterni di difesa.

Oltre la difesa

Nell'aprile 2018 Mark Zuckerberg è apparso davanti al Congresso: era sotto il microscopio politico per la cattiva gestione delle informazioni degli utenti durante le elezioni del 2016. Nella sua testimonianza in due parti ha menzionato l'intelligenza artificiale più di 30 volte, suggerendo che l'IA sarebbe stata la soluzione al problema della disinformazione digitale fornendo programmi che avrebbero combattuto l'enorme volume della propaganda computazionale. Ha predetto che nel prossimo decennio, l'IA sarebbe stata la salvatrice degli enormi problemi di scala che Facebook e altri devono affrontare quando devono affrontare la diffusione globale di contenuti spazzatura e manipolazioni.

Quindi c'è un modo in cui potremmo utilizzare l'IA o la tecnologia dei bot automatizzati per affrontare la manipolazione dell'opinione pubblica online? Possiamo usare l'IA per combattere l'IA?

L'Osservatorio sui social media dell'Università dell'Indiana ha costruito strumenti pubblici che sfruttano l'apprendimento automatico per rilevare i bot esaminando 1.200 funzionalità per determinare se è più probabile che si tratti di un essere umano o di un bot.

E Tessa Lyons, product manager di Facebook detto in un annuncio del 2018 che l'apprendimento automatico ci aiuta a identificare i duplicati di storie sfatate. Ad esempio, un fact-checker in Francia ha smentito l'affermazione secondo cui è possibile salvare una persona che ha un ictus usando un ago per pungerle il dito e prelevare sangue. Questo ci ha permesso di identificare oltre 20 domini e oltre 1.400 link che diffondono la stessa affermazione.

In questi casi, le aziende di social media possono sfruttare l'apprendimento automatico per raccogliere e persino verificare verifiche di fatti da tutto il mondo e utilizzare queste correzioni basate sull'evidenza per segnalare contenuti fasulli.

C'è un grande dibattito nella comunità accademica, tuttavia, sul fatto che l'identificazione passiva di informazioni potenzialmente false per gli utenti dei social media sia effettivamente efficace. Alcuni ricercatori suggeriscono che gli sforzi di verifica dei fatti sia online che offline non funzionano in modo molto efficace nella loro forma attuale. All'inizio del 2019, il sito web di verifica dei fatti Snopes, che aveva collaborato con Facebook in tali sforzi correttivi, ha interrotto la relazione . In un colloquio con il Poynter Institute, il vicepresidente delle operazioni di Snopes, Vinny Green, ha dichiarato: Non sembra che ci stiamo sforzando di rendere più pratico il controllo dei fatti di terze parti per gli editori, sembra che ci stiamo sforzando di rendere più facile per Facebook.

Organizzazioni come Facebook continuano a fare affidamento su piccole organizzazioni, di solito senza scopo di lucro, per controllare i contenuti. Articoli o video potenzialmente falsi vengono spesso trasmessi a questi gruppi senza informazioni di base su come o perché sono stati segnalati in primo luogo.

Questi sforzi non sono orientati ad aiutare le testate giornalistiche a controllare i cumuli di contenuti o i lead che ricevono ogni giorno per aiutare i giornalisti con risorse insufficienti a lavorare meglio. Piuttosto, aiutano un'azienda multimiliardaria a mantenere pulita la propria casa in modo post hoc. È tempo che Facebook si assuma la responsabilità interna del fact-checking, piuttosto che affidare il compito di verificare o sfatare le notizie ad altri gruppi. Anche Facebook e altre società di social media devono smettere di fare affidamento sui fact-check dopo il fatto, ovvero solo dopo che un articolo falso è diventato virale. Queste aziende devono generare una sorta di sistema di allerta precoce per la propaganda computazionale.

Facebook, Google e altri come loro impiegano persone per trovare e rimuovere contenuti che contengono violenza o informazioni da gruppi terroristici. Sono molto meno zelanti, tuttavia, nei loro sforzi per sbarazzarsi della disinformazione. La pletora di contesti diversi in cui le informazioni false fluiscono online, da un'elezione in India a un importante evento sportivo in Sud Africa, rende difficile per l'IA operare da sola, in assenza di conoscenza umana. Ma nei prossimi mesi e anni ci vorranno orde di persone in tutto il mondo per controllare efficacemente l'enorme quantità di contenuti nelle innumerevoli circostanze che si presenteranno.

Semplicemente non esiste una soluzione facile al problema della propaganda computazionale sui social media. È responsabilità delle aziende, tuttavia, trovare un modo per risolverlo. Finora Facebook sembra molto più concentrato sulle pubbliche relazioni che sulla regolamentazione del flusso di propaganda computazionale o di contenuti grafici. Secondo The Verge , l'azienda dedica più tempo a celebrare i suoi sforzi per sbarazzarsi di particolari elementi di vetriolo o violenza che per rivedere sistematicamente i suoi processi di moderazione.

Al di là del fact-checking

Sarà una combinazione di lavoro umano e intelligenza artificiale che alla fine riuscirà a combattere la propaganda computazionale, ma semplicemente non è chiaro come ciò accadrà. Il fact-checking potenziato dall'IA è solo una via da seguire. L'apprendimento automatico e l'apprendimento profondo, di concerto con i lavoratori umani, possono combattere la propaganda computazionale, la disinformazione e le molestie politiche in molti altri modi.

Jigsaw, l'incubatore tecnologico basato su Google in cui ho lavorato per un anno come ricercatore, ha progettato e realizzato uno strumento basato sull'intelligenza artificiale chiamato Perspective per combattere il trolling online e l'incitamento all'odio. Questo strumento (su cui non ho lavorato da solo) è un'API che consente agli sviluppatori di rilevare automaticamente il linguaggio tossico.

È controverso perché non solo corre il rischio di falsi positivi, segnalando post che in realtà non contengono trolling o abusi, ma modera anche il discorso. Secondo Cablata , lo strumento è stato addestrato utilizzando l'apprendimento automatico, ma qualsiasi strumento di questo tipo viene anche addestrato utilizzando gli input degli esseri umani, che hanno i propri pregiudizi. Quindi uno strumento creato per rilevare il linguaggio razzista o odioso potrebbe fallire a causa di una formazione imperfetta?

Nel 2016 Facebook ha lanciato Deeptext, uno strumento di intelligenza artificiale simile a Prospettiva di Google. La società dice ha aiutato a eliminare oltre 60.000 post odiosi a settimana. Facebook ha ammesso, tuttavia, che lo strumento si basava ancora su un ampio pool di moderatori umani per eliminare effettivamente i contenuti dannosi. Twitter, nel frattempo, si è finalmente mossa alla fine del 2017 per lavorare con più attenzione per vietare post altrettanto minacciosi o violenti. Ma mentre ha iniziato a frenare questo materiale problematico e sta anche eliminando orde di account di bot politici, Twitter non ha fornito indicazioni chiare su come rileva ed elimina gli account. I miei collaboratori di ricerca ed io continuiamo a trovare enormi botnet manipolatori su Twitter quasi ogni mese.

Oltre l'orizzonte

Non sorprende che un tecnologo come Zuckerberg proponga una soluzione tecnologica, ma l'IA non è perfetta da sola. L'attenzione miope dei leader tecnologici sulle soluzioni basate su computer riflette l'ingenuità e l'arroganza che hanno portato Facebook e altri a lasciare gli utenti vulnerabili in primo luogo.

Non ci sono ancora eserciti di bot intelligenti che lavorano per manipolare l'opinione pubblica durante le elezioni contestate. Ci sarà in futuro? Forse. Ma è importante notare che anche gli eserciti di robot politici intelligenti non funzioneranno da soli: avranno comunque bisogno della supervisione umana per manipolare e ingannare. Non siamo di fronte a una versione online di Terminator qui. I luminari dei campi dell'informatica e dell'intelligenza artificiale, tra cui il vincitore del Premio Turing Ed Feigenbaum e Geoff Hinton, il padrino del deep learning, hanno fortemente argomentato contro i timori che la singolarità, l'era inarrestabile delle macchine intelligenti, arriverà presto. In un sondaggio tra i borsisti dell'American Association of Artificial Intelligence, oltre il 90% ha affermato che la superintelligenza è oltre l'orizzonte prevedibile. La maggior parte di questi esperti ha anche convenuto che quando e se i computer super intelligenti arriveranno, non rappresenteranno una minaccia per l'umanità.

Ricercatori di Stanford che lavorano per monitorare lo stato dell'arte dell'IA suggerire che i nostri signori delle macchine, al momento, non riescono ancora a mostrare il buon senso o l'intelligenza generale anche di un bambino di 5 anni. Allora come faranno questi strumenti a sovvertire il governo umano o, diciamo, a risolvere problemi sociali estremamente umani come la polarizzazione politica e la mancanza di pensiero critico? Il giornale di Wall Street in parole povere nel 2017 : Senza gli esseri umani, l'intelligenza artificiale è ancora piuttosto stupida.

Anche Grady Booch, uno dei massimi esperti di sistemi di intelligenza artificiale, è scettico sull'ascesa di macchine canaglia super intelligenti, ma per un motivo diverso. In un discorso TED nel 2016 , ha affermato che preoccuparsi ora dell'ascesa di una superintelligenza è per molti versi una pericolosa distrazione perché l'ascesa dell'informatica stessa ci porta una serie di questioni umane e sociali a cui ora dobbiamo occuparci.

Ancora più importante, ha sottolineato Booch, gli attuali sistemi di intelligenza artificiale possono fare ogni sorta di cose straordinarie, dal conversare con gli umani nel linguaggio naturale al riconoscimento degli oggetti, ma queste cose sono decise dagli umani e codificate con i valori umani. Non sono programmati, ma viene loro insegnato come comportarsi.

In termini scientifici, questo è ciò che chiamiamo verità di base, dice Booch, ed ecco il punto importante: nel produrre queste macchine, stiamo quindi insegnando loro il senso dei nostri valori. A tal fine, mi fido di un'intelligenza artificiale uguale, se non di più, a un essere umano ben addestrato.

Prenderei l'idea di Booch ancora di più. Per affrontare il problema della propaganda computazionale dobbiamo concentrarci sulle persone dietro gli strumenti.

Sì, la tecnologia in continua evoluzione può automatizzare la diffusione della disinformazione e del trolling. Può consentire ai perpetratori di operare in modo anonimo e senza timore di essere scoperti. Ma questa suite di strumenti come modalità di comunicazione politica è in definitiva focalizzata sul raggiungimento dell'obiettivo umano del controllo. La propaganda è un'invenzione umana ed è vecchia quanto la società. Come mi ha detto una volta un esperto di robotica, non dovremmo temere le macchine intelligenti come gli esseri umani, tanto quanto gli umani che non sono intelligenti nel modo in cui costruiscono le macchine.

Tratto da The Reality Game: How the Next Wave of Technology Will Break the Truth, di Samuel Woolley. Copyright 2020. Disponibile da PublicAffairs, un marchio di Hachette Book Group, Inc.

nascondere