Le future elezioni potrebbero essere influenzate da chatbot intelligenti e armati

Magoz

La battaglia contro i robot di propaganda è una corsa alle armi per la nostra democrazia. È uno che potremmo perdere. I bot, semplici script per computer, sono stati originariamente progettati per automatizzare attività ripetitive come l'organizzazione di contenuti o la manutenzione della rete, risparmiando così agli umani ore di noia. Le aziende e i media utilizzano anche i bot per gestire account di social media, per avvisare istantaneamente gli utenti delle ultime notizie o promuovere materiale appena pubblicato.

Ma possono anche essere utilizzati per gestire un gran numero di account falsi, il che li rende ideali per manipolare le persone. La nostra ricerca al Computational Propaganda Project studia la miriade di modi in cui i robot politici che utilizzano i big data e l'automazione sono stati utilizzati per diffondere disinformazione e distorcere il discorso online.

Questa storia faceva parte del nostro numero di settembre 2018

• Vedi il resto del problema
• sottoscrivi

I bot si sono rivelati uno dei modi migliori per trasmettere punti di vista estremisti sui social media, ma anche per amplificare tali opinioni da altri account autentici apprezzando, condividendo, ritwittando, ascoltando e seguendo, proprio come farebbe un essere umano. In questo modo stanno giocando con gli algoritmi e premiando i post con cui hanno interagito dando loro maggiore visibilità.

Questo sembrerà docile rispetto a ciò che sta arrivando.

La forza nei numeri

Sulla scia dell'interferenza della Russia nelle elezioni americane del 2016 è nata un'ondata di discussione su come proteggere la politica dalla propaganda. Twitter ha eliminato decine di milioni di account sospetti, compresi i bot, quest'anno, mentre le autorità di regolamentazione hanno proposto divieti di bot e misure di trasparenza e hanno chiesto una migliore cooperazione con le piattaforme Internet.

Quindi potrebbe sembrare che stiamo prendendo il sopravvento. E questo è in parte vero: le tattiche dei robot hanno perso la loro novità e non hanno mai avuto finezza. La loro forza risiedeva nei numeri. I propagandisti mobiliterebbero eserciti di loro per inondare Internet di post e risposte nel tentativo di sopraffare il vero discorso democratico. Poiché abbiamo creato contromisure tecniche che sono più efficaci nel rilevare comportamenti simili a bot, è diventato più facile spegnerli. Anche le persone sono diventate più vigili ed efficaci nell'individerle. Il bot medio fa poco per nascondere il suo carattere robotico e una rapida occhiata ai suoi schemi di tweet, o anche alla sua immagine del profilo, può rivelarlo.

Tuttavia, la prossima generazione di bot si sta evolvendo rapidamente. A causa in gran parte dei progressi nell'elaborazione del linguaggio naturale, la stessa tecnologia che rende possibili interfacce a comando vocale come Alexa di Amazon, Google Assistant e Cortana di Microsoft, questi robot si comporteranno molto più come persone reali.

Certo, queste interfacce di conversazione sono ancora irregolari, ma stanno migliorando e i vantaggi di essere in grado di decodificare con successo il linguaggio umano sono enormi. Gli assistenti digitali ne sono solo un uso: i marchi gestiscono chatbot conversazionali per il servizio clienti e editori come la CNN li utilizzano per distribuire contenuti multimediali personalizzati.

Tali chatbot dichiarano apertamente di essere automatizzati, ma i robot di propaganda no. Si presenteranno come utenti umani che partecipano a conversazioni online in sezioni di commenti, chat di gruppo e bacheche.

Contrariamente alla credenza popolare, questo non sta ancora accadendo. La maggior parte dei bot reagisce semplicemente alle parole chiave che attivano una risposta standard, che raramente si adatta al contesto o alla sintassi di una determinata conversazione. Queste risposte sono spesso facili da individuare.

Ma sta diventando più difficile. Alcuni semplici script di bot preprogrammati hanno già avuto successo nell'ingannare gli utenti. Man mano che i bot imparano a comprendere il contesto e l'intento, diventano più abili a impegnarsi in conversazioni senza far saltare la loro copertura.

In pochi anni, i bot conversazionali potrebbero cercare utenti suscettibili e avvicinarsi a loro tramite canali di chat privati. Navigheranno in modo eloquente nelle conversazioni e analizzeranno i dati di un utente per fornire propaganda personalizzata. I bot indirizzeranno le persone verso punti di vista estremisti e contrattaccheranno in modo colloquiale.

Invece di trasmettere propaganda a tutti, questi bot dirigeranno la loro attività su persone influenti o dissidenti politici. Attaccheranno le persone con incitamento all'odio programmato, le sommergeranno con lo spam o chiuderanno i loro account segnalando il loro contenuto come offensivo.

Ottimo per Google, ottimo per i robot

Vale la pena dare un'occhiata a come le tecniche di intelligenza artificiale che alimentano questo tipo di robot stanno migliorando, perché i metodi utilizzati dalle aziende tecnologiche sono anche ottimi per aumentare le capacità dei robot politici.

Per funzionare, l'elaborazione del linguaggio naturale richiede notevoli quantità di dati. Le aziende tecnologiche come Google e Amazon ottengono tali dati aprendo al pubblico i loro algoritmi di elaborazione del linguaggio tramite interfacce di programmazione delle applicazioni o API. Terze parti, come ad esempio una banca, che desiderano automatizzare le conversazioni con i propri clienti possono inviare dati grezzi, come gli script audio o di testo delle telefonate, a queste API. Gli algoritmi elaborano la lingua e restituiscono dati leggibili dalla macchina pronti per attivare i comandi. In cambio, le aziende tecnologiche che forniscono queste API ottengono l'accesso a grandi quantità di esempi di conversazione, che possono utilizzare per migliorare il loro apprendimento automatico e algoritmi.

Inoltre, quasi tutte le principali società tecnologiche mettono a disposizione degli sviluppatori algoritmi open source per l'elaborazione del linguaggio naturale. Gli sviluppatori possono utilizzarli per creare nuove applicazioni proprietarie, ad esempio software per un robot a comando vocale. Man mano che gli sviluppatori avanzano e perfezionano gli algoritmi originali, le aziende tecnologiche traggono vantaggio dal loro feedback.

Il problema è che tali servizi sono ampiamente accessibili a quasi tutti, comprese le persone che costruiscono robot politici. Fornendo un toolkit per automatizzare la conversazione, le aziende tecnologiche stanno inconsapevolmente insegnando a parlare di propaganda.

Il peggio deve ancora venire

I bot esperti nel linguaggio umano rimangono per ora valori anomali. Richiede ancora una notevole esperienza, potenza di calcolo e dati di addestramento per dotare i bot di algoritmi di elaborazione del linguaggio all'avanguardia. Ma non è fuori portata. Dal 2010 i partiti politici e i governi hanno speso più di mezzo miliardo di dollari nella manipolazione dei social media, trasformandoli in un settore altamente professionalizzato e ben finanziato.

C'è ancora molta strada da fare prima che un bot sia in grado di falsificare un essere umano in una conversazione uno contro uno. Tuttavia, man mano che gli algoritmi si evolvono, queste capacità emergeranno.

Come con qualsiasi altra innovazione, una volta che queste tecniche di intelligenza artificiale sono fuori dagli schemi, si libereranno inevitabilmente dal set limitato di applicazioni per le quali erano state originariamente progettate.

Lisa-Maria Neudert è una dottoranda presso l'Oxford Internet Institute e una ricercatrice con il Computational Propaganda Project.

nascondere