L'IA può vincere la guerra contro le fake news?

Disegno Selman

Potrebbe essere stata la prima notizia falsa nella storia di Internet: nel 1984 qualcuno ha postato su Usenet che l'Unione Sovietica si stava unendo alla rete. Era un innocuo Scherzo del pesce d'aprile , ben lontano dalle odierne campagne armate di disinformazione e fabbricazioni senza scrupoli progettate per ottenere un rapido profitto. Nel 2017, i contenuti online fuorvianti e maliziosamente falsi sono così prolifici che noi umani abbiamo poche speranze di tirarci fuori dalla palude. Invece, sembra sempre più probabile che le macchine dovranno salvarci.

Un algoritmo pensato per far brillare una luce nell'oscurità lo è AdVerif.ai , che viene eseguito da una startup con lo stesso nome. Il software artificialmente intelligente è progettato per rilevare storie fasulle, nudità, malware e una miriade di altri tipi di contenuti problematici. AdVerif.ai, che ha lanciato una versione beta a novembre, attualmente funziona con piattaforme di contenuti e reti pubblicitarie negli Stati Uniti e in Europa che non vogliono essere associate a storie false o potenzialmente offensive.

Secondo Or Levi, il fondatore di AdVerif.ai, l'azienda ha visto un'opportunità nel concentrarsi su un prodotto per le aziende anziché su qualcosa per un utente medio. Mentre i singoli consumatori potrebbero non preoccuparsi della veridicità di ogni storia su cui stanno facendo clic, gli inserzionisti e le piattaforme di contenuti hanno qualcosa da perdere ospitando o pubblicizzando contenuti dannosi. E se apportano modifiche ai loro servizi, possono essere efficaci nel tagliare i flussi di entrate per le persone che guadagnano creando notizie false. Sarebbe un grande passo avanti nella lotta contro questo tipo di contenuti, dice Levi.

AdVerif.ai scansiona il contenuto per individuare i segni rivelatori che qualcosa non va, come i titoli che non corrispondono al corpo, ad esempio, o troppe lettere maiuscole in un titolo. Inoltre, esegue un controllo incrociato di ogni storia con il suo database di migliaia di storie legittime e false, che viene aggiornato settimanalmente. I clienti vedono un rapporto per ogni pezzo preso in considerazione dal sistema, con punteggi che valutano la probabilità che qualcosa sia una notizia falsa, contenga malware o contenga qualsiasi altra cosa che hanno chiesto al sistema di cercare, come la nudità. Alla fine, Levi dice che intende aggiungere la possibilità di individuare immagini manipolate e avere un plug-in per il browser.

Testando una versione demo di AdVerif.ai, l'IA ha riconosciuto il Cipolla come satira (che ha ha ingannato molte persone nel passato). Le storie di Breitbart sono state classificate come inaffidabili, giuste, politiche, di parte, mentre Cosmopolita era considerata sinistra. Potrebbe dire quando un account Twitter stava utilizzando un logo ma i collegamenti non erano associati al marchio che stava ritraendo. AdVerif.ai non solo ha scoperto che una storia su Natural News con il titolo Evidence indica che Bitcoin è uno psyop progettato dalla NSA per lanciare una valuta digitale mondiale proveniva da un sito nella lista nera, ma l'ha identificato come una notizia falsa che spuntava su altri siti nella lista nera senza alcun riferimento in testate giornalistiche legittime.

Alcune storie dubbie continuano a passare. Su un sito chiamato Action News 3, un post intitolato a un giocatore della NFL fotografato mentre brucia una bandiera americana negli spogliatoi! non è stato catturato, anche se lo è stato si è rivelata una fabbricazione . Per aiutare il sistema a imparare mentre procede, la sua lista nera di storie false può essere aggiornata manualmente una storia per volta.

AdVerif.ai non è l'unica startup che vede un'opportunità nel fornire un siero della verità basato sull'intelligenza artificiale per le aziende online. Aziende di sicurezza informatica in particolare si sono affrettati ad aggiungere al loro repertorio operazioni di rilevamento di bot e fake news, sottolineando quanto molti dei metodi sembrino simili all'hacking. Facebook è modificando i suoi algoritmi per sminuire le notizie false nei suoi feed di notizie e Google ha collaborato con un sito di verifica dei fatti — finora con risultati irregolari . La Fake News Challenge, una competizione gestita da volontari della comunità AI, lanciata alla fine dello scorso anno con l'obiettivo di incoraggiare lo sviluppo di strumenti che potrebbero aiutare a combattere le segnalazioni in malafede.

Storia correlata

Storia correlata Grazie all'apprendimento automatico, sta diventando facile generare video realistici e impersonare qualcuno.

Delip Rao, uno dei suoi organizzatori e fondatore di Joostware, un'azienda che crea sistemi di apprendimento automatico, ha affermato che individuare notizie false ha così tante sfaccettature che la sfida si svolgerà in più passaggi. Il primo passo è il rilevamento della posizione, ovvero prendere una storia e capire cosa hanno da dire altri siti di notizie sull'argomento. Ciò consentirebbe ai verificatori di fatti umani di fare affidamento sulle storie per convalidare altre storie e di dedicare meno tempo a controllare i singoli pezzi.

La Fake News Challenge ha rilasciato set di dati che i team possono utilizzare, con 50 team che hanno inviato voci. Talos Intelligence, una divisione di sicurezza informatica di Cisco, ha vinto la sfida con un algoritmo che è stato corretto per oltre l'80%, non del tutto pronto per la prima serata, ma comunque un risultato incoraggiante. La prossima sfida potrebbe affrontare le immagini con testo sovrapposto (pensa ai meme, ma con notizie false), un formato che viene spesso promosso sui social media, poiché il suo formato è più difficile da scomporre e capire per gli algoritmi.

In pratica, vogliamo creare gli strumenti migliori per i verificatori di fatti in modo che possano funzionare molto rapidamente, ha affermato Rao. Come i fact checker con gli steroidi.

Anche se viene sviluppato un sistema efficace nel respingere la marea di contenuti falsi, tuttavia, è improbabile che la storia finisca. I sistemi di intelligenza artificiale sono già in grado di creare testi falsi, nonché immagini e video incredibilmente convincenti. (vedi Vero o falso? L'intelligenza artificiale lo rende molto difficile da sapere). Forse per questo, un recente Studio Gartner prevedeva che entro il 2022 la maggior parte delle persone nelle economie avanzate vedrà più informazioni false che vere. Lo stesso rapporto ha rilevato che anche prima che ciò accada, i contenuti falsi supereranno la capacità dell'IA di rilevarli, cambiando il modo in cui ci fidiamo delle informazioni digitali.

Ciò che AdVerif.ai e altri rappresentano, quindi, sembra meno l'ultima parola nella guerra ai contenuti falsi rispetto al round di apertura di una corsa agli armamenti, in cui i creatori di contenuti falsi ottengono la propria IA che può superare le buone IA (vedi AI Could Ci riporta indietro di 100 anni quando si tratta di come consumiamo le notizie). Come società, potremmo ancora dover rivalutare il modo in cui otteniamo le nostre informazioni.

nascondere