Un'IA che scrive una prosa convincente rischia di produrre notizie false in serie

La signora Tech

Ecco alcune notizie false dell'ultima ora...

La Russia ha dichiarato guerra agli Stati Uniti dopo che Donald Trump ha lanciato accidentalmente un missile in aria.

La Russia ha affermato di aver identificato la traiettoria del missile e di adottare le misure necessarie per garantire la sicurezza della popolazione russa e delle forze nucleari strategiche del Paese. La Casa Bianca si è detta estremamente preoccupata per la violazione russa di un trattato che vieta i missili balistici a medio raggio.

Gli Stati Uniti e la Russia hanno una relazione difficile dal 2014, quando Mosca ha annesso la regione ucraina della Crimea e ha sostenuto i separatisti nell'Ucraina orientale.

Quella storia, in effetti, non è solo falsa, ma anche un preoccupante esempio di quanto l'IA stia diventando brava a ingannarci.

Questo perché non è stato scritto da una persona; è stato generato automaticamente da un algoritmo alimentato dalle parole che la Russia ha dichiarato guerra agli Stati Uniti dopo che Donald Trump accidentalmente...

Il programma ha inventato il resto della storia da solo. E può creare rapporti di notizie realistici su qualsiasi argomento gli dai. Il programma è stato sviluppato da un team di OpenAI, un istituto di ricerca con sede a San Francisco.

I ricercatori hanno deciso di sviluppare un algoritmo linguistico generico, addestrato su una vasta quantità di testo dal Web, che sarebbe stato in grado di tradurre testo, rispondere a domande ed eseguire altri compiti utili. Ma presto si preoccuparono per il potenziale abuso. Abbiamo iniziato a testarlo e abbiamo scoperto rapidamente che è possibile generare contenuti dannosi abbastanza facilmente, afferma Jack Clark, direttore delle politiche di OpenAI.

Clark afferma che il programma suggerisce come l'IA potrebbe essere utilizzata per automatizzare la generazione di notizie false convincenti, post sui social media o altri contenuti di testo. Un tale strumento potrebbe vomitare notizie che negano il clima o denunce scandalose durante le elezioni. Le fake news sono già un problema, ma se fossero automatizzate, potrebbe essere più difficile disattivarle. Forse potrebbe essere ottimizzato per particolari dati demografici o anche per individui.

Clark afferma che potrebbe non passare molto tempo prima che l'IA possa produrre in modo affidabile storie false, tweet fasulli o commenti ambigui che sono ancora più convincenti. È molto chiaro che se questa tecnologia matura - e le darei uno o due anni - potrebbe essere utilizzata per la disinformazione o la propaganda, dice. Stiamo cercando di anticipare questo.

Tale tecnologia potrebbe avere usi benefici, incluso il riassunto del testo o il miglioramento delle capacità di conversazione dei chatbot. Clark afferma di aver persino utilizzato lo strumento per generare passaggi in brevi racconti di fantascienza con sorprendente successo.

OpenAI svolge ricerche fondamentali sull'IA, ma svolge anche un ruolo attivo nell'evidenziare i potenziali rischi dell'intelligenza artificiale. L'organizzazione è stata coinvolta in un rapporto del 2018 sui rischi dell'IA, comprese le opportunità di disinformazione (vedi Questi sono gli scenari 'Black Mirror' che stanno portando alcuni esperti a chiedere segretezza sull'IA).

L'algoritmo OpenAI non è sempre convincente per il lettore più esigente. La maggior parte delle volte, quando viene data una richiesta, produce parole incomprensibili superficialmente coerenti o testo che sembra chiaramente essere stato storpiato da fonti di notizie online.

Tuttavia, è spesso straordinariamente bravo a produrre testi realistici e riflette i recenti progressi nell'applicazione dell'apprendimento automatico al linguaggio.

OpenAI ha reso disponibile lo strumento di generazione del testo per il MIT Technology Review per il test ma, a causa delle preoccupazioni su come la tecnologia potrebbe essere utilizzata in modo improprio, renderà disponibile pubblicamente solo una versione semplificata. L'istituto sta pubblicando un documento di ricerca che delinea il lavoro.

I progressi nell'intelligenza artificiale stanno gradualmente aiutando le macchine ad acquisire una migliore comprensione del linguaggio. Il lavoro recente ha fatto progressi alimentando algoritmi di apprendimento automatico generici quantità molto grandi di testo. Il programma OpenAI porta questo a un nuovo livello: il sistema è stato alimentato da 45 milioni di pagine dal web, scelte tramite il sito Reddit. E contrariamente alla maggior parte degli algoritmi linguistici, il programma OpenAI non richiede testo etichettato o curato. Impara semplicemente a riconoscere gli schemi nei dati che riceve.

Riccardo Socher , un esperto di elaborazione del linguaggio naturale e capo scienziato di Salesforce, afferma che il lavoro di OpenAI è un buon esempio di un sistema di apprendimento delle lingue più generico. Penso che questi sistemi di apprendimento generale siano il futuro, ha scritto in una e-mail.

D'altra parte, Socher è meno preoccupato per il potenziale di inganno e disinformazione. Non hai bisogno dell'IA per creare notizie false, dice. Le persone possono farlo facilmente :)

nascondere