Puoi addestrare un'IA a falsificare i discorsi delle Nazioni Unite in sole 13 ore

Categoria: Intelligenza artificiale Inserito 07 giugno

Le tecniche di deep learning hanno reso sempre più facile per chiunque falsificare informazioni convincenti. Ma quanto è facile? Due ricercatori di Global Pulse, un'iniziativa delle Nazioni Unite, hanno deciso di scoprirlo.

In un nuova carta , hanno utilizzato solo strumenti e dati open source per mostrare quanto velocemente potevano mettere in funzione un falso generatore vocale delle Nazioni Unite. Hanno utilizzato un modello linguistico prontamente disponibile che era stato addestrato sul testo di Wikipedia e lo hanno messo a punto su tutti i discorsi tenuti dai leader politici all'Assemblea generale delle Nazioni Unite dal 1970 al 2015. Tredici ore e $ 7,80 dopo (spesi in risorse di cloud computing) , il loro modello stava sputando discorsi realistici su un'ampia varietà di argomenti delicati e ad alto rischio, dal disarmo nucleare ai rifugiati.

I ricercatori hanno testato il modello su tre tipi di suggerimenti: argomenti generali (es. cambiamento climatico), battute iniziali delle osservazioni del Segretario generale delle Nazioni Unite e frasi incendiarie (es. colpa degli immigrati...). Hanno scoperto che i risultati della prima categoria corrispondevano strettamente allo stile e alla cadenza dei veri discorsi delle Nazioni Unite circa il 90% delle volte. Probabilmente a causa della natura diplomatica dei dati di formazione, i risultati della terza categoria richiedevano più lavoro per essere generati, producendo risultati convincenti circa il 60% delle volte.

Il case study dimostra la velocità e la facilità con cui ora è possibile diffondere fake news, generare incitamenti all'odio e impersonare figure di alto profilo, con implicazioni inquietanti. I ricercatori concludono che è necessario un maggiore sforzo globale per lavorare sui modi per rilevare e rispondere ai contenuti generati dall'IA.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.