Un nuovo strumento utilizza l'IA per individuare il testo scritto dall'IA

Categoria: Intelligenza artificiale Inserito 26 luglio

Gli algoritmi di intelligenza artificiale possono generare testo abbastanza convincente da ingannare l'essere umano medio, fornendo potenzialmente un modo per produrre in serie notizie false, recensioni fasulle e account social falsi. Per fortuna, ora l'IA può essere utilizzata anche per identificare il testo falso.

Le notizie: Ricercatori da Università di Harvard e il MIT-IBM Watson AI Lab avere sviluppato un nuovo strumento per individuare il testo che è stato generato utilizzando l'IA. Chiamata Giant Language Model Test Room (GLTR), sfrutta il fatto che i generatori di testo AI si basano su modelli statistici nel testo, in contrapposizione al significato effettivo di parole e frasi. In altre parole, lo strumento può dire se le parole che stai leggendo sembrano troppo prevedibili per essere state scritte da una mano umana.

Il contesto: La disinformazione viene sempre più automatizzata e la tecnologia necessaria per generare testo e immagini falsi sta avanzando rapidamente. Strumenti basati sull'intelligenza artificiale come questo possono diventare armi preziose nella lotta per catturare notizie false, deepfake e bot di Twitter.

Fingere: I ricercatori di OpenAI hanno recentemente dimostrato un algoritmo capace di inventare passaggi sorprendentemente realistici . Hanno inserito enormi quantità di testo in un grande modello di apprendimento automatico, che ha imparato a raccogliere schemi statistici in quelle parole. Il team di Harvard ha sviluppato il proprio strumento utilizzando una versione del codice OpenAI che è stata rilasciata pubblicamente.

Quanto prevedibile: GLTR evidenzia le parole che statisticamente possono apparire dopo la parola precedente nel testo. Come mostrato nel passaggio sopra (da infinito è) , le parole più prevedibili sono verdi; meno prevedibili sono i gialli ei rossi; e meno prevedibili sono viola. Quando testato su frammenti di testo scritti dall'algoritmo di OpenAI, trova molta prevedibilità. Articoli di notizie autentici e abstract scientifici contengono più sorprese.

Mente e macchina: I ricercatori dietro GLTR hanno effettuato anche un altro esperimento. Hanno chiesto agli studenti di Harvard di identificare il testo generato dall'IA, prima senza lo strumento e poi con l'aiuto della sua evidenziazione. Gli studenti sono stati in grado di individuare da soli solo la metà di tutti i falsi, ma il 72% quando hanno ricevuto lo strumento. Il nostro obiettivo è creare sistemi di collaborazione umana e di intelligenza artificiale, afferma Sebastian Gehrmann, uno studente di dottorato coinvolto nel lavoro.

Se sei interessato, puoi provalo tu stesso .