Il blog falso generato dall'intelligenza artificiale di un ragazzo del college ha ingannato decine di migliaia di persone. Ecco come l'ha fatto.

Signora Tech | Getty

All'inizio della settimana, Liam Porr aveva sentito parlare solo di GPT-3. Alla fine, lo studente universitario aveva utilizzato il modello di intelligenza artificiale per produrre un blog completamente falso sotto falso nome.

Era inteso come un esperimento divertente. Ma poi uno dei suoi post ha raggiunto il primo posto su Hacker News. Poche persone hanno notato che il suo blog era completamente generato dall'intelligenza artificiale. Alcuni hanno persino colpito Iscriviti.

Mentre molti hanno speculato su come GPT-3, il più potente strumento di generazione del linguaggio fino ad oggi, potrebbe influenzare la produzione di contenuti, questo è uno degli unici casi noti per illustrarne il potenziale. Ciò che si è distinto di più dell'esperienza, dice Porr, che studia informatica all'Università della California, a Berkeley: è stato semplicissimo, in realtà, ed è stata la parte spaventosa.

GPT-3 è di OpenAI IA linguistica più recente e più grande modello, che il laboratorio di ricerca con sede a San Francisco ha iniziato a gocciolare a metà luglio. Nel febbraio dello scorso anno, OpenAI ha fatto notizia con GPT-2, una versione precedente dell'algoritmo, che ha annunciato che avrebbe trattenere per paura che venga abusato. La decisione ha immediatamente suscitato una reazione negativa, poiché i ricercatori hanno accusato il laboratorio di fare un'acrobazia. A novembre, il laboratorio aveva invertito la posizione e rilasciato il modello , affermando di non aver rilevato prove evidenti di uso improprio finora.

Il laboratorio ha adottato un approccio diverso con GPT-3; non l'ha trattenuto né concesso l'accesso del pubblico. Invece, ha fornito l'algoritmo per selezionare i ricercatori che hanno presentato domanda per una beta privata, con l'obiettivo di raccogliere il loro feedback e commercializzare la tecnologia entro la fine dell'anno.

Porr ha presentato una domanda. Ha compilato un modulo con un semplice questionario sulla sua destinazione d'uso. Ma anche lui non ha aspettato. Dopo aver contattato diversi membri della comunità di Berkeley AI, ha rapidamente trovato uno studente di dottorato che aveva già accesso. Una volta che lo studente laureato ha accettato di collaborare, Porr ha scritto una piccola sceneggiatura da fargli eseguire. Ha fornito a GPT-3 il titolo e l'introduzione per un post sul blog e ha sputato diverse versioni completate. Il primo post di Porr (quello che è stato tracciato su Hacker News), e tutti i post successivi, sono stati copiati e incollati da uno degli output con poche o nessuna modifica.

Dal momento in cui ho pensato all'idea e sono entrato in contatto con lo studente di dottorato fino a quando ho creato il blog e il primo blog che è diventato virale, ci sono volute forse un paio d'ore, dice.

Il falso post sul blog di Porr, scritto con il nome falso 'adolos', raggiunge il primo posto su Hacker News. Porr afferma di aver utilizzato tre account separati per inviare e votare i suoi post su Hacker News nel tentativo di spingerli più in alto. L'amministratore ha detto che questa strategia non funziona, ma i suoi titoli di click-baity sì.

SCREENSHOT / LIAM PORR

Il trucco per generare contenuti senza la necessità di molte modifiche era comprendere i punti di forza e di debolezza di GPT-3. È abbastanza bravo a creare un bel linguaggio e non è molto bravo a essere logico e razionale, dice Porr. Quindi ha scelto una categoria di blog popolare che non richiede una logica rigorosa: produttività e auto-aiuto.

Da lì, ha scritto i suoi titoli seguendo una semplice formula: scorreva su Medium e Hacker News per vedere cosa si comportava in quelle categorie e metteva insieme qualcosa di relativamente simile. Ti senti improduttivo? Forse dovresti smettere di pensare troppo, scrisse per primo. L'audacia e la creatività prevalgono sull'intelligenza, ha scritto per un altro. In alcune occasioni, i titoli non hanno funzionato. Ma finché è rimasto sugli argomenti giusti, il processo è stato facile.

Dopo due settimane di post quasi quotidiani, ha ritirato il progetto con un messaggio finale, criptico, auto-scritto . Intitolato Cosa farei con GPT-3 se non avessi etica, descriveva il suo processo come ipotetico. Lo stesso giorno, ha anche pubblicato un altro confessione schietta sul suo vero blog.

Le poche persone che sono diventate sospettose del falso blog di Porr sono state sottoposte a downgrade da altri membri della comunità.

SCREENSHOT / LIAM PORR

Porr dice che voleva dimostrare che GPT-3 poteva essere spacciato per uno scrittore umano. In effetti, nonostante lo schema di scrittura alquanto strano e gli errori occasionali dell'algoritmo, solo tre o quattro delle dozzine di persone che hanno commentato il suo primo post su Hacker News hanno sollevato sospetti che potesse essere stato generato da un algoritmo. Tutti quei commenti sono stati immediatamente ridimensionati da altri membri della comunità.

Per gli esperti, questa è stata a lungo la preoccupazione sollevata da tali algoritmi di generazione del linguaggio. Da quando OpenAI ha annunciato per la prima volta GPT-2, le persone hanno ipotizzato che fosse vulnerabile agli abusi. Nel proprio post sul blog, il laboratorio si è concentrato sul potenziale dello strumento di intelligenza artificiale di essere utilizzato come arma produttore di massa di disinformazione . Altri si sono chiesti se potesse essere usato per sfornare messaggi di spam pieno di parole chiave rilevanti per il gioco di Google.

Porr afferma che il suo esperimento mostra anche un'alternativa più banale ma ancora preoccupante: le persone potrebbero utilizzare lo strumento per generare molti contenuti clickbait. È possibile che ci sarà solo un'ondata di contenuti mediocri del blog perché ora la barriera all'ingresso è così facile, dice. Penso che il valore dei contenuti online si ridurrà molto.

Porr prevede di fare più esperimenti con GPT-3. Ma sta ancora aspettando di ottenere l'accesso da OpenAI. È possibile che siano sconvolti dal fatto che l'abbia fatto, dice. Voglio dire, è un po' sciocco.

Aggiornare: Ulteriori dettagli sono stati aggiunti al testo e alle didascalie delle foto per spiegare come Liam Porr ha creato il suo blog e lo ha portato in cima a Hacker News.

nascondere