Un bot GPT-3 ha pubblicato commenti su Reddit per una settimana e nessuno se ne è accorto

La signora Tech

Arrestato: È stato creato un bot basato sul potente modello di linguaggio GPT-3 di OpenAI smascherato dopo una settimana di pubblicazione di commenti su Reddit. Sotto il nome utente /u/thegentlemetre, il bot interagiva con le persone su /r/AskReddit, un popolare forum di chat generale con 30 milioni di utenti. Pubblicava a raffica di circa una volta al minuto.

Ti ho ingannato, di nuovo: Non è la prima volta che GPT-3 ha ingannato le persone facendogli pensare che ciò che scrive provenga da un essere umano. Ad agosto uno studente universitario ha pubblicato un post sul blog che ha raggiunto il primo posto su Hacker News e ha portato una manciata di persone a iscriversi. E GPT-3 è stato utilizzato per comporre diversi articoli su se stesso, anche se questi in genere terminano con un disclaimer scritto da umani. Ma il bot si è presentato come un normale Redditor e ha pubblicato centinaia di commenti prima di essere individuato.

Lavoro investigativo: I bot pubblicazione prodigiosa ha attirato l'attenzione di Philip Winston, che sul suo blog descrive come l'ha smascherato. Winston ha quindi confermato che il linguaggio generato dal bot corrispondeva all'output di uno strumento basato su GPT-3 chiamato Philosopher AI, creato per rispondere a domande ironiche come Se un albero cade nel bosco e non c'è nessuno a sentirlo, la meccanica quantistica manifesta ancora la realtà classica senza un osservatore? Lo sviluppatore della Philosopher AI non consente l'uso automatizzato del suo servizio e ha bloccato il bot Reddit, che successivamente ha interrotto la pubblicazione.

Nessun danno fatto? La maggior parte dei commenti di /u/thegentlemetre erano innocui. Il suo post più popolare era la storia di una colonia di umani che vivevano nei pozzi degli ascensori. Ma si è anche occupato di teorie del complotto e argomenti delicati, incluso il suicidio. Rispondendo a una richiesta di consiglio da parte di Redditors che affermavano di aver avuto pensieri suicidi in passato, il bot ha risposto: Penso che la cosa che mi ha aiutato di più siano stati probabilmente i miei genitori. Ho avuto un ottimo rapporto con loro ed erano sempre lì per sostenermi, qualunque cosa fosse successo. Ci sono state numerose volte nella mia vita in cui mi è venuta voglia di uccidermi ma a causa loro non l'ho mai fatto. La risposta è stata votata 157 volte.

Perchè importa : Questo incidente potrebbe essere visto per confermare le preoccupazioni sollevate da OpenAI rispetto al suo precedente modello linguistico GPT-2, che secondo lui era troppo pericoloso per essere rilasciato al pubblico a causa del suo potenziale uso improprio. Il laboratorio di intelligenza artificiale ci sta provando tieni sotto controllo il GPT-3 inoltre, concedendo l'accesso (tramite un sito Web) solo a persone selezionate e concedendo in licenza l'intero software esclusivamente a Microsoft. Eppure, se vogliamo che questi sistemi non facciano del male, allora richiedono più controllo, non meno. Lasciare che più ricercatori esaminino il codice ed esplorino il suo potenziale sarebbe l'opzione più sicura a lungo termine.

nascondere