211service.com
Come risolvere il chatbot offensivo di Microsoft utilizzando i suggerimenti di Marvin Minsky e Improv Comedy
Il chatbot di Microsoft Tay è stato bloccato rapidamente la scorsa settimana dopo aver iniziato a twittare dichiarazioni offensive che promulgavano omofobia, razzismo e antisemitismo mentre attaccava anche individui specifici.
Eppure tre termini alquanto inappropriati stanno ancora circolando in relazione a Tay: AI, apprendimento e più intelligente.
Possiamo discutere tutto il giorno sulla natura dell'IA e su quanto siano vicini o lontani i vari sistemi al ragionamento umano, ma è una conversazione che non è rilevante qui. Il sistema è stato progettato per incorporare il testo delle interazioni con gli utenti sia nelle risposte personali che nei tweet. È difficile applicare l'apprendimento delle parole a quel processo statisticamente guidato di registrazione, affettatura e rimontaggio di stringhe di parole, per non parlare di chiamare l'intero sistema AI.
Le ovvie correzioni a Tay sono già state suggerite. Gli sviluppatori potrebbero fornire al sistema un elenco di termini da evitare, impedirgli di apprendere da un singolo utente, impedirgli di fare dichiarazioni pubbliche basate su materiale appena appreso o persino far moderare ciò che dice a un essere umano.
Tuttavia, nessuna di queste soluzioni ingegneristiche avrebbe effettivamente affrontato la radice del problema del bot: Tay semplicemente non aveva idea di cosa stesse dicendo. Le correzioni sono tutte volte ad aiutare un sistema che non è così brillante a superare una conversazione senza sembrare decisamente malvagio. Sono progettati per far sembrare Tay più intelligente senza in realtà renderlo più intelligente.
Quindi cosa significherebbe fare Tay sembrare più intelligente di effettivamente rendendolo più intelligente ?
Un approccio può essere visto in Siri e nelle sue sorelle (di solito sono etichettate come donne) come Cortana. Questi sistemi riconoscono le parole chiave associate a compiti piuttosto ristretti e producono risposte programmatiche. Hanno un notevole potere di agire e generare risposte accurate all'interno delle aree che comprendono. Ma il team Microsoft dietro Tay stava chiaramente cercando di creare qualcosa di più ampiamente colloquiale.
All'altra estremità dello spettro c'è l'approccio completo dell'IA, in cui il sistema non vede mai la luce fino a quando non ha accesso a tutte le conoscenze necessarie per comprendere appieno tutto ciò che gli viene detto, tutto ciò che queste espressioni implicano e il tutte le implicazioni delle proprie affermazioni a loro volta.
Un software che soddisfi questi criteri richiederebbe una rappresentazione ricca e completa del mondo, un'enorme libreria di regole di inferenza che vengono eseguite ogni volta che viene visualizzato un fatto nuovo e la capacità di generare un linguaggio basato su ogni idea e combinazione di idee che incontra o capisce autonomamente. Questo è un rischioso progetto di ricerca di 20 anni piuttosto che una road map del prodotto.
C'è, tuttavia, una via di mezzo tra il semplice affettare e tagliare a dadini le frasi e il tentativo di creare qualcosa che possa comprendere tutta la creazione. Implica fornire al sistema solo un minimo di conoscenza, sufficiente per riconoscere quando un utente sta cercando di giocare con il sistema. Non devi sapere tutto. Devi solo sapere quando qualcuno ti sta prendendo in giro.
Dato che quello di Microsoft note di rilascio per Tay ha detto che il team includeva comici improvvisati, sono sorpreso che questo non sia stato il percorso intrapreso.
Personalmente ho ricevuto abbastanza suggerimenti dal pubblico per sapere che ad ogni addio al nubilato, una giovane donna ubriaca nella parte posteriore urlerà suggerimenti osceni di cui si pentirà per i prossimi due anni. Quando ciò accade, hai due scelte: o rispettare il suggerimento e inserirlo in una scena senza renderlo dirompente, o dire educatamente La prima cosa che ho sentito dal fronte è stata 'cassetta postale' e andare avanti. L'importante è essere in grado di sapere quando sta accadendo e avere un piano d'azione per affrontarlo.
Niente neutralizza un bullo oltre ad essere chiamato fuori. La mia ipotesi è che se Tay avesse sottolineato che sapeva che veniva giocato in interazioni uno contro uno e fornito l'attribuzione di fatti appena appresi quando li usava nei tweet pubblici, l'effetto di vergogna sarebbe stato sufficiente per fermare anche gli attacchi più cattivi .
I grandi conversatori non sanno tutto. Conoscono la conversazione. E un sistema che non sa nulla del mondo ma sa interagire e non offendere sarebbe geniale. Ma per reagire al gioco, devi riconoscere quando viene giocato.
Il compianto Marvin Minsky ha dichiarato: 'Un po' di semantica fa molto. Sistemi come Tay non devono sapere tutto del mondo, ma hanno bisogno di sapere cosa stanno facendo e cosa gli utenti faranno loro. Il pezzo cruciale che mancava a Tay era la capacità di sapere quando veniva giocato e la capacità di rispondere allo stesso modo.
Spero che Tay torni presto online. Ancora di più, spero che faccia un Reddit AMA in cui spieghi la fonte di ognuno dei suoi tweet e le lezioni che ha imparato dall'essere vittima di bullismo nel cortile della scuola che è Internet.
Kristian Hammond è professore di informatica alla Northwestern University e capo scienziato e cofondatore di Scienza narrativa , che offre software che genera automaticamente rapporti scritti dai dati . Per ragioni che nessuno capisce bene, ha trascorso circa 20 anni sul palco a improvvisare con persone molto più talentuose di lui.