Il chatbot perfetto e impossibile di Facebook

Tim Liedtke

Alexa di Amazon può evocare un Uber e soddisfare la domanda di rumori di scoreggia di un bambino di quattro anni. Siri può controllare il tuo termostato connesso a Internet. Ciascuno serve milioni di utenti ogni giorno. Ma un fortunato gruppo di circa 10.000 persone, per lo più in California, sa che l'assistente di Facebook, di nome M, è il più intelligente del gruppo.

Consigliare e prenotare un hotel romantico in Marocco adatto anche ai bambini piccoli? Nessun problema. Ottieni preventivi da appaltatori locali per l'abbellimento del tuo cortile? Consideralo fatto. L'assistente sperimentale di Facebook, offerto all'interno dell'app Messenger dell'azienda, mostra il valore di avere un vero maggiordomo digitale in tasca. Invece di recuperare semplici informazioni dai database, M può comprendere ordini complessi e intraprendere azioni come prenotare biglietti per il teatro o contattare aziende per informazioni.

M è così intelligente perché imbroglia. Funziona come Siri in quanto quando tocchi un messaggio a M, gli algoritmi cercano di capire cosa vuoi. Quando non possono, però, M non ricorre alla ricerca sul Web o al dire che mi dispiace, non capisco la domanda. Invece, un essere umano invisibilmente prende il sopravvento, rispondendo alla tua richiesta come se gli algoritmi fossero ancora al timone. (Facebook ha rifiutato di dire quanti di quei lavoratori ha, o di rendere M disponibile per provare.)

Quel progetto è troppo costoso per essere ridimensionato a 1,2 miliardi di persone che usano Facebook Messenger, quindi Facebook ha offerto M a poche migliaia di utenti nel 2015 come una sorta di progetto di ricerca e sviluppo semi-pubblico. L'intrecciare lavoratori umani e algoritmi aveva lo scopo di rivelare come le persone avrebbero reagito a un assistente virtuale onnisciente e di fornire dati che avrebbero permesso agli algoritmi di imparare a farsi carico del lavoro dei loro addestratori umani.

Tutti in questo campo sognano di creare l'assistente che finalmente sarà molto, molto, molto intelligente, afferma Alex Lebrun, che ha avviato il progetto. M dovrebbe aprire un percorso per farlo davvero.

Ora, a due anni di distanza, il progetto di ricerca di Facebook può essere giustamente definito di successo. Utenti come M e la teoria secondo cui il software potrebbe imparare a subentrare in parte del lavoro degli addestratori umani è stata confermata. Eppure M è ancora lontano dal punto in cui potrebbe essere un vero prodotto offerto all'altro 99,9 percento degli utenti di Messenger, e il progresso è stato più difficile del previsto.

Sapevamo che era una sfida enorme, ma è anche più grande di quanto pensassi, dice Lebrun. Il tasso di apprendimento, la crescita dell'automazione: abbiamo visto che sarebbe stato più lento di quanto sperassimo. La storia di M è un promemoria di quanto lontano sia arrivata l'intelligenza artificiale negli ultimi anni e quanto lontano debba arrivare.

M sta per moonshot

La gente è sorprendentemente pronta a parlare con macchine stupide. Il primo chatbot è stato creato nel 1964 dal professore del MIT Joseph Weizenbaum. Ha tirato fuori battute fisse in risposta a parole chiave specifiche, con maggior successo quando si interpreta il ruolo di un terapeuta. Con fastidio di Weizenbaum, molte persone che l'hanno provato, inclusa la sua stessa segretaria, sono rimaste colpite nonostante sapesse che il robot, chiamato Eliza, non sapeva nulla. Non mi ero reso conto che esposizioni estremamente brevi a un programma per computer relativamente semplice potessero indurre potenti pensieri deliranti in persone abbastanza normali, scrisse in seguito.

Realizzare un chatbot che ti aiuti a portare a termine le cose, non solo fungendo da cassa di risonanza o confessore, è molto più difficile. Quando a un servitore virtuale viene chiesto di fare qualcosa, una risposta vaga o deviante non la taglierà. Il software di oggi non comprende la lingua e il mondo, quindi gli assistenti virtuali, come Siri o Alexa, devono essere programmati in modo esplicito per gestire qualsiasi compito.

Ecco perché i bot sul mercato hanno repertori ristretti. E probabilmente spiega perché i suggerimenti dell'anno scorso secondo cui i chatbot sono stati impostati per trasformare il modo in cui utilizziamo i computer tanto quanto facevano le app mobili, alimentati da Microsoft, Facebook e alcuni investitori tecnologici, non sembrano essere stati molto. I bot sono in questo momento nel baratro della disperazione, afferma Greg Cohn, CEO di Burner, una società di privacy mobile che ha iniziato ad aiutare gli host di Airbnb a creare un semplice bot per rispondere alle domande più comuni degli ospiti. Agli osservatori del settore sembra che siano sovrastimati e con consegne insufficienti.

Lebrun ha costruito M perché aveva trascorso più di un decennio a costruire chatbot convenzionali e stretti e sognava di offrire molto di più. È entrato a far parte di Facebook all'inizio del 2015, quando il social network ha acquisito Wit.ai, una società che ha cofondato per aiutare le aziende a creare chatbot per funzioni come l'assistenza clienti. Lebrun aveva precedentemente venduto una società di chatbot al gigante del riconoscimento vocale Nuance.

Ogni singolo bot sul mercato, incluso il mio, era basato su regole e sai che un giorno raggiungerai un tetto e non lo passerai mai, dice Lebrun. I nostri figli non lavorano con regole o script e un giorno diventano più intelligenti di te.

M è stato inizialmente offerto solo ai dipendenti di Facebook e poi ad alcuni pesanti utenti di Messenger in California. E non ci volle molto per dimostrare che gli algoritmi potevano davvero imparare a fare parte del lavoro svolto dagli umani che alimentano l'assistente.

Tim Liedtke

Il gruppo di ricerca sull'intelligenza artificiale di Facebook ha utilizzato M per testare un nuovo tipo di software di apprendimento chiamato rete di memoria, che aveva mostrato attitudine a rispondere a domande su storie semplici. Il software utilizza una sorta di memoria di lavoro per eliminare informazioni importanti per un uso successivo, un progetto che Google sta anche testando per migliorare le capacità di ragionamento del software.

Weizenbaum aveva suggerito nel 1964 che qualcosa del genere avrebbe potuto rendere Eliza più intelligente, e in poche settimane ha funzionato per M. Lebrun ricorda di essere rimasto sorpreso dopo aver ringraziato l'assistente per aver ordinato i biglietti per il cinema. Ha generato automaticamente la risposta Prego. Gustati il ​​film. M aveva imparato a ricordare e utilizzare il contesto del compito per cui stava aiutando. Siamo rimasti davvero sbalorditi, dice Lebrun. Nessuno ha scritto un programma per farlo.

Le reti di memoria hanno continuato a fare di più. Ora si attivano se qualcuno chiede a M di ricevere i fiori, ad esempio, utilizzando automaticamente le informazioni chiave della richiesta, come budget o indirizzo, per generare suggerimenti dai fioristi online. L'addestratore umano sceglie quindi quale offrire all'utente.

Altre scoperte sono state meno incoraggianti. Uno è l'enorme appetito che M sblocca nei suoi utenti. Con assistenti limitati e completamente automatizzati come Siri o Alexa, le persone tendono ad abituarsi all'utilizzo di alcune funzioni che ritengono funzionino in modo affidabile. Con M, non lo fanno.

Le persone cercano prima di chiedere il tempo domani; poi dicono 'C'è un ristorante italiano disponibile?' Poi fanno una domanda sull'immigrazione e dopo un po' chiedono a M di organizzare il loro matrimonio, dice Lebrun. Sapevamo che sarebbe stato pericoloso ed è più ampio delle nostre aspettative.

I formatori umani fanno del loro meglio quando ricevono domande difficili come Organizza un pappagallo per visitare il mio amico , ma a volte si rifiutano di aiutare del tutto. Anche se M dovesse rifiutare automaticamente le query degli utenti più complesse, tuttavia, l'enorme varietà delle loro richieste rende più difficile da raggiungere l'obiettivo di avere algoritmi che sostituiscano i formatori umani. Una tecnica chiamata deep learning ha recentemente reso l'apprendimento automatico più potente (le reti di memoria sono un esempio). Ma imparare a gestire un'ampia varietà di scenari complessi, con pochi dati su ciascuno perché non si verificano spesso, non è il tipo di problema in cui eccelle il deep learning. È molto più intelligente e può apprendere compiti molto complessi, ma ha bisogno di molti dati, afferma Lebrun.

Lungo raggio

I progressi più lenti del previsto hanno portato Facebook a reinventare il suo progetto. La scorsa settimana su Messenger è apparsa una funzionalità chiamata M Suggestions, simile in funzione ai tipi di robot limitati che M dovrebbe sostituire. Esamina le tue chat con gli amici alla ricerca di indizi che potresti voler fare cose come ordinare un passaggio con Uber o inviare denaro a qualcuno e offre un pulsante per raggiungere quegli obiettivi con un solo tocco.

Abbiamo deciso di trovare un caso d'uso in cui possiamo accelerare la fornitura di valore agli utenti, afferma Laurent Landowski, che è entrato a far parte di Facebook con Lebrun come cofondatore di Wit.ai e ora supervisiona M. (Lebrun è tornato nella sua nativa Francia a gennaio, unendosi alla ricerca sull'IA di Facebook laboratorio di Parigi.)

La M originale, dipendente dall'uomo, è ancora là fuori, offrendo un valore molto maggiore ai suoi pochi fortunati utenti. Facebook afferma di essere impegnato nel progetto e l'attuale momento dell'intelligenza artificiale è positivo per le scommesse a lungo termine. Negli ultimi due anni, il deep learning ha ribaltato le tecniche e le aspettative consolidate per il software che elabora il linguaggio, afferma Justine Cassell , professore alla Carnegie Mellon. Siamo nei giorni di gloria di questi nuovi algoritmi di apprendimento automatico, dice. In effetti, l'accuratezza della traduzione di Google è recentemente balzata a un livello quasi umano.

Ciò non significa che sia una conclusione scontata che il software può imparare a giocare a maggiordomo guardando gli umani farlo. Non credo che lo sappiamo ancora, dice Cassell. Ma i ricercatori di Facebook affermano di avere molte idee da esplorare.

Uno è far sì che il lato automatizzato di M impari dal feedback positivo o negativo nei messaggi inviati dagli utenti, utilizzando una tecnica ispirata al processo di addestramento degli animali con ricompense (vedi 10 Breakthrough Technologies 2017: Reinforcement Learning). M potrebbe avanzare più velocemente se non dipendesse esclusivamente dallo scimmiottare ciò che fanno i suoi appaltatori umani. Per stimolare idee nella più ampia comunità di ricerca, il team di Facebook ha rilasciato strumenti per aiutare gli altri a testare e confrontare robot assistenti senza script. E nuove tecniche promettenti possono ora essere testate anche su scala più ampia, in M ​​Suggestions.

Lebrun e Landowski pensano di essere ancora sulla buona strada per portare la vera M alle masse. A volte diciamo che sono tre o cinque anni, ma forse sono 10 o più, dice Landowski.

Lebrun aggiunge: È così difficile e facciamo progressi lentamente, ma penso che abbiamo tutto ciò di cui abbiamo bisogno. Potrebbe avere ragione, ma puoi anche immaginare qualcuno che ha incontrato Eliza nel 1964 dicendo più o meno la stessa cosa.

nascondere