Facebook utilizza i bot per simulare ciò che i suoi utenti potrebbero fare

Categoria: Intelligenza artificiale Inserito 15 aprile

Facebook ha sviluppato un nuovo metodo per riprodurre le conseguenze del suo codice.

Il contesto: Come ogni azienda di software, il gigante della tecnologia ha bisogno di testare il suo prodotto ogni volta che invia aggiornamenti. Ma i tipi di metodi di debug utilizzati dalle aziende di dimensioni normali non sono davvero sufficienti quando hai 2,5 miliardi di utenti. Tali metodi di solito si concentrano sul controllo di come un singolo utente potrebbe sperimentare la piattaforma e se il software risponde alle azioni di quei singoli utenti come previsto. Al contrario, fino al 25% dei principali problemi di Facebook emergono solo quando gli utenti iniziano a interagire tra loro. Può essere difficile vedere come l'introduzione di una funzionalità o gli aggiornamenti a un'impostazione della privacy potrebbero essere eseguiti su miliardi di interazioni dell'utente.

SimCity: In risposta, Facebook ha costruito una versione ridotta della sua piattaforma per simulare il comportamento dell'utente. Chiamato WW, aiuta gli ingegneri a identificare e correggere le conseguenze indesiderate dei nuovi aggiornamenti prima che vengano implementati. Raccomanda inoltre automaticamente le modifiche che possono essere apportate alla piattaforma per migliorare l'esperienza della community.

Doppelganger bot: Facebook simula da centinaia a migliaia di utenti alla volta con un mix di bot hard-coded e basati sull'apprendimento automatico. Questi ultimi vengono addestrati utilizzando un algoritmo di apprendimento per rinforzo, che impara attraverso tentativi ed errori per ottimizzare il proprio comportamento alla luce di alcuni obiettivi. I bot vengono quindi creati per riprodurre diversi scenari, come un truffatore che cerca di sfruttare altri utenti o un hacker che tenta di accedere alle foto private di qualcuno. In uno scenario di truffa, ad esempio, ai bot truffatori viene assegnato l'obiettivo di trovare i migliori obiettivi da truffare. I bot target, al contrario, sono codificati con i comportamenti vulnerabili più comuni mostrati dagli utenti. Ogni scenario può avere solo pochi bot che li mettono in atto, ma il sistema è progettato per avere migliaia di scenari diversi in esecuzione in parallelo.

Design automatico: Mentre gli scenari si svolgono, il sistema regola automaticamente diversi parametri nella simulazione, come le impostazioni sulla privacy dei bot o i vincoli alle loro azioni. Ad ogni regolazione, valuta quale combinazione di parametri raggiunge il comportamento della community più desiderato, quindi consiglia la versione migliore agli sviluppatori della piattaforma di Facebook.

Nascosto alla vista: Per creare una simulazione il più realistica possibile, WW è in realtà costruito direttamente sulla piattaforma live anziché su una versione di test separata, un'altra differenza fondamentale rispetto alla maggior parte degli schemi di test. I robot, tuttavia, restano dietro le quinte. Mentre un utente tipico interagisce con Facebook attraverso un'interfaccia utente front-end, come un profilo e altre funzionalità del sito Web, gli utenti di bot falsi possono interagire direttamente con il codice back-end. Ciò consente loro di coesistere con utenti reali e simulare in modo più accurato diversi scenari sulla piattaforma senza che anche quegli utenti interagiscano erroneamente con loro.

Futuro perfetto: In questo momento l'azienda lo sta utilizzando per testare e migliorare funzionalità che renderebbero molto più difficile per i malintenzionati violare le linee guida della community della piattaforma. Ma vede anche altre potenziali applicazioni per il sistema, come testare come gli aggiornamenti della piattaforma potrebbero influenzare il coinvolgimento e altre metriche.