YouTube sta sperimentando modi per rendere il suo algoritmo ancora più avvincente

Illustrazione che mostra l'interfaccia di YouTube con video ASMR la signora Tech; Immagini: screenshot da YouTube | Gibi ASMR/ASMR Darling/W magazine/ASMR Glow

Gli algoritmi di raccomandazione sono oggi alcuni dei più potenti sistemi di apprendimento automatico grazie alla loro capacità di modellare le informazioni che consumiamo. L'algoritmo di YouTube, in particolare, ha un'influenza enorme. Si stima che la piattaforma sia seconda solo a Google per traffico web e 70% di ciò che gli utenti guardano viene loro fornito tramite consigli.

Negli ultimi anni, questa influenza è stata oggetto di un attento esame. Poiché l'algoritmo è ottimizzato per indurre le persone a interagire con i video, tende a offrire scelte che rafforzano ciò che piace o crede già a qualcuno, il che può creare un'esperienza avvincente che esclude altre visualizzazioni. Questo spesso premia anche i video più estremi e controversi, che studi hanno mostrato può spingere rapidamente le persone profonde tane di coniglio di contenuto e portare alla politica radicalizzazione .

Sebbene YouTube abbia pubblicamente affermato che sta lavorando per affrontare questi problemi, a nuova carta di Google, che possiede YouTube, sembra raccontare una storia diversa. Propone un aggiornamento dell'algoritmo della piattaforma che ha lo scopo di consigliare agli utenti contenuti ancora più mirati nell'interesse di aumentare il coinvolgimento.

Ecco come funziona il sistema di consigli di YouTube attualmente funziona . Per popolare la barra laterale dei video consigliati, compila prima un elenco di diverse centinaia di video trovando quelli che corrispondono all'argomento e ad altre caratteristiche di quello che stai guardando. Quindi classifica l'elenco in base alle preferenze dell'utente, che apprende alimentando tutti i tuoi clic, Mi piace e altre interazioni in un algoritmo di apprendimento automatico.

Tra gli aggiornamenti proposti, i ricercatori prendono di mira specificamente un problema che identificano come pregiudizio implicito. Si riferisce al modo in cui i consigli stessi possono influenzare il comportamento degli utenti, rendendo difficile decifrare se hai fatto clic su un video perché ti è piaciuto o perché è stato altamente raccomandato. L'effetto è che nel tempo, il sistema può spingere gli utenti sempre più lontano dai video che vogliono effettivamente guardare.

Per ridurre questo pregiudizio, i ricercatori suggeriscono una modifica all'algoritmo: ogni volta che un utente fa clic su un video, tiene conto anche del ranking del video nella barra laterale dei consigli. I video che si trovano vicino alla parte superiore della barra laterale ricevono meno peso quando vengono inseriti nell'algoritmo di apprendimento automatico; i video in fondo alla classifica, che richiedono all'utente di scorrere, vengono forniti di più. Quando i ricercatori hanno testato le modifiche dal vivo su YouTube, hanno riscontrato un coinvolgimento degli utenti significativamente maggiore.

Anche se il documento non dice se il nuovo sistema sarà implementato in modo permanente, Guillaume Chaslot, un ex ingegnere di YouTube che ora gestisce AlgoTransparency.org, si è detto abbastanza fiducioso che sarebbe successo in tempi relativamente brevi: hanno detto che aumenta il tempo di osservazione tempo dello 0,24%. Se calcoli l'importo, penso che siano forse decine di milioni di dollari.

Diversi esperti che hanno esaminato il documento hanno affermato che i cambiamenti potrebbero avere effetti perversi. Nella nostra ricerca, abbiamo scoperto che gli algoritmi di YouTube hanno creato una comunità isolata di estrema destra, spinto gli utenti verso video di bambini e promosso la disinformazione, ha affermato Jonas Kaiser, un affiliato del Berkman Klein Center for Internet & Society. Ai margini, questo cambiamento potrebbe […] favorire la formazione di comunità più isolate di quelle che abbiamo già visto. Jonathan Albright, direttore dell'iniziativa di digital forensics presso il Tow Center for Digital Journalism, ha affermato che, sebbene la riduzione della distorsione di posizione sia un buon inizio per rallentare il ciclo di feedback dei contenuti di bassa qualità, in teoria il cambiamento potrebbe anche favorire ulteriormente i contenuti estremi.

Becca Lewis, un'ex ricercatrice di Data & Society che studia l'estremismo online, ha affermato che era difficile sapere come sarebbero andati a finire i cambiamenti. Questo vale anche per YouTube internamente, ha detto. Ci sono così tante comunità diverse su YouTube, modi diversi in cui le persone usano YouTube, diversi tipi di contenuti, che le implicazioni saranno diverse in così tanti casi. Diventiamo soggetti di prova per YouTube.

Quando è stato contattato per un commento, un portavoce di YouTube ha affermato che i suoi ingegneri e team di prodotto avevano stabilito che le modifiche non avrebbero portato a bolle di filtro. Al contrario, l'azienda prevede che le modifiche le riducano e diversifichino le raccomandazioni in generale.

Tutti e tre i ricercatori esterni contattati dal MIT Technology Review raccomandano a YouTube di dedicare più tempo a esplorare l'impatto dei cambiamenti algoritmici attraverso metodi come interviste, sondaggi e input degli utenti. YouTube lo ha fatto in una certa misura, ha affermato il portavoce, lavorando per rimuovere i contenuti estremi sotto forma di incitamento all'odio sulla sua piattaforma.

YouTube dovrebbe spendere più energia per capire quali attori i loro algoritmi favoriscono e amplificano rispetto a come mantenere gli utenti sulla piattaforma, ha affermato Kaiser.

La cosa frustrante è che non è nell'interesse commerciale di YouTube farlo, ha aggiunto Lewis. Ma c'è un imperativo etico.

correzioni: L'impatto del cambiamento di YouTube sarebbe probabilmente dell'ordine di decine di milioni, non miliardi, di dollari. La storia è stata aggiornata anche il 27 settembre 2019 alle 15:30 ET per riflettere la risposta di YouTube.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.

nascondere