211service.com
DeepMind si chiede come l'IA abbia contribuito a trasformare Internet in una camera d'eco
SM. TECNICO | FOTO: YOUTUBE La signora Tech | Foto: YouTube
Una delle applicazioni più comuni dell'apprendimento automatico oggi è negli algoritmi di raccomandazione. Netflix e YouTube li usano per offrirti nuovi programmi e video; Google e Facebook li utilizzano per classificare i contenuti nei risultati di ricerca e nel feed di notizie. Sebbene questi algoritmi offrano una grande comodità, hanno alcuni effetti collaterali indesiderati. Probabilmente ne hai già sentito parlare: bolle filtranti e camere d'eco.
La preoccupazione per questi effetti non è nuova. Nel 2011, Eli Pariser, ora CEO di Upworthy, ha messo in guardia contro le bolle dei filtri sul palco TED. Anche prima, nel suo libro repubblica.com , Cass Sunstein, professore di giurisprudenza di Harvard, ha predetto accuratamente un effetto di polarizzazione di gruppo, guidato dall'ascesa di Internet, che alla fine avrebbe sfidato una sana democrazia. Facebook non esisterebbe per altri tre anni.
Entrambe le idee sono state rapidamente rese popolari all'indomani delle elezioni statunitensi del 2016, che hanno portato a un aumento della ricerca pertinente. Ora la sussidiaria AI di Google, DeepMind, si sta aggiungendo al corpo della borsa di studio. (Meglio tardi che mai, giusto?)
In una nuova carta , i ricercatori hanno analizzato come diversi algoritmi di raccomandazione possono accelerare o rallentare entrambi i fenomeni, che i ricercatori definiscono separatamente. Le camere di eco, dicono, rafforzano gli interessi degli utenti attraverso l'esposizione ripetuta a contenuti simili. Le bolle di filtro, in confronto, restringono l'ambito dei contenuti a cui sono esposti gli utenti. Entrambi sono esempi nel linguaggio accademico di circuiti di feedback degenerati. Un livello più elevato di degenerazione, in questo caso, si riferisce a una bolla del filtro più forte o a un effetto camera d'eco.
Hanno eseguito simulazioni di cinque diversi algoritmi di raccomandazione, che hanno assegnato diversi gradi di priorità alla previsione esatta di ciò a cui l'utente era interessato rispetto alla promozione casuale di nuovi contenuti. Gli algoritmi che davano priorità alla precisione in modo più elevato, hanno scoperto, hanno portato a una degenerazione del sistema molto più veloce. In altre parole, il modo migliore per combattere le bolle dei filtri o le camere d'eco è progettare gli algoritmi in modo che siano più esplorativi, mostrandoti cose che sono meno sicure di catturare il tuo interesse. Può essere utile anche ampliare l'insieme generale di informazioni da cui sono tratte le raccomandazioni.
Joseph A. Konstan, professore di informatica presso l'Università del Minnesota, che in precedenza ha condotto ricerca sulle bolle di filtro, afferma che i risultati dell'analisi di DeepMind non sono sorprendenti. I ricercatori hanno capito da tempo la tensione tra una previsione accurata e un'esplorazione efficace nei sistemi di raccomandazione, afferma.
Nonostante studi passati abbiano dimostrato che gli utenti tollereranno livelli di precisione inferiori per ottenere il vantaggio di diverse raccomandazioni, gli sviluppatori hanno ancora un disincentivo a progettare i propri algoritmi in questo modo. È sempre più facile 'avere ragione' raccomandando scelte sicure, dice Konstan.
Konstan critica anche lo studio DeepMind per l'approccio alle bolle dei filtri e alle camere d'eco come simulazioni di apprendimento automatico piuttosto che come sistemi interattivi che coinvolgono gli esseri umani, una limitazione che anche i ricercatori hanno notato. Sono sempre preoccupato per il lavoro che si limita a studi di simulazione (o analisi di dati offline), dice. Le persone sono complesse. Da un lato sappiamo che apprezzano la diversità, ma dall'altro sappiamo anche che se allunghiamo troppo le raccomandazioni, al punto in cui gli utenti si sentono inaffidabili, potremmo perdere completamente gli utenti.
Correzione: Il titolo è stato aggiornato per riflettere meglio la portata della ricerca.