Consapevolezza dell'algoritmo

Sempre di più, sono gli algoritmi a scegliere quali prodotti consigliarci e gli algoritmi a decidere se dobbiamo ricevere una nuova carta di credito. Ma questi algoritmi sono sepolti al di fuori della nostra percezione. Come si comincia a dare un senso a queste misteriose forze nascoste?

Karrie Karahalios

La domanda ha acquisito risonanza di recente quando Facebook ha rivelato uno studio scientifico sul contagio delle emozioni che era stato condotto tramite il suo feed di notizie. Lo studio ha mostrato che la visualizzazione di un minor numero di aggiornamenti positivi nei feed delle persone fa sì che le persone pubblichino meno messaggi positivi e più negativi. Questo risultato è interessante ma inquietante, e rivela tutta la potenza dell'influenza algoritmica di Facebook e la sua volontà di utilizzarla.

Per esplorare la questione della consapevolezza algoritmica, nel 2013 io e tre colleghi abbiamo creato uno strumento che aiuta le persone a capire come funziona il loro feed di notizie di Facebook.

Utilizzando l'interfaccia di programmazione di Facebook, il nostro strumento ha mostrato un elenco di storie che sono apparse sul proprio feed di notizie nella metà sinistra dello schermo. Sulla destra, gli utenti hanno visto un elenco di storie pubblicate dalla loro intera rete di amici, ovvero hanno visto il feed inalterato senza alcuna cura o manipolazione algoritmica.

Un terzo pannello ha mostrato quali post di amici erano prevalentemente nascosti e quali post di amici apparivano più spesso. Infine, lo strumento ha consentito agli utenti di scegliere manualmente quali post desideravano vedere e quali post volevano scartare.

Abbiamo reclutato 40 persone, un piccolo campione ma strettamente rappresentativo dei dati demografici degli Stati Uniti, per partecipare a uno studio per vedere come davano un senso al loro feed di notizie. Alcuni sono rimasti scioccati nell'apprendere che il loro feed è stato manipolato. Ma alla fine del nostro studio, quando i partecipanti hanno scelto i post che volevano vedere, hanno trovato valore nel feed che hanno curato.

Quando abbiamo seguito mesi dopo, molti hanno detto di sentirsi potenziati. Alcuni avevano cambiato le loro impostazioni di Facebook in modo da poter manipolare il feed da soli. Dei 40 partecipanti, una persona ha smesso del tutto di usare Facebook perché ha violato un'aspettativa su come dovrebbe funzionare un feed.

La protesta pubblica per lo studio sulle emozioni di Facebook ha mostrato che poche persone capiscono veramente il modo in cui gli algoritmi modellano il mondo che viviamo. E la nostra ricerca mostra l'importanza di consentire alle persone di assumere il controllo di quell'esperienza.

Meritiamo di comprendere il potere che gli algoritmi esercitano su di noi, nel bene e nel male.

Karrie Karahalios è professore associato di informatica presso l'Università dell'Illinois.

nascondere