211service.com
Il pregiudizio esiste già nei risultati dei motori di ricerca e peggiorerà solo
Il modo in cui funzionano i motori di ricerca è tutt'altro che privo di pregiudizi, sostiene un nuovo libro. 26 febbraio 2018
NYU Book Press
Internet potrebbe sembrare una parità di condizioni, ma non lo è. Safiya Umoja Noble si è trovata faccia a faccia con questo fatto un giorno quando ha utilizzato il motore di ricerca di Google per cercare argomenti che le sue nipoti avrebbero potuto trovare interessanti. È entrata nel termine ragazze nere ed è tornata con pagine dominate dalla pornografia.
Noble, un professore di comunicazioni della USC Annenberg, era inorridito ma non sorpreso. Per anni ha sostenuto che i valori del web riflettono i suoi costruttori - per lo più uomini bianchi e occidentali - e non rappresentano minoranze e donne. Il suo ultimo libro, Algoritmi di oppressione , dettaglia la ricerca che ha avviato dopo quella fatidica ricerca su Google ed esplora le strutture nascoste che modellano il modo in cui otteniamo informazioni attraverso Internet.
Il libro, in uscita questo mese, sostiene che gli algoritmi dei motori di ricerca non sono così neutrali come Google vorrebbe che tu pensassi. Gli algoritmi promuovono alcuni risultati al di sopra di altri e anche un pezzo di codice apparentemente neutro può riflettere i pregiudizi della società. Inoltre, senza alcuna comprensione di come funzionano gli algoritmi o quale sia il contesto più ampio, le ricerche possono modellare ingiustamente la discussione su un argomento come le ragazze di colore.
Nobile ha parlato Revisione della tecnologia del MIT sui problemi inerenti al sistema attuale, su come Google potrebbe fare di meglio e su come l'intelligenza artificiale potrebbe peggiorare le cose.
PER CORTESIA DI SAFIYA UMOJA NOBLE
Cosa sbagliano le persone su come funzionano i motori di ricerca?
Se stiamo cercando lo Starbucks più vicino, una citazione specifica o qualcosa di molto limitato che sia facilmente comprensibile, funziona bene. Ma quando iniziamo a entrare in concetti più complicati sull'identità, sulla conoscenza, è qui che i motori di ricerca iniziano a deluderci. Questo non sarebbe un gran problema, tranne per il fatto che il pubblico fa davvero affidamento sui motori di ricerca per dare loro quella che pensano sarà la verità, o qualcosa di controllato, o qualcosa di credibile. È qui che, penso, abbiamo il più grande malinteso nel pubblico su cosa siano i motori di ricerca.
Per affrontare i pregiudizi, Google normalmente sopprime determinati risultati. C'è un approccio migliore?
Potremmo pensare di ritirare un progetto così ambizioso di organizzare tutta la conoscenza del mondo, oppure potremmo riformulare e dire: Questa è una tecnologia imperfetta. È manipolabile. Ti mostreremo come viene manipolato. Renderemo questo tipo di dimensioni del nostro prodotto più trasparenti in modo che tu conosca la natura profondamente soggettiva dell'output. Invece, la posizione di molte aziende, non solo di Google, è che [stanno] fornendo qualcosa di cui ti puoi fidare e su cui puoi contare, ed è qui che diventa piuttosto difficile.
In che modo l'apprendimento automatico potrebbe perpetuare parte del razzismo e del sessismo di cui scrivi?
Ho sostenuto che l'intelligenza artificiale, o i sistemi decisionali automatizzati, diventeranno una questione di diritti umani in questo secolo. Credo fermamente che, poiché gli algoritmi e i progetti di apprendimento automatico utilizzano dati che sono già distorti, incompleti, imperfetti e [stiamo] insegnando alle macchine come prendere decisioni basate su tali informazioni. Sappiamo che [questo] porterà a una varietà di risultati disparati. Consentitemi di aggiungere che sarà sempre più difficile intervenire sull'IA perché diventerà meno chiaro quali dati sono stati utilizzati per informare la creazione di quell'IA o la realizzazione di quei sistemi. Esistono molti tipi diversi di set di dati, ad esempio, che non sono standardizzati, che si uniscono per prendere decisioni.
Da quando hai cercato per la prima volta le ragazze nere nel 2010, hai visto le cose migliorare o peggiorare?
Da quando ho iniziato a scrivere e parlare pubblicamente di ragazze nere in particolare associate alla pornografia, le cose sono cambiate. Ora la pornografia e i contenuti ipersessualizzati non sono sulla prima pagina, quindi penso che sia stato un miglioramento discreto che non è arrivato con molto clamore. Ma altre comunità, come le ragazze latine e asiatiche, sono ancora fortemente sessualizzate nei risultati di ricerca.