La comunità dell'IA deve assumersi la responsabilità della sua tecnologia e delle sue azioni

Celeste Kidd Niall Carson / AP

Lunedì, in occasione dell'apertura di uno dei più grandi raduni mondiali di ricercatori di intelligenza artificiale, Celeste Kidd si è rivolto a migliaia di partecipanti in una stanza grande quasi il doppio di un campo da calcio. Non stava tirando i pugni.

Non esiste una piattaforma neutrale, ha detto l'influente scienziato e eminente prestanome di #metoo a coloro che si sono riuniti alla conferenza NeurIPS a Vancouver. Gli algoritmi che spingono i contenuti online hanno un profondo impatto su ciò in cui crediamo.

Kidd, professoressa di psicologia all'Università della California, a Berkeley, è nota nel suo campo per aver dato importanti contributi alla nostra comprensione della teoria della mente: come acquisiamo conoscenza e come formiamo credenze. Due anni fa, è diventata nota anche nel resto del mondo quando il tempo l'ha chiamata Persona dell'anno tra gli altri che si sono espressi contro abusi e molestie sessuali.

Sul palco, Kidd ha condiviso cinque lezioni della sua ricerca e ha dimostrato come le decisioni dell'industria tecnologica potrebbero influenzare le persone a sviluppare false credenze, negando ad esempio il cambiamento climatico. Verso la fine del suo discorso, ha anche condiviso la sua esperienza con le molestie sessuali come studentessa laureata e indirizzato direttamente alcuni dei malintesi che aveva sentito sul movimento #metoo da parte degli uomini.

Può sembrare un momento spaventoso per essere un uomo nel campo della tecnologia in questo momento, ha detto ai partecipanti alla conferenza, circa l'80% dei quali sono uomini quest'anno. C'è la sensazione che una carriera possa essere distrutta da passaggi imbarazzanti o incomprensioni.

Quello che voglio dire oggi a tutti gli uomini nella stanza è che siete stati fuorviati, ha detto.

Il suo discorso ha ricevuto una standing ovation, un momento raro nella storia della conferenza.

Le osservazioni di Kidd arrivano in un momento in cui la comunità dell'IA, e l'industria tecnologica più in generale, è stata costretta a fare i conti con i danni non intenzionali delle sue tecnologie. Solo nell'ultimo anno, una serie di casi di alto profilo ha rivelato come i deepfake possano abusare delle donne, come gli algoritmi possano prendere decisioni discriminatorie nell'assistenza sanitaria e nel prestito di credito e come lo sviluppo di modelli di IA possa essere immensamente costoso per l'ambiente. Allo stesso tempo, la comunità è stata scossa da diversi scandali di abusi sessuali e molestie , inclusi alcuni incidenti a anni precedenti della conferenza stessa . Ha anche continuato a soffrire di numeri di diversità spaventosi.

Ma il discorso di Kidd ha messo in evidenza un cambiamento importante che ha iniziato a verificarsi, uno che è stato sentito palpabilmente nella stanza quella notte. Dopo il suo discorso, dozzine di persone si sono messe in fila ai microfoni sparsi per la stanza per ringraziarla per aver parlato di questi problemi. Altre dozzine si sono raccolte intorno a lei dopo la sessione, alcune solo per stringerle la mano in segno di gratitudine. Per i partecipanti che ricordano l'incontro annuale anche due anni fa, c'è una nuova apertura a riconoscere queste sfide e una rinnovata attenzione a fare meglio.

Il giorno dopo il suo discorso, mi sono seduto con Kidd per parlare di più dei due messaggi che ha consegnato, di come sono collegati e delle sue speranze per il futuro.

Questa intervista è stata modificata e condensata per chiarezza.

Nella parte di ricerca del tuo discorso, hai concluso con il tuo messaggio: non esiste una piattaforma neutra. Come sei arrivato a questa conclusione dalla tua ricerca?

Qualcosa che ho realizzato solo negli ultimi anni, a causa delle mie interazioni con i miei due studenti laureati, è che non c'è davvero una distinzione tra conoscenza e credenze. Sono la stessa cosa, in fondo.

Ora ci stiamo muovendo verso la comprensione di come queste dinamiche che abbiamo osservato negli esperimenti di laboratorio si estendono al mondo reale. Quando qualcuno va su Internet non è sicuro di cosa dovrebbe credere, cosa tende ad allontanarsi da queste ricerche neutrali? Possiamo usare lo stesso tipo di idee per cercare di spiegare perché le persone credono che la terra sia piatta e perché queste idee sbagliate non vengono corrette? Non è un'area su cui ho visto molta attenzione, ma penso sia molto importante.

Perché è stato importante per te condividere il tuo messaggio a questa conferenza?

Gran parte di ciò in cui crediamo ora provenga da fonti online. Soprattutto i bambini: stanno formando gli elementi costitutivi della conoscenza che in seguito daranno forma a ciò in cui credono, ciò che sono interessati a conoscere a valle. Per i bambini piccoli, c'è anche motivo di aspettarsi che consumino più riproduzione automatica e contenuti suggeriti rispetto agli adulti. Quindi inizialmente sono più a rischio di essere influenzati dall'algoritmo che spinge i contenuti, perché questa è la loro unica scelta.

Il mio intervento era inteso come un messaggio alle persone che lavorano sui sistemi affinché tengano conto di come queste decisioni di back-end influenzino le convinzioni di una persona, ma anche la società nel suo insieme. Non credo che ci sia abbastanza sensibilità nella tecnologia su come le decisioni che prendi dietro le quinte su come spingere i contenuti influiscano sulla vita delle persone.

C'è un grido di battaglia comune quando sorgono domande su come vengono offerti i contenuti: l'affermazione che le piattaforme sono neutrali. E penso che sia disonesto. Le decisioni di back-end che prendi influenzano direttamente ciò in cui le persone credono e le persone lo sanno. Quindi fingere che non sia una cosa è disonesto.

Quando cambiamo il comportamento delle persone, quello che stiamo facendo è cambiare le loro convinzioni. E quei cambiamenti hanno conseguenze reali e concrete. Quando un genitore cerca informazioni sull'opportunità o meno di vaccinare il proprio figlio, se si avvicina al laptop indeciso e se ne va deciso, è davvero importante quale contenuto è stato offerto, quali opinioni sono state rappresentate.

Non credo sia ragionevole dire che non hai alcuna responsabilità per ciò che una madre fa a suo figlio, indipendentemente dal fatto che decida di vaccinarlo o meno, perché non era qualcosa che avevi considerato quando hai costruito il sistema. Penso che tu abbia la responsabilità di considerare quali sono le ripercussioni delle decisioni di back-end.

Hai menzionato nelle domande e risposte private dopo il tuo discorso che non hai mai presentato sia la tua ricerca che le tue esperienze di molestie sessuali in un forum pubblico. Perché di solito li separi e perché hai deciso di combinarli insieme?

Inizierò con il secondo: in questo caso ho fatto un'eccezione alla regola perché ho pensato che fosse molto importante per questa comunità ascoltare quel messaggio. L'informatica è un campo in cui le donne hanno avuto un momento davvero difficile per molto tempo per ottenere la trazione e l'irruzione. C'è un alto grado di interesse all'inizio, e poi c'è un tubo che perde. E so che una delle cose che rende molto difficile fare bene come donna in questo campo sono le minori opportunità di tutoraggio.

So che è molto comune che gli uomini in informatica con buone intenzioni siano preoccupati di offendere le donne. L'implicazione a valle di ciò è che le donne stanno perdendo opportunità di formazione, ma anche gli uomini stanno perdendo le idee e l'innovazione che le donne porterebbero. Studi empirici mostrano che la diversità porta a tassi di innovazione più elevati. E l'opportunità di parlare con una grande parte di questi uomini in una stanza tutto in una volta, mi sentivo come se fosse importante e dovevo farlo.

Il motivo per cui di solito non li mescolo: non ho scelto cosa mi è successo durante il mio primo anno di specializzazione a Rochester. Non ho scelto quale sarebbe stata la risposta dell'università. Volevo una carriera nella scienza e voglio proteggerla, quindi non voglio fare a meno di parlare di scienza perché ho parlato di questo problema. Ma sono anche consapevole che la maggior parte delle persone non ha l'opportunità, non ha una piattaforma per parlare. Di solito, quello che succede alle persone che sono state molestate sessualmente all'inizio della loro carriera e che il loro istituto si è vendicato contro di loro è che scompaiono. Non mi sentirei bene a non fare niente. Le persone che hanno il privilegio devono usarlo dove possono. E questa è stata un'opportunità per sfruttare il privilegio di tenere un discorso al NeurIPS per aiutare le donne più giovani che meritano lo stesso trattamento.

Eri preoccupato per il modo in cui questi commenti sarebbero atterrati?

Ovviamente. Ma avere paura della risposta non è un motivo per non parlare. Ho parlato un po' di privilegio. Sono anche in una posizione relativamente privilegiata in questa particolare conferenza perché ci sono così tante persone nell'industria e penso che le pressioni per mantenere le persone in silenzio siano maggiori nelle aziende che nel mondo accademico, almeno nella tecnologia in questo momento. Quindi, se fossi preoccupato di essere licenziato, sarebbe una cosa in più che mi tenesse zitto. L'UC Berkeley era consapevole del mio intervento su questi problemi prima che mi assumessero e non mi hanno mostrato altro che supporto e incoraggiamento nella lotta per l'equità. Essendo in un posto che mi sostiene così, posso dire cose senza paura di perdere il lavoro e di non poter pagare il cibo per mio figlio. E questa è l'altra ragione per cui sentivo di dover parlare.

Mi aspettavo pienamente che alcune persone si arrabbiassero. Sono 13.000 persone. Naturalmente alcune persone potrebbero fraintendermi. Ho letteralmente parlato di come quando usiamo le parole, sono ambigue e le persone attivano concetti diversi. Non è possibile convincere tutte le persone esattamente quello che hai in mente.

Anche se di solito separi i tuoi discorsi sulla tua ricerca e il tuo attivismo, e li hai separati in due sezioni al NeurIPS, per me affrontano davvero la stessa cosa: come sviluppare una tecnologia responsabile assumendoti più responsabilità per le tue decisioni e azioni.

Destra. Mi hai detto che nella comunità dell'IA si parla di più delle implicazioni etiche, che c'è più apprezzamento per la connessione tra la tecnologia e la società. E penso che parte di ciò derivi dal fatto che la comunità diventa più diversificata e coinvolge più persone. Provengono da un luogo meno privilegiato e sono più acutamente consapevoli di cose come pregiudizi e ingiustizie e di come le tecnologie progettate per una certa fascia demografica possano effettivamente danneggiare le popolazioni svantaggiate.

Spero che continui. Dobbiamo parlarci per fare progressi. E tutti noi meritiamo di sentirci al sicuro quando interagiamo gli uni con gli altri.

Per ricevere più storie come questa direttamente nella tua casella di posta, iscriviti alla nostra newsletter AI nominata da Webby The Algorithm. È gratis.

nascondere