Un importante ricercatore di etica dell'IA afferma di essere stata licenziata da Google

Timnit Gebru

Kimberly White / Stringer





Il 2 dicembre, la comunità di ricerca sull'IA è rimasta scioccata nell'apprendere che Timnit Gebru era stata licenziata dal suo incarico su Google. Gebru, una delle voci di spicco nella ricerca sull'IA responsabile, è noto tra l'altro per aver collaborato alla creazione di un lavoro rivoluzionario che ha rivelato il natura discriminatoria del riconoscimento facciale , cofondatore del gruppo di affinità Black in AI, e sostenendo incessantemente la diversità nel settore tecnologico .

Ma mercoledì sera, ha annunciato su Twitter che era stata licenziata dalla sua posizione di co-responsabile dell'IA etica di Google. Apparentemente il manager del mio manager ha inviato un'e-mail [ai] miei diretti subordinati dicendo di aver accettato le mie dimissioni. Non mi ero dimesso, disse.

In un'intervista a Bloomberg giovedì, Gebru ha detto che il licenziamento è avvenuto dopo una lunga lite con i suoi superiori per la pubblicazione di un documento di ricerca sull'etica dell'IA. Uno dei tweet di Gebru e un successivo e-mail interna di Jeff Dean, capo di Google AI, suggeriscono che il documento fosse critico i costi ambientali e pregiudizi incorporati di modelli linguistici di grandi dimensioni.



Gebru, che aveva scritto l'articolo con quattro colleghi di Google e due collaboratori esterni, lo aveva sottoposto a una conferenza di ricerca che si terrà l'anno prossimo. Dopo una revisione interna, le è stato chiesto di ritirare il documento o di rimuovere i nomi dei dipendenti di Google. Ha risposto che lo avrebbe fatto se i suoi superiori avessero incontrato una serie di condizioni. Se non potessero, lei lo farebbe lavorare all'ultimo appuntamento , lei disse.

Ha anche inviato a e-mail frustrata a un listserv interno, Google Brain Women and Allies, descrivendo in dettaglio le ripetute difficoltà che aveva vissuto come ricercatrice nera. Abbiamo appena fatto una ricerca sui neri con un tale spettacolo di esasperazione emotiva, ha scritto. Sai cosa è successo da allora? Silenziare nel modo più fondamentale possibile.

Gebru è quindi andato in vacanza e ha ricevuto un'email di terminazione da Megan Kacholia, vicepresidente dell'ingegneria presso Google Research, prima del suo ritorno. Grazie per aver chiarito le tue condizioni, l'e-mail indicata , come twittato da Gebru. Non possiamo accettare n. 1 e n. 2 come stai richiedendo. Di conseguenza, rispettiamo la tua decisione di lasciare Google e accettiamo le tue dimissioni. La sua e-mail a listserv non era coerente con le aspettative di un manager di Google, ha continuato. Di conseguenza, accettiamo immediatamente le vostre dimissioni, con decorrenza odierna.

Giovedì mattina, dopo un'ondata di sostegno a Gebru sui social media, Dean ha inviato un messaggio e-mail interna al gruppo AI di Google con il suo resoconto della situazione. Ha detto che l'articolo di Gebru non ha soddisfatto il nostro livello di pubblicazione perché ignorava troppe ricerche pertinenti. Ha anche affermato che le condizioni di Gebru includevano la rivelazione delle identità di ogni persona con cui Megan e io avevamo parlato e consultato come parte della revisione del documento e del feedback esatto.



Dato il ruolo di Timnit come ricercatrice rispettata e manager nel nostro team di intelligenza artificiale etica, mi dispiace che Timnit sia arrivata a un punto in cui si sente in questo modo riguardo al lavoro che stiamo facendo, ha scritto. So che condividiamo tutti sinceramente la passione di Timnit di rendere l'IA più equa e inclusiva.

Né le comunicazioni di Gebru, Dean né di Google hanno risposto alle richieste di commento e molti dettagli relativi all'esatta progressione degli eventi o alla causa della risoluzione non sono ancora chiari. Man mano che continuano ad emergere, molti hanno portato una rinnovata attenzione su un tweet del 30 novembre che Gebru appuntò in cima al suo profilo. C'è qualcuno che sta lavorando sulla regolamentazione che protegge i ricercatori di IA etica, simile alla protezione degli informatori? si legge. Perché con la quantità di censura e intimidazione che va verso le persone in gruppi specifici, come si può fidarsi che possa aver luogo una vera ricerca in quest'area?

nascondere