Il Congresso vuole risposte da Google sul licenziamento di Timnit Gebru

yvette clarke

Rappresentante Yvette Clarke Foto di AP/Kathy Willens





Nove membri del Congresso degli Stati Uniti hanno inviato una lettera a Google chiedendogli di chiarire le circostanze intorno alla partenza forzata di Timnit Gebru, ex co-leader dell'IA etica. Guidato dalla rappresentante Yvette Clarke e dal senatore Ron Wyden, e co-firmato dai senatori Elizabeth Warren e Cory Booker, la lettera invia un segnale importante su come il Congresso stia esaminando i giganti della tecnologia e pensando alla prossima regolamentazione.

Gebru, una voce di spicco nell'etica dell'IA e una delle poche donne nere di Google, lo era licenziato senza tante cerimonie due settimane fa, dopo un lungo disaccordo su un documento di ricerca. La carta dettagliato i rischi dei grandi modelli linguistici di intelligenza artificiale addestrato su enormi quantità di dati di testo, che sono una linea fondamentale della ricerca di Google, alimentando vari prodotti tra cui la sua redditizia Ricerca Google.



Citando la copertura del MIT Technology Review, la lettera solleva tre questioni: il potenziale di pregiudizi nei modelli linguistici di grandi dimensioni, la crescente influenza aziendale sulla ricerca sull'IA e la mancanza di diversità di Google. Chiede al CEO di Google Sundar Pichai un piano concreto su come affronterà ciascuno di questi, nonché la sua attuale politica sulla revisione della ricerca e i dettagli sulla sua indagine in corso sull'uscita di Gebru (Pichai si è impegnato in questa indagine in una nota interna , pubblicato per la prima volta da Axios). In quanto membri del Congresso che cercano attivamente di migliorare la ricerca, la responsabilità e la diversità sull'IA attraverso la legislazione e la supervisione, chiediamo rispettosamente la tua richiesta per le seguenti richieste, afferma la lettera.

Nell'aprile del 2019, Clarke e Wyden hanno presentato un disegno di legge, il Legge sulla responsabilità algoritmica , ciò richiederebbe alle grandi aziende di controllare i propri sistemi di apprendimento automatico per individuare eventuali pregiudizi e intraprendere azioni correttive in modo tempestivo se tali problemi fossero identificati. Richiederebbe inoltre a tali società di controllare tutti i processi che coinvolgono dati sensibili, comprese le informazioni di identificazione personale, biometriche e genetiche, per rischi per la privacy e la sicurezza. A quel tempo, molti esperti legali e tecnologici hanno elogiato il disegno di legge per la sua comprensione sfumata dell'IA e delle tecnologie basate sui dati. Ottimo primo passo, ha scritto Andrew Selbst, assistente professore presso la University California Los Angeles School of Law, su Twitter. Richiederebbe documentazione, valutazione e tentativi di affrontare gli impatti previsti. È nuovo, eccitante e incredibilmente necessario.

Storia correlata

Abbiamo letto il documento che ha costretto Timnit Gebru a lasciare Google. Ecco cosa dice.

Il famoso ricercatore di etica dell'azienda ha evidenziato i rischi dei modelli linguistici di grandi dimensioni, che sono fondamentali per l'attività di Google.



L'ultima lettera non si collega direttamente all'Algorithmic Accountability Act, ma fa parte della stessa mossa di alcuni membri del Congresso per elaborare una legislazione che mitighi i pregiudizi dell'IA e gli altri danni dei sistemi automatizzati basati sui dati. In particolare, arriva in mezzo a crescenti pressioni per la regolamentazione antitrust. All'inizio di questo mese, la US Federal Trade Commission ha intentato una causa antitrust nei confronti di Facebook per comportamenti anticoncorrenziali e metodi di concorrenza sleali. Durante l'estate, House Democrats ha pubblicato un rapporto di 449 pagine sulle pratiche monopolistiche di Big Tech.

La lettera arriva anche nel contesto delle crescenti tensioni geopolitiche. Poiché le relazioni USA-Cina hanno raggiunto il minimo storico durante la pandemia, i funzionari statunitensi hanno sottolineato l'importanza strategica delle tecnologie emergenti come l'IA e il 5G. La lettera solleva anche questa dimensione, riconoscendo la leadership di Google nell'IA e il suo ruolo nel mantenere la leadership degli Stati Uniti. Ma chiarisce che ciò non dovrebbe pregiudicare l'azione normativa, una linea argomentativa reso popolare dal CEO di Facebook Mark Zuckerberg . Per garantire che l'America vinca la corsa all'IA, afferma la lettera, le aziende tecnologiche americane non devono solo guidare il mondo nell'innovazione; devono anche garantire che tale innovazione rifletta i valori della nostra nazione.

La nostra lettera dovrebbe avvisare tutti nel settore tecnologico, non solo Google, che stiamo prestando attenzione, ha affermato Clarke in una dichiarazione al MIT Technology Review. L'IA etica è il campo di battaglia per il futuro dei diritti civili. Le nostre preoccupazioni per i recenti sviluppi non riguardano solo una persona; riguardano l'aspetto del 21° secolo se la libertà accademica e l'inclusione passassero in secondo piano rispetto ad altre priorità. Non possiamo mitigare il pregiudizio algoritmico se impediamo a coloro che cercano di ricercarlo e studiarlo.



nascondere