I dipendenti di Google si stanno mettendo in fila per distruggere il consiglio etico dell'IA di Google

Getty Images/Leon Neal

Quasi un migliaio di dipendenti di Google, ricercatori accademici e altre figure del settore tecnologico hanno firmato una lettera protestando contro la costituzione di un consiglio indipendente che Google ha creato per guidare l'etica dei suoi progetti di intelligenza artificiale.

Il gigante della ricerca annunciato la creazione del consiglio la scorsa settimana all'EmTech Digital, l'evento del MIT Technology Review a San Francisco. Conosciuto come Advanced Technology External Advisory Council (ATEAC), conta otto membri tra cui economisti, filosofi, responsabili politici e tecnologi con esperienza in questioni come il bias algoritmico. Ha lo scopo di tenere quattro riunioni all'anno, a partire da questo mese, e scrivere report progettati per fornire feedback sui progetti dell'azienda che utilizzano l'intelligenza artificiale.

Ma due di quei membri si sono rivelati controversi. Uno, Dyan Gibbens, è CEO di Trumbull, una società che sviluppa sistemi autonomi per l'industria della difesa, una scelta controversa dato che migliaia di dipendenti di Google hanno protestato contro la decisione dell'azienda di fornire all'aeronautica americana l'IA per l'imaging dei droni. L'indignazione più grande, tuttavia, è arrivata per l'inclusione di Kay Coles James, presidente della Heritage Foundation, un think tank che si oppone alla regolamentazione delle emissioni di carbonio, prende una linea dura sull'immigrazione e si è opposto alla protezione dei diritti LGBTQ.

Un membro del consiglio, Alessandro Acquisti , un professore alla Carnegie Mellon University specializzato in questioni di privacy digitale, ha annunciato il 30 marzo che non avrebbe assunto il ruolo. Sebbene mi dedichi alla ricerca alle prese con questioni etiche chiave di equità, diritti e inclusione nell'IA, non credo che questo sia il forum giusto per impegnarmi in questo importante lavoro,' ha twittato .

La creazione di ATEAC, e l'inclusione di Gibbens e James, potrebbe essere stata infatti progettata per placare i critici di destra di Google. Più o meno nello stesso momento in cui è stato annunciato il consiglio, Sundar Pichai, CEO di Google, stava incontrando il presidente Donald Trump. Trump in seguito ha twittato: ha affermato con forza di essere totalmente impegnato nell'esercito americano, non nell'esercito cinese. [Abbiamo] discusso anche dell'equità politica e di varie cose che Google può fare per il nostro Paese. L'incontro è finito molto bene!

Ma un dipendente di Google coinvolto nella stesura della lettera di protesta, che ha parlato in condizione di anonimato, ha affermato che James è più di una semplice voce conservatrice nel consiglio. È una reazionaria che nega l'esistenza delle persone trans, che sostiene posizioni radicalmente anti-immigrati e sostiene posizioni anti-cambiamento climatico e anti-scienza.

Alcuni noti algoritmi di intelligenza artificiale possono rafforzare i pregiudizi già visti nella società; alcuni hanno dimostrato di farlo identificare erroneamente le persone transgender , Per esempio. In quel contesto, il fatto che [James] sia stato incluso è piuttosto scioccante, ha detto il dipendente. Queste tecnologie stanno plasmando le nostre istituzioni sociali, le nostre vite e l'accesso alle risorse. Quando l'IA fallisce, non fallisce per i ricchi bianchi che lavorano in aziende tecnologiche. Non è esattamente per le popolazioni che le politiche della Heritage Foundation mirano già a danneggiare.

I messaggi pubblicati su una piattaforma di comunicazione interna di Google hanno criticato in particolare la nomina di James. Secondo un post, prima segnalato da Verge e confermato dal dipendente, James non merita una piattaforma legittimata da Google e di certo non fa parte di nessuna conversazione su come la tecnologia Google dovrebbe essere applicata al mondo.

Alle 17:30 di oggi, ora della costa orientale degli Stati Uniti, la lettera pubblica, inviata a Medium, era stata firmata da 855 dipendenti di Google e altre 143 persone, tra cui un certo numero di eminenti accademici. Non solo le opinioni di James sono contrarie ai valori dichiarati di Google, afferma la lettera, ma sono direttamente contrarie al progetto di garantire che lo sviluppo e l'applicazione dell'IA diano la priorità alla giustizia rispetto al profitto. Un tale progetto dovrebbe invece porre i rappresentanti delle comunità vulnerabili al centro del processo decisionale.

Correzione : Una versione precedente di questa storia diceva che solo sette dipendenti di Google avevano firmato la lettera su Medium.

nascondere