211service.com
Ehi Google, mi dispiace che tu abbia perso il tuo consiglio etico, quindi ne abbiamo creato uno per te
Bene, non ci è voluto molto. Dopo poco più di una settimana, Google ha fatto marcia indietro sulla creazione del suo Advanced Technology External Advisory Council, o ATEAC, un comitato destinato a fornire all'azienda una guida su come sviluppare eticamente nuove tecnologie come l'IA. L'inclusione del presidente della Heritage Foundation, Kay Coles James, nel consiglio ha suscitato proteste per le sue opinioni anti-ambientali, anti-LGBTQ e anti-immigrati e ha guidato quasi 2.500 dipendenti di Google firmare una petizione per la sua rimozione. Invece, il gigante di Internet ha semplicemente deciso di chiudere tutto.
Come sono andate le cose così male? E Google può metterli a posto? Abbiamo una dozzina di esperti in intelligenza artificiale, tecnologia ed etica per dirci dove l'azienda ha perso la strada e cosa potrebbe fare dopo. Se queste persone fossero state su ATEAC, la storia avrebbe potuto avere un esito diverso.
'Sii trasparente e specifico riguardo ai ruoli e alle responsabilità dei comitati etici'
Rashida Richardson, direttore della ricerca politica presso l'AI Now Institute
'Non abbiamo idea se le commissioni etiche siano effettivamente una bussola morale o solo un altro timbro di gomma'
In teoria, i comitati etici potrebbero essere un grande vantaggio quando si tratta di assicurarsi che i prodotti di IA siano sicuri e non discriminatori. Ma affinché i comitati etici abbiano un impatto significativo, devono essere pubblicamente responsabili e avere una reale autorità di supervisione.
Ciò significa che le aziende tecnologiche dovrebbero essere disposte a condividere i criteri che stanno utilizzando per selezionare chi può far parte di questi comitati etici. Dovrebbero anche essere trasparenti e specifici sui ruoli e le responsabilità dei loro comitati etici in modo che il pubblico possa valutarne l'efficacia. Altrimenti, non abbiamo idea se le commissioni etiche siano effettivamente una bussola morale o solo un altro timbro di gomma. Data l'influenza globale e la responsabilità delle grandi aziende di IA, questo livello di trasparenza e responsabilità è essenziale.
Considera cosa significa effettivamente governare la tecnologia in modo efficace e giusto
Jake Metcalf, ricercatore di etica tecnologica presso Data & Society
Il clamore dell'ATEAC ci mostra quanto sarà probabilmente tesa e controversa questa nuova era dell'etica tecnologica. Google ha chiaramente interpretato male la stanza in questo caso. È probabile che le popolazioni politicamente marginali soggette ai capricci classificatori delle tecnologie AI/ML subiscano i peggiori danni etici derivanti dal processo decisionale automatizzato. Google che favorisce Kay Coles James per la diversità di punti di vista rispetto al suo odio aperto per le persone transgender mostra che non stanno considerando adeguatamente cosa significhi effettivamente governare la tecnologia in modo efficace e giusto.
'Etica significa due cose diverse che in pratica possono essere contraddittorie. Le aziende sono suscettibili ai primi e terrorizzate dai secondi'
È difficile per le aziende perché etica significa due cose diverse che nella pratica possono essere contraddittorie: è sia il lavoro quotidiano di comprensione e mitigazione delle conseguenze (come l'esecuzione di uno strumento di rilevamento dei pregiudizi o l'organizzazione di una riunione di progettazione deliberativa), sia il giudizio su come la società può essere ordinato nel modo più giusto (ad esempio se danni disparati alle comunità emarginate significano che una linea di prodotti dovrebbe essere potenziata). Le corporazioni sono suscettibili alla prima e terrorizzate dalla seconda. Ma se l'etica dell'intelligenza artificiale non riguarda la prevenzione degli abusi automatizzati, il blocco del trasferimento di tecnologie pericolose ai governi autocratici o il divieto dell'automazione della violenza di stato, allora è difficile sapere cosa pensano che siano le aziende tecnologiche oltre ai gesti vuoti. Sotto il nuovo e simpatico strumento di report sull'etica che è compatibile con le metriche KPI dell'azienda c'è una vera preoccupazione che le vite siano in gioco. Tenerli nella testa tutti in una volta è una sfida per le aziende burocraticamente e per gli esperti di etica che hanno investito nel vedere vincere tecnologie più giuste.
Per prima cosa riconosci l'elefante nella stanza: i principi dell'IA di Google
Evan Selinger, professore di filosofia al Rochester Institute of Technology
Google ha messo il kibosh su ATEAC senza prima riconoscere l'elefante nella stanza: i principi dell'IA che il CEO Sundar Pichai ha articolato durante l'estate. Eminenti accademici, membri di organizzazioni della società civile e dipendenti senior di aziende tecnologiche mi hanno sempre detto che, sebbene i principi sembrino buoni sulla carta, sono abbastanza flessibili da essere interpretati in modi che eviteranno a Google di dover compromettere qualsiasi crescita a lungo termine strategie, anche perché i meccanismi di applicazione per violare i principi non sono ben definiti e, alla fine, l'intera impresa rimane uno sforzo di autoregolamentazione.
Detto questo, se il gruppo fosse (a) adeguatamente costituito, sarebbe certamente d'aiuto rendere la leadership più responsabile di fronte a un comitato etico; (b) attribuiti poteri istituzionali chiari e solidi (piuttosto che essere presenti solo per offrire consulenza); e (c) anche, a sua volta, essere tenuto a standard di responsabilità trasparenti per garantire che non diventi un ingranaggio in una lavatrice razionalizzante ed etica.
Cambia le persone incaricate di mettere insieme questi gruppi
Ellen Pao, fondatrice di Project Include
Questo sforzo fallito mostra esattamente perché Google ha bisogno di consulenti migliori. Ma forse hanno anche bisogno di cambiare le persone incaricate di mettere insieme questi gruppi, e forse anche i loro team interni dovrebbero fare questo lavoro. Ci sono stati diversi problemi con il risultato, come tutti abbiamo visto, ma anche problemi con il processo. Quando non hai comunicato all'intero gruppo con chi lavoreranno, è un grosso errore. Portare persone che riflettono maggiormente il mondo in cui viviamo avrebbe dovuto avvenire internamente prima di provare a mettere insieme un gruppo esterno.
Nota a margine, le persone dovrebbero esaminare i gruppi a cui si uniscono, i panel della conferenza a cui stanno parlando e i loro team prima di impegnarsi in modo da sapere a cosa si stanno iscrivendo. È incredibile quanto tu possa influenzarli e come puoi cambiare la composizione di un gruppo semplicemente chiedendo.
Rafforza l'antagonismo, non queste amichevoli collaborazioni interne e gli sforzi per tenere le mani
Meg Leta Jones, assistente professore di Comunicazione, Cultura e Tecnologia alla Georgetown University
Le bacheche etiche non sono un lavoro quotidiano di nessuno e offrono solo la possibilità di conversazioni rare di alto livello che nella migliore delle ipotesi forniscono informazioni e nella peggiore delle ipotesi una copertura. Se vogliamo creare fiducia nelle istituzioni, comprese le tecnologie, le aziende tecnologiche, i media e il governo, la nostra attuale cultura politica richiede antagonismo, non queste amichevoli collaborazioni interne e sforzi di sostegno. Rafforzare gli antagonisti e sostenere l'antagonismo può soddisfare in modo più appropriato ed efficace gli obiettivi dell''IA etica'.
'Le bacheche etiche nel migliore dei casi forniscono informazioni e nel peggiore dei casi coprono'
Guardati dentro e responsabilizza i dipendenti che sono solidali con i gruppi vulnerabili
Anna Lauren Hoffmann, Assistant Professor presso The Information School presso l'Università di Washington
Il fallimento del consiglio ATEAC di Google chiarisce che l'etica dell'IA non riguarda solo il modo in cui concepiamo, sviluppiamo e implementiamo le tecnologie dell'IA, ma anche come facciamo l'etica. Le vulnerabilità vissute, la distribuzione del potere e dell'influenza e le cui voci si alzano sono tutte considerazioni fondamentali quando si persegue l'etica nel mondo reale. A tal fine, la debacle dell'ATEAC e altri casi di respingimento (ad esempio, contro Project Maven, Dragonfly e le politiche sulle molestie sessuali) chiariscono che Google ha già un'enorme risorsa in molti dei suoi stessi dipendenti. Sebbene abbiamo anche bisogno di una regolamentazione significativa e di una supervisione esterna, l'azienda dovrebbe guardarsi dentro e autorizzare quei dipendenti già emarginati pronti a organizzarsi e ad essere solidali con i gruppi vulnerabili per affrontare i problemi pervasivi di transfobia, razzismo, xenofobia e odio.
Un consiglio non può essere solo 'alcune persone importanti che conosciamo'. Hai bisogno di veri esperti di etica
Patrick Lin, direttore del Gruppo Etica + Scienze Emergenti a Cal Poly
Nelle parole di Aaliyah, penso che il prossimo passo per Google sia rispolverarsi e riprovare. Ma devono essere più attenti a chi inserire nel consiglio: non può essere solo un elenco 'chiediamo ad alcune persone importanti che conosciamo', come sembrava essere stata la versione 1.0 del consiglio. In primo luogo, se c'è un sincero interesse nell'ottenere una guida etica, allora hai bisogno di veri esperti di etica, esperti che hanno una formazione professionale in etica teorica e applicata. Altrimenti, sarebbe un rifiuto del valore della competenza, che stiamo già vedendo fin troppo in questi giorni, ad esempio, quando si tratta di scienze di base.
'Immagina se la società volesse convocare un consiglio legale per l'IA, ma c'era solo un avvocato'
Immagina se l'azienda volesse convocare un consiglio di legge sull'IA, ma c'era solo un avvocato (proprio come c'era un solo filosofo nel consiglio di etica dell'IA v1.0). Ciò solleverebbe serie bandiere rosse. Non è sufficiente che qualcuno lavori su questioni di importanza legale: un sacco di persone lo fanno, me compreso, e possono benissimo integrare l'opinione di esperti di giuristi e avvocati. Ma affinché quel consiglio sia veramente efficace, deve includere veri esperti di dominio al suo interno.
Le ultime settimane hanno dimostrato che l'organizzazione diretta funziona
Os Keyes, dottorando in Data Ecologies Lab presso l'Università di Washington
Ad essere onesto, non ho consigli per Google. Google sta facendo esattamente ciò che le entità aziendali nella nostra società sono destinate a fare; lavorare per un vantaggio politico (e quindi regolamentare, e quindi finanziario) senza lasciare traccia di moralità nei risultati trimestrali o nel piano strategico. Il mio consiglio è per tutti tranne Google. Per le persone al di fuori di Google: telefona ai tuoi rappresentanti. Chiedi cosa stanno facendo riguardo alla regolamentazione dell'IA. Chiedi cosa stanno facendo riguardo ai controlli di lobbying. Chiedi cosa stanno facendo riguardo alla regolamentazione aziendale. Per gli accademici: telefona ai tuoi istruttori. Chiedere cosa stanno facendo per insegnare agli studenti di etica che l'etica è importante solo se viene applicata e vissuta. Per le persone all'interno di Google: telefona alle persone all'esterno e chiedi a te di cosa hanno bisogno. Gli eventi delle ultime settimane hanno mostrato che l'organizzazione diretta funziona; opere di solidarietà.
È improbabile che quattro incontri all'anno abbiano un impatto. Abbiamo bisogno di input etici agili
Irina Raicu, direttrice del programma di etica di Internet presso l'Università di Santa Clara
Penso che questa sia stata una grande occasione persa. Mi sono chiesto chi, all'interno di Google, fosse coinvolto nel processo decisionale su chi invitare. (Quella decisione, di per sé, richiedeva input diversi.) Ma qui si parla del problema più ampio: il fatto che Google abbia fatto l'annuncio della creazione del consiglio senza alcuna spiegazione dei criteri per la selezione dei partecipanti. Si è anche discusso molto poco delle ragioni per cui hanno creato il consiglio, di quello che speravano sarebbe stato l'impatto del consiglio, ecc. Se avessero fornito più contesto, la discussione che ne sarebbe seguita avrebbe potuto essere diversa.
Ci sono anche altri problemi; data la velocità con cui l'IA si sta sviluppando e viene implementata, è improbabile che quattro riunioni (anche con un gruppo eterogeneo di consulenti per l'etica dell'IA), nel corso di un anno, abbiano un impatto significativo, ad es. per cambiare davvero la traiettoria della ricerca o dello sviluppo del prodotto. Finché il modello è uno sviluppo agile, abbiamo bisogno anche di input etici agili.
Il gruppo deve avere l'autorità per dire di no ai progetti
Sam Gregory, direttore del programma di Witness
Se Google vuole creare un vero rispetto per l'etica o i diritti umani nelle iniziative di intelligenza artificiale, deve prima riconoscere che un comitato consultivo, o anche un consiglio di amministrazione, è solo una parte di un approccio più ampio. Devono essere chiari fin dall'inizio che il gruppo ha effettivamente l'autorità di dire di no ai progetti ed essere ascoltato. Quindi devono essere espliciti sul quadro - raccomandiamo che sia basato su leggi e norme internazionali sui diritti umani stabilite - e quindi un individuo o un gruppo che ha precedenti di essere discriminatorio o abusivo non dovrebbe farne parte.
Evita di trattare l'etica come un gioco di pubbliche relazioni o un problema tecnico
Anna Jobin, ricercatrice presso l'Health Ethics and Policy Lab dell'Istituto Federale Svizzero di Tecnologia
Se Google prende sul serio l'IA etica, l'azienda deve evitare di trattare l'etica come un gioco di pubbliche relazioni o un problema tecnico e incorporarla nelle sue pratiche e processi aziendali. Potrebbe essere necessario riprogettare le sue strutture di governance per creare una migliore rappresentanza e responsabilità sia nei confronti della sua forza lavoro interna che della società in generale. In particolare, deve dare priorità al benessere delle minoranze e delle comunità vulnerabili in tutto il mondo, in particolare delle persone che sono o potrebbero essere negativamente colpite dalla sua tecnologia.
'Cercare non solo le competenze tradizionali, ma anche le intuizioni di persone esperte delle proprie esperienze vissute'
Joy Buolamwini, fondatrice della Algorithmic Justice League
Quando pensiamo alla governance dell'IA, non dobbiamo solo cercare le competenze tradizionali, ma anche le intuizioni di persone esperte delle proprie esperienze vissute. Come potremmo coinvolgere le voci emarginate nel plasmare l'IA? Come potrebbe essere l'IA partecipativa che centra le opinioni di coloro che sono più a rischio per gli effetti negativi dell'IA?
'Non riesco a immaginare alcuna raccomandazione di un tale comitato consultivo che ostacoli ciò che il mercato richiede'
Imparare dall'esperienza ATEAC Google dovrebbe incorporare processi di revisione della comunità compensati nello sviluppo dei suoi prodotti e servizi. Ciò richiederà una trasparenza significativa e una supervisione continua. E Google e altri membri della Partnership on AI dovrebbero mettere da parte una parte dei profitti per fornire finanziamenti al consorzio per la ricerca sull'etica e la responsabilità dell'IA, senza concentrarsi solo sulla ricerca sull'equità dell'IA che eleva solo le prospettive tecniche.
Forse è per il meglio che la foglia di fico dello 'sviluppo etico' è stata portata via
Adam Greenfield, autore di Tecnologie radicali
Tutto ciò che abbiamo sentito su questo consiglio è stato vergognoso, dall'istinto iniziale di invitare James alla decisione di chiuderlo piuttosto che dedicare energie ad affrontare le conseguenze di quella scelta. Ma dato che i miei sentimenti sull'IA sono più o meno quelli della Jihad Butleriana, forse è per il meglio che la foglia di fico dello 'sviluppo etico' è stata portata via. Alla fine, non riesco a immaginare alcuna raccomandazione di un tale comitato consultivo, comunque possa essere costituito, ostacolando ciò che il mercato richiede e/o la necessità percepita di competere con altri attori coinvolti nello sviluppo dell'IA.
'È incoraggiante vedere il potere dell'attivismo dei dipendenti'
Tess Posner, CEO di AI4ALL
È fantastico vedere aziende, organizzazioni e ricercatori lavorare per creare quadri etici per l'IA. L'industria tecnologica sta vivendo crescenti difficoltà in quest'area: capire come farlo nel modo giusto è impegnativo e richiederà tempo e iterazione. Riteniamo che sia un'opportunità per continuare a chiedere quali voci devono essere incluse e assicurarci di includere voci diverse e voci che potrebbero essere direttamente influenzate dai risultati delle decisioni prese. È incoraggiante vedere il potere dell'attivismo dei dipendenti che influenza il cambiamento su questo e altri problemi tecnologici.