211service.com
I veri pericoli dell'IA sono più vicini di quanto pensiamo
Dimentica l'IA superintelligente: gli algoritmi stanno già creando danni reali. La buona notizia: la lotta è iniziata.
21 ottobre 2020
William Isaac ha iniziato a ricercare i pregiudizi negli algoritmi di polizia predittiva nel 2016. David Vinner
Finché gli esseri umani hanno costruito macchine, abbiamo temuto il giorno in cui avrebbero potuto distruggerci. Stephen Hawking ha notoriamente avvertito che l'IA potrebbe significare la fine della civiltà. Ma per molti ricercatori di intelligenza artificiale, queste conversazioni sembrano libere. Non è che non temono che l'IA stia impazzendo, è che vedono che sta già accadendo, ma non nei modi in cui la maggior parte delle persone si aspetterebbe.
L'IA sta ora esaminando i candidati al lavoro, diagnosticando malattie e identificando sospetti criminali. Ma invece di rendere queste decisioni più efficienti o giuste, spesso perpetua i pregiudizi degli umani sulle cui decisioni è stato addestrato.
Questa storia faceva parte del nostro numero di novembre 2020
- Vedi il resto del problema
- sottoscrivi
William Isaac è uno scienziato ricercatore senior nel team di etica e società di DeepMind, una startup di intelligenza artificiale che Google ha acquisito nel 2014. È anche co-presidente della conferenza sull'equità, la responsabilità e la trasparenza, il principale incontro annuale di esperti di intelligenza artificiale, scienziati sociali, e avvocati che lavorano in questo settore. Gli ho chiesto delle sfide attuali e potenziali che devono affrontare lo sviluppo dell'IA, nonché delle soluzioni.
D: Dovremmo preoccuparci dell'IA superintelligente?
A: Voglio spostare la domanda. Le minacce si sovrappongono, sia che si tratti di polizia predittiva e valutazione del rischio a breve termine, sia di sistemi più scalati e avanzati a lungo termine. Molti di questi problemi hanno anche una base nella storia. Quindi i potenziali rischi e i modi per affrontarli non sono così astratti come pensiamo.
Ci sono tre aree che voglio contrassegnare. Probabilmente la più urgente è questa domanda sull'allineamento dei valori: come si progetta concretamente un sistema in grado di comprendere e implementare le varie forme di preferenze e valori di una popolazione? Negli ultimi anni abbiamo assistito a tentativi da parte dei responsabili politici, dell'industria e di altri di cercare di incorporare valori nei sistemi tecnici su larga scala, in aree come la polizia predittiva, la valutazione del rischio, le assunzioni, ecc. È chiaro che mostrano una qualche forma di pregiudizio che riflette la società. Il sistema ideale dovrebbe bilanciare tutte le esigenze di molti stakeholder e di molte persone nella popolazione. Ma come fa la società a conciliare la propria storia con l'aspirazione? Stiamo ancora lottando con le risposte e quella domanda diventerà esponenzialmente più complicata. Risolvere quel problema non è solo qualcosa per il futuro, ma per il qui e ora.
Il secondo sarebbe il raggiungimento di un beneficio sociale dimostrabile. Fino a questo punto ci sono ancora poche prove empiriche che convalidano che le tecnologie di intelligenza artificiale raggiungeranno l'ampio beneficio sociale a cui aspiriamo.
Infine, penso che la più grande preoccupazione di chiunque lavori nello spazio sia: quali sono i robusti meccanismi di supervisione e responsabilità.
D: Come superiamo questi rischi e queste sfide?
A: Tre aree farebbero molto. Il primo è costruire un muscolo collettivo per l'innovazione e la supervisione responsabili. Assicurati di pensare a dove esistono le forme di disallineamento, pregiudizio o danno. Assicurati di sviluppare buoni processi per garantire che tutti i gruppi siano coinvolti nel processo di progettazione tecnologica. I gruppi storicamente emarginati spesso non sono quelli che soddisfano i loro bisogni. Quindi il modo in cui progettiamo i processi per farlo effettivamente è importante.
Il secondo sta accelerando lo sviluppo degli strumenti sociotecnici per svolgere effettivamente questo lavoro. Non abbiamo molti strumenti.
L'ultimo sta fornendo più finanziamenti e formazione a ricercatori e professionisti, in particolare ricercatori e professionisti del colore, per condurre questo lavoro. Non solo nell'apprendimento automatico, ma anche in STS [scienza, tecnologia e società] e scienze sociali. Vogliamo non solo avere pochi individui, ma una comunità di ricercatori per capire davvero la gamma di potenziali danni che i sistemi di intelligenza artificiale pongono e come mitigarli con successo.
D: Fino a che punto sono arrivati i ricercatori di intelligenza artificiale nel pensare a queste sfide e fino a che punto devono ancora arrivare?
A: Ricordo che nel 2016 la Casa Bianca aveva appena pubblicato un rapporto sui big data e c'era un forte senso di ottimismo sul fatto che potessimo usare i dati e l'apprendimento automatico per risolvere alcuni problemi sociali intrattabili. Allo stesso tempo, c'erano ricercatori nella comunità accademica che avevano segnalato in un senso molto astratto: Ehi, ci sono alcuni potenziali danni che potrebbero essere fatti attraverso questi sistemi. Ma in gran parte non avevano interagito affatto. Esistevano in silos unici.
Da allora, abbiamo appena svolto molte più ricerche mirate a questa intersezione tra i difetti noti all'interno dei sistemi di apprendimento automatico e la loro applicazione alla società. E una volta che le persone hanno iniziato a vedere quell'interazione, hanno capito: Ok, questo non è solo un rischio ipotetico. È una vera minaccia. Quindi, se si osserva il campo per fasi, la prima fase ha messo in luce ed è emerso che queste preoccupazioni sono reali. La seconda fase ora sta cominciando a confrontarsi con questioni sistemiche più ampie.
D: Quindi sei ottimista sul raggiungimento di un'IA vantaggiosa su larga scala?
R: Lo sono. Gli ultimi anni mi hanno dato molte speranze. Considera il riconoscimento facciale come esempio. C'è stato il grande lavoro di Joy Buolamwini, Timnit Gebru e Deb Raji nel far emergere disparità intersezionali nelle precisioni tra i sistemi di riconoscimento facciale [cioè, mostrare che questi sistemi erano molto meno accurati sui volti delle donne nere rispetto a quelli dei maschi bianchi]. C'è la difesa che è avvenuta nella società civile per organizzare una rigorosa difesa dei diritti umani contro l'applicazione errata del riconoscimento facciale. E anche il grande lavoro che i responsabili politici, le autorità di regolamentazione e i gruppi della comunità dal basso stavano facendo per comunicare esattamente cosa fossero i sistemi di riconoscimento facciale e quali potenziali rischi rappresentassero, e per chiedere chiarezza su quali sarebbero stati i benefici per la società. Questo è un modello di come potremmo immaginare di impegnarci con altri progressi nell'IA.
Ma la sfida con il riconoscimento facciale è che dovevamo giudicare queste questioni etiche e valoriali mentre stavamo implementando pubblicamente la tecnologia. In futuro, spero che alcune di queste conversazioni avvengano prima che emergano potenziali danni.
D: Cosa sogni quando sogni il futuro dell'IA?
A: Potrebbe essere un ottimo equalizzatore. Come se avessi insegnanti o tutor di intelligenza artificiale che potrebbero essere disponibili per studenti e comunità in cui l'accesso all'istruzione e alle risorse è molto limitato, sarebbe molto potente. E questa è una cosa non banale da volere da questa tecnologia. Come fai a sapere che sta potenziando? Come fai a sapere che è socialmente vantaggioso?
Ho frequentato una scuola di specializzazione nel Michigan durante la crisi idrica di Flint. Quando è emersa l'incidenza iniziale dei tubi di piombo, le registrazioni che avevano per dove si trovavano i sistemi di tubazioni erano su schede in fondo a un edificio amministrativo. La mancanza di accesso alle tecnologie li aveva messi in notevole svantaggio. Significa che le persone che sono cresciute in quelle comunità, oltre il 50% delle quali sono afroamericane, sono cresciute in un ambiente in cui non ottengono servizi e risorse di base.
Quindi la domanda è: se fatte in modo appropriato, queste tecnologie potrebbero migliorare il loro tenore di vita? L'apprendimento automatico è stato in grado di identificare e prevedere dove si trovavano i tubi di piombo, riducendo così i costi di riparazione effettivi per la città. Ma era un'impresa enorme, ed era raro. E come sappiamo, Flint non ha ancora rimosso tutti i tubi, quindi ci sono anche sfide politiche e sociali: l'apprendimento automatico non le risolverà tutte. Ma la speranza è che sviluppiamo strumenti che rafforzino queste comunità e forniscano un cambiamento significativo nelle loro vite. Questo è ciò a cui penso quando parliamo di ciò che stiamo costruendo. Questo è quello che voglio vedere.