Smettila di parlare di etica dell'IA. È tempo di parlare di potere.

Vladan Joler

All'inizio del XX secolo, un cavallo tedesco conquistò l'Europa. L'intelligente Hans, come era noto, poteva apparentemente eseguire tutti i tipi di trucchi precedentemente limitati agli umani. Poteva aggiungere e sottrarre numeri, leggere l'ora e leggere un calendario, persino sillabare parole e frasi, il tutto scrivendo la risposta con uno zoccolo. A era un tocco; B aveva due anni; 2+3 era cinque. Era una sensazione internazionale e una prova, molti credevano, che gli animali potevano essere insegnati a ragionare così come gli esseri umani.

Il problema era che Clever Hans non stava davvero facendo nessuna di queste cose. Come scoprirono in seguito gli investigatori, il cavallo aveva imparato a fornire la risposta giusta osservando i cambiamenti nella postura, nella respirazione e nelle espressioni facciali dei suoi interlocutori. Se l'interrogante fosse stato troppo lontano, Hans avrebbe perso le sue capacità. La sua intelligenza era solo un'illusione.

Questa storia è usata come ammonimento per i ricercatori di intelligenza artificiale quando valutano le capacità dei loro algoritmi. Un sistema non è sempre così intelligente come sembra. Abbiate cura di misurarlo correttamente.

PER CORTESIA DI KATE CRAWFORD

Ma nel suo nuovo libro, Atlante dell'IA , la principale studiosa di intelligenza artificiale Kate Crawford capovolge questa morale. Il problema, scrive, era con il modo in cui le persone definivano i risultati di Hans: Hans stava già compiendo notevoli prodezze di comunicazione tra specie, esibizioni pubbliche e notevole pazienza, ma queste non erano riconosciute come intelligenza.

Inizia così l'esplorazione di Crawford nella storia dell'intelligenza artificiale e del suo impatto sul nostro mondo fisico. Ogni capitolo cerca di ampliare la nostra comprensione della tecnologia svelando quanto l'abbiamo vista e definita in modo restrittivo.

Crawford fa questo portandoci in un viaggio globale, dalle miniere in cui vengono estratti gli elementi delle terre rare utilizzati nella produzione di computer ai centri di distribuzione Amazon dove i corpi umani sono stati meccanizzati nell'incessante ricerca della crescita e del profitto dell'azienda. Nel primo capitolo, racconta di aver guidato un furgone dal cuore della Silicon Valley a una minuscola comunità mineraria nella Clayton Valley del Nevada. Lì indaga sulle pratiche ambientali distruttive necessarie per ottenere il litio che alimenta i computer del mondo. È un forte esempio di quanto siano vicini questi due luoghi nello spazio fisico e quanto siano distanti in termini di ricchezza.

Basando la sua analisi su tali indagini fisiche, Crawford elimina l'eufemistica inquadratura secondo cui l'intelligenza artificiale è semplicemente un software efficiente in esecuzione nel cloud. Le sue descrizioni vivide e ravvicinate della terra e del lavoro su cui si basa l'IA e le storie profondamente problematiche dietro di essa rendono impossibile continuare a parlare della tecnologia in modo puramente astratto.

Nel quarto capitolo, ad esempio, Crawford ci porta in un altro viaggio, questo nel tempo piuttosto che nello spazio. Per spiegare la storia dell'ossessione del campo per la classificazione, visita il Penn Museum di Filadelfia, dove fissa file e file di teschi umani.

I teschi sono stati raccolti da Samuel Morton, un craniologo americano del 19° secolo, che credeva che fosse possibile dividerli oggettivamente in base alle loro misurazioni fisiche nelle cinque razze del mondo: africano, nativo americano, caucasico, malese e mongolo. Crawford traccia parallelismi tra il lavoro di Morton e i moderni sistemi di intelligenza artificiale che continuano a classificare il mondo in categorie fisse.

Queste classificazioni sono tutt'altro che oggettive, sostiene. Impongono un ordine sociale, naturalizzano le gerarchie e amplificano le disuguaglianze. Vista attraverso questa lente, l'IA non può più essere considerata una tecnologia oggettiva o neutra.

Nei suoi 20 anni di carriera, Crawford ha affrontato le conseguenze nel mondo reale di sistemi di dati su larga scala, apprendimento automatico e intelligenza artificiale. Nel 2017, con Meredith Whittaker, ha cofondato l'istituto di ricerca AI Now come una delle prime organizzazioni dedicate allo studio delle implicazioni sociali di queste tecnologie. Ora è anche professoressa presso l'USC Annenberg, a Los Angeles, e la cattedra inaugurale in AI e giustizia presso l'École Normale Supérieure di Parigi, nonché ricercatrice principale senior presso Microsoft Research.

Cinque anni fa, dice Crawford, stava ancora lavorando per introdurre la semplice idea che i dati e l'IA non fossero neutrali. Ora la conversazione si è evoluta e l'etica dell'IA è sbocciata nel suo campo. Spera che il suo libro lo aiuti a maturare ulteriormente.

Mi sono seduto con Crawford per parlare del suo libro.

Quanto segue è stato modificato per lunghezza e chiarezza.

Perché hai scelto di realizzare questo progetto di libro e cosa significa per te?

Crawford: Molti dei libri che sono stati scritti sull'intelligenza artificiale parlano davvero solo di risultati tecnici molto limitati. E a volte scrivono dei grandi uomini dell'IA, ma questo è davvero tutto ciò che abbiamo avuto in termini di lottare davvero con ciò che è l'intelligenza artificiale.

Penso che abbia prodotto questa comprensione molto distorta dell'intelligenza artificiale come sistemi puramente tecnici che sono in qualche modo oggettivi e neutri e, come dicono Stuart Russell e Peter Norvig in il loro libro di testo —come agenti intelligenti che prendono la migliore decisione di ogni possibile azione.

Volevo fare qualcosa di molto diverso: capire davvero come è fatta l'intelligenza artificiale in senso lato. Ciò significa guardare alle risorse naturali che lo guidano, all'energia che consuma, al lavoro nascosto lungo tutta la catena di approvvigionamento e alle enormi quantità di dati che vengono estratti da ogni piattaforma e dispositivo che utilizziamo ogni giorno.

Storia correlata

I lavoratori di Deepfake Amazon stanno seminando confusione su Twitter. Non è questo il problema.

I resoconti sono probabilmente solo parodie, non parte di una sinistra strategia aziendale, ma illustrano il genere di cose che potrebbero accadere un giorno.

Nel fare ciò, volevo davvero aprire questa comprensione dell'IA come né artificiale né intelligente. È il di fronte di artificiale. Proviene dalle parti più materiali della crosta terrestre e dal lavoro dei corpi umani, e da tutti gli artefatti che produciamo, diciamo e fotografiamo ogni giorno. Né è intelligente. Penso che ci sia questo grande peccato originale nel campo, in cui le persone presumevano che i computer fossero in qualche modo come cervelli umani e se li addestriamo come bambini, diventeranno lentamente questi esseri soprannaturali.

Questo è qualcosa che penso sia davvero problematico: abbiamo comprato questa idea di intelligenza quando in realtà stiamo solo guardando forme di analisi statistica su larga scala che hanno tanti problemi quanti sono i dati che vengono forniti.

Ti è stato subito chiaro che questo è il modo in cui le persone dovrebbero pensare all'IA? O è stato un viaggio?

È stato assolutamente un viaggio. Direi che una delle svolte per me è stata nel lontano 2016, quando ho iniziato un progetto chiamato Anatomia di un sistema di IA con Vladan Joler. Ci siamo incontrati a una conferenza specifica sull'IA abilitata alla voce e stavamo cercando di disegnare in modo efficace ciò che serve per far funzionare Amazon Echo. Quali sono i componenti? Come estrae i dati? Quali sono i livelli nella pipeline di dati?

Ci siamo resi conto, beh, in realtà, per capirlo, devi capire da dove provengono i componenti. Dove sono state prodotte le patatine? Dove sono le miniere? Dove viene fuso? Dove sono i percorsi logistici e di filiera?

Infine, come possiamo tracciare la fine della vita di questi dispositivi? Come guardiamo a dove si trovano le discariche di rifiuti elettronici in luoghi come la Malesia, il Ghana e il Pakistan? Ciò con cui siamo finiti è stato questo progetto di ricerca di due anni che richiede molto tempo per tracciare davvero quelle catene di approvvigionamento di materiali dalla culla alla tomba.

Quando inizi a guardare i sistemi di intelligenza artificiale su una scala più ampia e su quell'orizzonte temporale più lungo, ti allontani da questi resoconti molto ristretti dell'equità e dell'etica dell'IA per dire: questi sono sistemi che producono cambiamenti geomorfici profondi e duraturi sul nostro pianeta, come nonché aumentare le forme di disuguaglianza del lavoro che già abbiamo nel mondo.

Questo mi ha fatto capire che dovevo passare dall'analisi di un solo dispositivo, Amazon Echo, all'applicazione di questo tipo di analisi all'intero settore. Questo per me era il grande compito, ed è per questo Atlante dell'IA ci sono voluti cinque anni per scrivere. C'è un tale bisogno di vedere effettivamente quanto ci costano questi sistemi, perché raramente facciamo il lavoro per comprendere effettivamente le loro vere implicazioni planetarie.

L'altra cosa che direi che è stata una vera ispirazione è il crescente campo di studiosi che si pongono queste domande più grandi su lavoro, dati e disuguaglianza. Qui penso a Ruha Benjamin, Safiya Noble, Mar Hicks, Julie Cohen, Meredith Broussard, Simone Brown: l'elenco potrebbe continuare. Vedo questo come un contributo a quel corpo di conoscenze introducendo prospettive che collegano l'ambiente, i diritti del lavoro e la protezione dei dati.

Viaggi molto per tutto il libro. Quasi ogni capitolo inizia con te che ti guardi effettivamente intorno a ciò che ti circonda. Perché era importante per te?

È stata una scelta molto consapevole basare un'analisi dell'IA in luoghi specifici, per allontanarsi da questi luoghi astratti dello spazio algoritmico, dove si svolgono così tanti dibattiti sull'apprendimento automatico. E si spera che evidenzi il fatto che quando non lo facciamo, quando parliamo solo di questi spazi da nessuna parte dell'obiettività algoritmica, questa è anche una scelta politica, e ha delle ramificazioni.

Per quanto riguarda l'intreccio dei luoghi, questo è il motivo per cui ho iniziato a pensare a questa metafora di un atlante, perché gli atlanti sono libri insoliti. Sono libri che puoi aprire e guardare la scala di un intero continente, oppure puoi ingrandire e guardare una catena montuosa o una città. Ti danno questi cambiamenti di prospettiva e cambiamenti di scala.

C'è questa bella frase che uso nel libro della fisica Ursula Franklin. Scrive di come le mappe uniscono il noto e l'ignoto in questi metodi di intuizione collettiva. Quindi, per me, è stato davvero attingere alle conoscenze che avevo, ma anche pensare ai luoghi reali in cui l'IA viene costruita letteralmente da rocce, sabbia e petrolio.

Che tipo di feedback ha ricevuto il libro?

Una delle cose che mi ha sorpreso nelle prime risposte è che le persone sentono davvero che questo tipo di prospettiva era in ritardo. C'è un momento di riconoscimento che abbiamo bisogno di avere un tipo di conversazione diverso da quelli che abbiamo avuto negli ultimi anni.

Abbiamo dedicato troppo tempo a concentrarci su soluzioni tecnologiche limitate per i sistemi di intelligenza artificiale e centrando sempre le risposte tecniche e le risposte tecniche. Ora dobbiamo fare i conti con l'impronta ambientale dei sistemi. Dobbiamo fare i conti con le forme reali di sfruttamento del lavoro che si sono verificate nella costruzione di questi sistemi.

E ora stiamo anche iniziando a vedere l'eredità tossica di ciò che accade quando strappi da Internet quanti più dati possibile e lo chiami semplicemente verità di base. Quel tipo di inquadramento problematico del mondo ha prodotto così tanti danni e, come sempre, quei danni sono stati avvertiti soprattutto da comunità che erano già emarginate e non sperimentavano i benefici di quei sistemi.

Cosa speri che le persone inizino a fare diversamente?

Spero che sarà molto più difficile avere queste conversazioni senza uscita in cui termini come etica e intelligenza artificiale sono stati per sempre così completamente snaturato di qualsiasi significato reale . Spero che tiri da parte il sipario e dica, diamo un'occhiata a chi sta facendo funzionare le leve di questi sistemi. Ciò significa passare dal concentrarsi solo su cose come i principi etici al parlare di potere.

Come ci si allontana da questo inquadramento etico?

Storia correlata

Preoccupato per l'etica dell'IA della tua azienda? Queste startup sono qui per aiutarti. Un crescente ecosistema di iniziative di intelligenza artificiale responsabile promette di aiutare le organizzazioni a monitorare e correggere i propri modelli di intelligenza artificiale.

Se c'è stata una vera trappola nel settore tecnologico negli ultimi dieci anni, è che la teoria del cambiamento ha sempre centrato l'ingegneria. È sempre stato, se c'è un problema, c'è una soluzione tecnica per questo. E solo di recente stiamo iniziando a vedere che si allarga a Oh, beh, se c'è un problema, allora regolamento può aggiustarlo. I politici hanno un ruolo.

Ma penso che dobbiamo ampliarlo ulteriormente. Dobbiamo anche dire: dove sono i gruppi della società civile, dove sono gli attivisti, dove sono i sostenitori che affrontano questioni di giustizia climatica, diritti del lavoro, protezione dei dati? Come li includiamo in queste discussioni? Come includiamo le comunità colpite?

In altre parole, come possiamo rendere questa conversazione democratica molto più profonda su come questi sistemi stanno già influenzando la vita di miliardi di persone in modi principalmente irresponsabili che vivono al di fuori della regolamentazione e del controllo democratico?

In questo senso, questo libro sta cercando di decentrare la tecnologia e inizia a porre domande più grandi in giro: in che tipo di mondo vogliamo vivere?

Che razza di mondo fa voi vuoi vivere? Che tipo di futuro sogni?

Voglio vedere i gruppi che hanno svolto il duro lavoro di affrontare questioni come la giustizia climatica e i diritti del lavoro riunirsi e rendersi conto che questi fronti precedentemente abbastanza separati per il cambiamento sociale e la giustizia razziale hanno davvero preoccupazioni condivise e un terreno condiviso su cui coordinare e organizzare.

Perché stiamo guardando a un orizzonte temporale davvero breve qui. Abbiamo a che fare con un pianeta che è già sotto forte tensione. Stiamo assistendo a una profonda concentrazione di potere in mani straordinariamente poche. Dovresti davvero tornare ai primi giorni delle ferrovie per vedere un altro settore così concentrato, e ora potresti persino dire che la tecnologia ha superato quello.

Quindi dobbiamo lottare con i modi in cui possiamo pluralizzare le nostre società e avere maggiori forme di responsabilità democratica. E questo è un problema di azione collettiva. Non è un problema di scelta individuale. Non è che scegliamo il marchio tecnologico più etico dallo scaffale. È che dobbiamo trovare il modo di lavorare insieme su queste sfide su scala planetaria.

Aggiornare : La descrizione dell'istituto AI Now è stata chiarita.

nascondere