Se l'IA ci aiuterà in una crisi, abbiamo bisogno di un nuovo tipo di etica

Signora Tech | Pixabay

Jess Whittlestone del Leverhulme Center for the Future of Intelligence dell'Università di Cambridge e i suoi colleghi hanno pubblicato un pezzo di commento in Nature Machine Intelligence questa settimana sostenendo che se l'intelligenza artificiale lo farà aiutare in una crisi , abbiamo bisogno di un modo nuovo e più veloce di fare l'etica dell'IA, che chiamano etica per l'urgenza.

JESS WHITTLESTONE

Per Whittlestone, ciò significa anticipare i problemi prima che si verifichino, trovare modi migliori per integrare sicurezza e affidabilità nei sistemi di intelligenza artificiale e enfatizzare le competenze tecniche a tutti i livelli di sviluppo e utilizzo della tecnologia. Al centro di queste raccomandazioni c'è l'idea che l'etica deve diventare semplicemente una parte del modo in cui l'IA viene creata e utilizzata, piuttosto che un componente aggiuntivo o un ripensamento.

In definitiva, l'IA sarà più rapida da implementare quando necessario se realizzata con l'etica integrata, sostiene. Le ho chiesto di spiegarmi cosa significa.

Questa intervista è stata modificata per lunghezza e chiarezza.

Perché abbiamo bisogno di un nuovo tipo di etica per l'IA?

Con questa pandemia siamo improvvisamente in una situazione in cui le persone parlano davvero se l'IA potrebbe essere utile, se potrebbe salvare vite umane. Ma la crisi ha chiarito che non disponiamo di procedure etiche sufficientemente solide per un'implementazione sicura dell'IA, e certamente non di quelle che possono essere implementate rapidamente.

Cosa c'è di sbagliato nell'etica che abbiamo?

Ho passato gli ultimi due anni a rivedere le iniziative etiche dell'IA, osservando i loro limiti e chiedendo cos'altro abbiamo bisogno. Rispetto a qualcosa come l'etica biomedica, l'etica che abbiamo per l'IA non è molto pratica. Si concentra troppo su principi di alto livello. Siamo tutti d'accordo sul fatto che l'IA dovrebbe essere usata per sempre. Ma cosa significa veramente? E cosa succede quando i principi di alto livello entrano in conflitto?

Ad esempio, l'IA ha il potenziale per salvare vite umane, ma ciò potrebbe avvenire a scapito delle libertà civili come la privacy. Come affrontiamo questi compromessi in modi accettabili per molte persone diverse? Non abbiamo capito come affrontare gli inevitabili disaccordi.

L'etica dell'IA tende anche a rispondere ai problemi esistenti piuttosto che ad anticiparne di nuovi. La maggior parte delle questioni di cui le persone stanno discutendo oggi in merito al pregiudizio algoritmico sono emerse solo quando le cose di alto profilo sono andate storte, come le decisioni di polizia e libertà vigilata.

Ma l'etica deve essere proattiva e prepararsi a ciò che potrebbe andare storto, non a ciò che è già andato storto. Ovviamente, non possiamo prevedere il futuro. Ma man mano che questi sistemi diventano più potenti e vengono utilizzati in domini con posta in gioco più alta, i rischi aumenteranno.

Quali opportunità abbiamo perso non disponendo di queste procedure?

È facile esagerare con ciò che è possibile e probabilmente l'IA non avrebbe mai avuto un ruolo importante in questa crisi. I sistemi di apprendimento automatico non sono abbastanza maturi.

Ma ci sono una manciata di casi in cui l'IA viene testata per la diagnosi medica o per l'allocazione delle risorse tra gli ospedali. Avremmo potuto utilizzare questo tipo di sistemi in modo più ampio, riducendo parte del carico sull'assistenza sanitaria, se fossero stati progettati fin dall'inizio tenendo conto dell'etica.

Con l'allocazione delle risorse in particolare, stai decidendo quali pazienti hanno la massima priorità. È necessario un quadro etico integrato prima di utilizzare l'IA per aiutare con questo tipo di decisioni.

Quindi l'etica per l'urgenza è semplicemente un appello a migliorare l'etica dell'IA esistente?

Ne fa parte. Il fatto che non disponiamo di processi solidi e pratici per l'etica dell'IA rende le cose più difficili in uno scenario di crisi. Ma in tempi come questo hai anche maggiore bisogno di trasparenza. La gente parla molto della mancanza di trasparenza con i sistemi di apprendimento automatico come scatole nere. Ma c'è un altro tipo di trasparenza, riguardo a come vengono utilizzati i sistemi.

Ciò è particolarmente importante in una crisi, quando i governi e le organizzazioni stanno prendendo decisioni urgenti che implicano compromessi. A chi dai la priorità la salute? Come si salvano vite senza distruggere l'economia? Se un'IA viene utilizzata nel processo decisionale pubblico, la trasparenza è più importante che mai.

Cosa deve cambiare?

Dobbiamo pensare all'etica in modo diverso. Non dovrebbe essere qualcosa che accade di lato o dopo, qualcosa che ti rallenta. In primo luogo, dovrebbe semplicemente far parte del modo in cui costruiamo questi sistemi: etica di progettazione.

A volte sento che etica è la parola sbagliata. Quello che stiamo dicendo è che i ricercatori e gli ingegneri dell'apprendimento automatico devono essere formati per pensare alle implicazioni di ciò che stanno costruendo, sia che stiano facendo ricerche fondamentali come la progettazione di un nuovo algoritmo di apprendimento per rinforzo o qualcosa di più pratico come lo sviluppo un'applicazione sanitaria. Se il loro lavoro trova la sua strada in prodotti e servizi del mondo reale, come potrebbe essere? Che tipo di problemi potrebbe sollevare?

Alcuni di questi sono già iniziati. Stiamo lavorando con alcuni ricercatori di intelligenza artificiale all'inizio della carriera, parlando con loro di come portare questo modo di pensare nel loro lavoro. È un po' un esperimento, per vedere cosa succede. Ma anche NeurIPS [una conferenza leader sull'IA] ora chiede ai ricercatori di includere una dichiarazione alla fine dei loro articoli che delinei i potenziali impatti sociali del loro lavoro.

Hai detto che abbiamo bisogno di persone con competenze tecniche a tutti i livelli di progettazione e utilizzo dell'IA. Perché?

Non sto dicendo che la competenza tecnica sia il culmine dell'etica, ma è una prospettiva che deve essere rappresentata. E non voglio suonare come se stessi dicendo che tutta la responsabilità è sui ricercatori, perché molte delle decisioni importanti su come viene utilizzata l'IA vengono prese più in alto nella catena, dall'industria o dai governi.

Ma temo che le persone che prendono quelle decisioni non sempre comprendano appieno i modi in cui potrebbero andare storte. Quindi è necessario coinvolgere persone con competenze tecniche. Le nostre intuizioni su ciò che l'IA può e non può fare non sono molto affidabili.

Ciò di cui hai bisogno a tutti i livelli di sviluppo dell'IA sono persone che comprendano davvero i dettagli dell'apprendimento automatico per lavorare con persone che capiscono davvero l'etica. Tuttavia, la collaborazione interdisciplinare è difficile. Le persone con diverse aree di competenza spesso parlano delle cose in modi diversi. Ciò che un ricercatore di apprendimento automatico intende per privacy può essere molto diverso da ciò che un avvocato intende per privacy e puoi finire con le persone che parlano tra loro. Ecco perché è importante che questi diversi gruppi si abituino a lavorare insieme.

Stai spingendo per una revisione istituzionale e culturale piuttosto grande. Cosa ti fa pensare che le persone vorranno farlo piuttosto che istituire comitati etici o comitati di sorveglianza, cosa che mi fa sempre sospirare un po' perché tendono a essere sdentati?

Sì, anche io sospiro. Ma penso che questa crisi stia costringendo le persone a vedere l'importanza di soluzioni pratiche. Forse invece di dire, oh, disponiamo di questo consiglio di sorveglianza e di quel consiglio di sorveglianza, la gente dirà: dobbiamo farlo, e dobbiamo farlo correttamente.

nascondere