211service.com
L'evoluzione verso un'IA più equa
In associazione con forza vendita
La pandemia che ha imperversato in tutto il mondo nell'ultimo anno ha gettato una luce fredda e dura su molte cose: i vari livelli di preparazione a rispondere; atteggiamenti collettivi nei confronti della salute, della tecnologia e della scienza; e vaste disuguaglianze finanziarie e sociali. Mentre il mondo continua a superare la crisi sanitaria del covid-19 e in alcuni luoghi inizia persino un graduale ritorno al lavoro, alla scuola, ai viaggi e alle attività ricreative, è fondamentale risolvere le priorità contrastanti di proteggere la salute pubblica in modo equo garantendo al contempo la privacy.
La crisi estesa ha portato a un rapido cambiamento nel comportamento lavorativo e sociale, nonché a una maggiore dipendenza dalla tecnologia. Ora è più importante che mai che le aziende, i governi e la società esercitino cautela nell'applicazione della tecnologia e nella gestione delle informazioni personali. L'adozione ampliata e rapida dell'intelligenza artificiale (AI) dimostra come le tecnologie adattive siano inclini a intersecarsi con gli esseri umani e le istituzioni sociali in modi potenzialmente rischiosi o iniqui.
Il nostro rapporto con la tecnologia nel suo insieme sarà cambiato radicalmente dopo la pandemia, afferma Yoav Schlesinger, preside della pratica di intelligenza artificiale etica presso Salesforce. Ci sarà un processo di negoziazione tra persone, imprese, governo e tecnologia; il modo in cui i loro dati fluiscono tra tutte quelle parti verranno rinegoziati in un nuovo contratto sui dati sociali.
Intelligenza artificiale in azione
Quando la crisi del covid-19 ha iniziato a manifestarsi all'inizio del 2020, gli scienziati si sono rivolti all'IA per supportare una varietà di usi medici, come identificare potenziali farmaci candidati per vaccini o trattamenti, aiutare a rilevare potenziali sintomi di covid-19 e allocare risorse scarse come l'uso intensivo -letti e ventilatori per unità di cura. In particolare, si sono basati sulla potenza analitica dei sistemi potenziati dall'IA per sviluppare vaccini e trattamenti all'avanguardia.
Sebbene gli strumenti avanzati di analisi dei dati possano aiutare a estrarre informazioni da un'enorme quantità di dati, il risultato non è sempre stato risultati più equi. In effetti, gli strumenti basati sull'intelligenza artificiale e i set di dati con cui lavorano possono perpetuare pregiudizi intrinseci o iniquità sistemiche. Durante la pandemia, agenzie come i Centers for Disease Control and Prevention e l'Organizzazione mondiale della sanità hanno raccolto enormi quantità di dati, ma i dati non rappresentano necessariamente accuratamente le popolazioni che sono state colpite in modo sproporzionato e negativo, inclusi neri, marroni e indigeni persone, né alcuni dei progressi diagnostici che hanno fatto, dice Schlesinger.
Ad esempio, i dispositivi indossabili biometrici come Fitbit o Apple Watch si dimostrano promettenti nella loro capacità di rilevare potenziali sintomi del covid-19, come i cambiamenti di temperatura o la saturazione di ossigeno. Tuttavia, tali analisi si basano su set di dati spesso imperfetti o limitati e possono introdurre pregiudizi o ingiustizie che colpiscono in modo sproporzionato le persone e le comunità vulnerabili.
C'è una ricerca che mostra il luce LED verde ha più difficoltà a leggere il polso e la saturazione di ossigeno sulle tonalità della pelle più scure, afferma Schlesinger, riferendosi alla sorgente di luce a semiconduttore. Quindi potrebbe non fare un buon lavoro nel rilevare i sintomi covid per chi ha la pelle nera e marrone.
L'intelligenza artificiale ha dimostrato una maggiore efficacia nell'aiutare ad analizzare enormi set di dati. Un team della Viterbi School of Engineering presso la University of Southern California ha sviluppato un framework di intelligenza artificiale per aiutare ad analizzare i candidati al vaccino covid-19. Dopo aver identificato 26 potenziali candidati, ha ristretto il campo a 11 con maggiori probabilità di successo. La fonte dei dati per l'analisi è stata l'Immune Epitope Database, che include più di 600.000 determinanti del contagio derivanti da più di 3.600 specie.
Altri ricercatori di Viterbi stanno applicando l'IA per decifrare i codici culturali in modo più accurato e comprendere meglio le norme sociali che guidano il comportamento dei gruppi etnici e razziali. Ciò può avere un impatto significativo su come se la cava una certa popolazione durante una crisi come la pandemia, a causa di cerimonie religiose, tradizioni e altri costumi sociali che possono facilitare la diffusione virale.
I principali scienziati Kristina Lerman e Fred Morstatter hanno basato la loro ricerca Teoria dei fondamenti morali , che descrive l'etica intuitiva che forma i costrutti morali di una cultura, come la cura, l'equità, la lealtà e l'autorità, aiutando a informare il comportamento individuale e di gruppo.
Il nostro obiettivo è sviluppare un quadro che ci permetta di comprendere le dinamiche che guidano il processo decisionale di una cultura a un livello più profondo, afferma Morstatter in un rapporto pubblicato dall'USC . E così facendo, generiamo previsioni più culturalmente informate.
La ricerca esamina anche come implementare l'IA in modo etico ed equo. La maggior parte delle persone, ma non tutte, sono interessate a rendere il mondo un posto migliore, afferma Schlesinger. Ora dobbiamo passare al livello successivo: quali obiettivi vogliamo raggiungere e quali risultati vorremmo vedere? Come misureremo il successo e come sarà?
Alleviare le preoccupazioni etiche
È fondamentale interrogare le ipotesi sui dati raccolti e sui processi di intelligenza artificiale, afferma Schlesinger. Parliamo di raggiungere l'equità attraverso la consapevolezza. In ogni fase del processo, esprimi giudizi di valore o ipotesi che peseranno i tuoi risultati in una direzione particolare, dice. Questa è la sfida fondamentale della costruzione di un'IA etica, che è guardare a tutti i luoghi in cui gli esseri umani sono prevenuti.
Parte di questa sfida consiste nell'eseguire un esame critico dei set di dati che informano i sistemi di IA. È essenziale comprendere le fonti e la composizione dei dati e rispondere a domande quali: come sono composti i dati? Comprende una vasta gamma di stakeholder? Qual è il modo migliore per distribuire quei dati in un modello per ridurre al minimo i pregiudizi e massimizzare l'equità?
Mentre le persone tornano al lavoro, ora potrebbero esserlo i datori di lavoro utilizzando tecnologie di rilevamento con intelligenza artificiale integrata , comprese le termocamere per rilevare le alte temperature; sensori audio per rilevare tosse o voci alzate, che contribuiscono alla diffusione delle goccioline respiratorie; e flussi video per monitorare le procedure di lavaggio delle mani, le normative sul distanziamento fisico e i requisiti delle maschere.
Tali sistemi di monitoraggio e analisi non solo presentano problemi di accuratezza tecnica, ma comportano rischi fondamentali per diritti umani , privacy, sicurezza e fiducia . L'impulso per una maggiore sorveglianza è stato un preoccupante effetto collaterale della pandemia. Le agenzie governative hanno utilizzato filmati di telecamere di sorveglianza, dati sulla posizione degli smartphone, record di acquisto con carta di credito e persino scansioni passive della temperatura in aree pubbliche affollate come gli aeroporti per aiutare a tracciare i movimenti di persone che potrebbero aver contratto o essere state esposte al covid-19 e stabilire la trasmissione del virus Catene.
La prima domanda a cui è necessario rispondere non è solo possiamo farlo, ma dovremmo farlo? dice Schlesinger. La scansione delle persone per i loro dati biometrici senza il loro consenso solleva preoccupazioni etiche, anche se è posizionata come un vantaggio per il bene comune. Dovremmo avere una conversazione solida come società sul fatto che ci siano buone ragioni per implementare queste tecnologie in primo luogo.
Come appare il futuro
Mentre la società torna a qualcosa che si avvicina alla normalità, è tempo di rivalutare fondamentalmente la relazione con i dati e stabilire nuove norme per la raccolta dei dati, nonché l'uso appropriato e il potenziale uso improprio dei dati. Durante la creazione e l'implementazione dell'IA, i tecnologi continueranno a formulare le ipotesi necessarie sui dati e sui processi, ma le basi di tali dati dovrebbero essere messe in discussione. I dati sono di provenienza legittima? Chi l'ha assemblato? Su quali ipotesi si basa? È presentato in modo accurato? Come preservare la privacy di cittadini e consumatori?
Poiché l'IA è più diffusa, è essenziale considerare come generare anche fiducia. L'uso dell'IA per aumentare il processo decisionale umano e non sostituire del tutto l'input umano è un approccio.
Ci saranno più domande sul ruolo che l'IA dovrebbe svolgere nella società, sulla sua relazione con gli esseri umani e su quali sono i compiti appropriati per gli esseri umani e quali sono i compiti appropriati per un'IA, afferma Schlesinger. Ci sono alcune aree in cui le capacità dell'IA e la sua capacità di aumentare le capacità umane accelereranno la nostra fiducia e la nostra dipendenza. Nei luoghi in cui l'IA non sostituisce gli umani, ma aumenta i loro sforzi, questo è il prossimo orizzonte.
Ci saranno sempre situazioni in cui un essere umano ha bisogno di essere coinvolto nel processo decisionale. Nei settori regolamentati, ad esempio, come quello sanitario, bancario e finanziario, è necessario che ci sia un essere umano nel circuito per mantenere la conformità, afferma Schlesinger. Non puoi semplicemente implementare l'IA per prendere decisioni sull'assistenza senza il contributo di un medico. Per quanto ci piacerebbe credere che l'IA sia in grado di farlo, l'IA non ha ancora empatia e probabilmente non lo farà mai.
È fondamentale che i dati raccolti e creati dall'IA non esacerbano ma riducano al minimo le disuguaglianze. Deve esserci un equilibrio tra la ricerca di modi in cui l'IA possa aiutare ad accelerare il progresso umano e sociale, promuovere azioni e risposte eque e semplicemente riconoscere che determinati problemi richiederanno soluzioni umane.
Questo contenuto è stato prodotto da Insights, il ramo dei contenuti personalizzati di MIT Technology Review. Non è stato scritto dalla redazione del MIT Technology Review.