Riesci a creare un'IA che non sia abile?

Doug Maloney/Unsplash

L'intelligenza artificiale ha un noto problema di pregiudizi, in particolare quando si tratta di razza e genere. Potresti aver visto alcuni dei titoli dei giornali: sistemi di riconoscimento facciale che non riconoscono le donne nere o strumenti di reclutamento automatizzati che ignorare le candidate donne .

Ma mentre i ricercatori si sono sforzati di affrontare alcuni dei problemi più eclatanti, c'è un gruppo di persone che hanno trascurato: quelli con disabilità. Prendi auto a guida autonoma. I loro algoritmi si basano sui dati di addestramento per sapere che aspetto hanno i pedoni in modo che i veicoli non li investano. Se i dati sull'allenamento non includono le persone su sedia a rotelle, la tecnologia potrebbe mettere quelle persone in pericolo di vita.

Per Shari Trewin, ricercatrice del team di leadership per l'accessibilità di IBM, questo è inaccettabile. Come parte di a nuova iniziativa , lei lo è ora esplorando nuovi processi di progettazione e metodi tecnici per mitigare i pregiudizi delle macchine nei confronti delle persone con disabilità. Ci ha parlato di alcune delle sfide, nonché di alcune possibili soluzioni.

Quanto segue è stato modificato per lunghezza e chiarezza.

Perché l'equità nei confronti delle persone con disabilità è un problema diverso dall'equità riguardo ad altri attributi protetti come la razza e il genere?

Lo stato di disabilità è molto più vario e complesso nei modi in cui colpisce le persone. Molti sistemi modelleranno razza o genere come una semplice variabile con un piccolo numero di valori possibili. Ma quando si tratta di disabilità, ci sono così tante forme diverse e diversi livelli di gravità. Alcuni sono permanenti, altri temporanei. Ognuno di noi potrebbe unirsi o lasciare questa categoria in qualsiasi momento della nostra vita. È una cosa dinamica.

Circa una persona su cinque negli Stati Uniti ha attualmente una disabilità di qualche tipo. Quindi è davvero prevalente ma difficile da definire in una semplice variabile con un piccolo numero di valori possibili. Potrebbe esserci un sistema che discrimina i ciechi ma non i sordi. Quindi testare l'equità diventa molto più difficile.

Anche le informazioni sulla disabilità sono molto sensibili. Le persone sono molto più riluttanti a rivelarlo rispetto a informazioni su sesso, età o razza, e in alcune situazioni è persino illegale chiedere queste informazioni. Quindi molte volte nei dati è molto meno probabile che tu sappia qualcosa sulle disabilità che una persona potrebbe avere o meno. Ciò rende anche molto più difficile sapere se si dispone di un sistema equo.

Volevo chiederti questo. Come esseri umani, abbiamo deciso che il modo migliore per evitare la discriminazione in base alla disabilità è non rivelare lo stato di disabilità. Perché non dovrebbe valere per i sistemi di apprendimento automatico?

Shari Trewin, ricercatrice nel team di Accessibility Leadership di IBM per gentile concessione di IBM

Sì, questa è la prima cosa a cui la gente pensa: se il sistema non sa nulla dello stato di disabilità delle persone, sicuramente sarà giusto. Ma il problema è che la disabilità spesso ha un impatto su altre informazioni che vengono inserite nel modello. Ad esempio, supponiamo che io sia una persona che utilizza uno screen reader per accedere al Web e che sto facendo un test online per una domanda di lavoro. Se quel programma di test non è ben progettato e accessibile al mio screen reader, mi ci vorrà più tempo per navigare nella pagina prima di poter rispondere alla domanda. Se quel tempo non viene preso in considerazione nella valutazione di me, allora chiunque utilizzi lo stesso strumento con una disabilità simile si trova in uno svantaggio sistematico, anche se il sistema non sa che sono cieco.

Quindi, se ci sono così tante sfumature diverse nella disabilità, è davvero possibile raggiungere l'equità?

Penso che la sfida più generale per la comunità dell'IA sia come gestire i valori anomali, perché i sistemi di apprendimento automatico imparano le norme, giusto? Ottimizzano per le norme e non trattano i valori anomali in alcun modo speciale. Ma spesso le persone con disabilità non si adattano alla norma. Il modo in cui l'apprendimento automatico giudica le persone in base a chi pensa che siano simili, anche quando potrebbe non aver mai visto nessuno simile a te, è un limite fondamentale in termini di trattamento equo per le persone con disabilità.

Ciò che funzionerebbe molto meglio sarebbe un metodo che combina l'apprendimento automatico con alcune soluzioni aggiuntive, come regole logiche implementate in un livello superiore. Ci sono anche alcune situazioni in cui una maggiore attenzione alla raccolta di un set di dati più diversificato sarebbe sicuramente d'aiuto. Alcune persone stanno sperimentando tecniche in cui si elimina il nucleo dei dati e si cerca di allenarsi per i valori anomali. Altri stanno sperimentando diverse tecniche di apprendimento che potrebbero ottimizzare meglio per valori anomali piuttosto che per la norma.

Penso che sia solo quando inizi a pensare alla disabilità che inizi a pensare alla diversità degli individui e all'importanza dei valori anomali. Se non hai abbastanza diversità di genere nel tuo set di dati, puoi risolverlo. Non è così facile correggere la diversità della disabilità.

Come si supera il problema della riservatezza delle persone sul proprio stato di disabilità?

Sì, per testare l'equità di un sistema, hai bisogno di alcuni dati. E le persone con disabilità fornire quei dati è un bene sociale, ma è un rischio personale. Le persone con disabilità sono spesso facilmente identificabili anche in dati anonimi, proprio perché sono così uniche. Quindi come lo mitighiamo? Lo stiamo ancora scoprendo.

Quali sono le tue maggiori preoccupazioni riguardo a questo problema?

Spesso i sistemi di intelligenza artificiale stanno ottimizzando qualcosa che non è il benessere delle persone che sono influenzate dalle decisioni. Questo impatto deve avere molta più importanza nel processo di progettazione, in modo che non stiamo solo introducendo un sistema che guardi quanti soldi stiamo risparmiando o quanto efficientemente stiamo elaborando le persone. Abbiamo bisogno di nuove modalità di misurazione dei sistemi che incorporino l'aspetto dell'impatto sugli utenti finali, soprattutto se si tratta di un gruppo svantaggiato.

Come lo faremmo?

Testare l'equità è un modo per misurare tale impatto. Includere il gruppo svantaggiato nel processo di progettazione e ascoltare le loro preoccupazioni è un altro. Includendo anche esplicitamente alcune metriche per la soddisfazione degli stakeholder che potresti misurare attraverso interviste o sondaggi, questo genere di cose.

Quali sono le cose di cui sei entusiasta in quest'area di ricerca?

Le tecnologie di intelligenza artificiale stanno già cambiando il mondo per le persone con disabilità fornendo loro nuove funzionalità, come applicazioni che ti dicono cosa c'è nel tuo campo visivo quando punti il ​​telefono.

Penso che se lo facciamo bene, c'è una reale opportunità per i sistemi di intelligenza artificiale di migliorare rispetto ai precedenti sistemi per soli umani. Ci sono molte discriminazioni, pregiudizi e incomprensioni nei confronti delle persone con disabilità nella società odierna. Se riusciamo a trovare un modo per produrre sistemi di intelligenza artificiale che eliminino questo tipo di pregiudizi, allora possiamo iniziare a cambiare il trattamento delle persone con disabilità e ridurre la discriminazione.

nascondere