I ricercatori di Emotion AI affermano che le affermazioni esagerate danno al loro lavoro una cattiva reputazione

Un'illustrazione. A sinistra, ritagli sparsi di parti del viso come occhi e bocche contenuti in una scatola. Al centro: un viso completo, occhi chiusi. A destra: una rete a forma di testa. Franziska Barczyk

Forse hai sentito parlare di AI che conduce interviste. O forse sei stato intervistato da uno tu stesso. Aziende come HireVue affermano che il loro software può analizzare le interviste video per capire un candidato punteggio di occupabilità . Gli algoritmi non valutano solo la postura del viso e del corpo per l'aspetto; dicono anche ai datori di lavoro se l'intervistato lo è tenace o bravo a lavorare in gruppo . Queste valutazioni potrebbero avere un grande effetto sul futuro di un candidato. Nel noi e Corea del Sud , dove le assunzioni assistite dall'intelligenza artificiale sono diventate sempre più popolari, i consulenti del lavoro ora addestrano neolaureati e persone in cerca di lavoro su come intervistare un algoritmo. Questa tecnologia viene implementata anche sui bambini nelle aule e è stato utilizzato negli studi per rilevare l'inganno nei video delle aule di tribunale .

Ma molte di queste promesse non sono supportate dal consenso scientifico. Non ci sono studi forti e sottoposti a revisione paritaria che dimostrino che l'analisi della postura del corpo o delle espressioni facciali può aiutare a scegliere i migliori lavoratori o studenti (in parte perché le aziende sono riservate sui loro metodi). Di conseguenza, il clamore attorno al riconoscimento delle emozioni, che è P destinato a diventare un mercato da 25 miliardi di dollari entro il 2023 , ha creato un contraccolpo da parte di esperti di etica tecnologica e attivisti che temono che la tecnologia possa sollevare lo stesso tipo di problemi di discriminazione di sentenza predittiva o algoritmi abitativi per i proprietari che decidono a chi affittare.

Il clamore preoccupa anche i ricercatori. Molti concordano sul fatto che il loro lavoro, che utilizza vari metodi (come l'analisi di microespressioni o voce) per discernere e interpretare le espressioni umane, viene cooptato e utilizzato in applicazioni commerciali che hanno una base traballante nella scienza. Dicono che la mancanza di regolamentazione del governo non è solo un male per i consumatori. Anche per loro è un male.

Il buono e il cattivo

Il riconoscimento delle emozioni, un sottoinsieme dell'informatica affettiva, è ancora una tecnologia nascente. Mentre i ricercatori di intelligenza artificiale hanno testato i confini di ciò che possiamo e non possiamo quantificare sul comportamento umano, la scienza alla base delle emozioni ha continuato a svilupparsi. Ci sono ancora diverse teorie, ad esempio, sul fatto che le emozioni possano essere distinte in modo discreto o cadere su un continuum. Nel frattempo, le stesse espressioni possono significare cose diverse in culture diverse. A luglio l'a meta-studio ha concluso che non è possibile giudicare le emozioni semplicemente guardando il viso di una persona. Lo studio è stato ampiamente trattato (anche in questa pubblicazione), spesso con titoli che lo suggeriscono Non ci si può fidare del riconoscimento delle emozioni .

I ricercatori sul riconoscimento delle emozioni sono già consapevoli di questa limitazione. Quelli con cui abbiamo parlato sono stati attenti a fare affermazioni su ciò che il loro lavoro può e non può fare. Molti hanno sottolineato che il riconoscimento delle emozioni non può effettivamente valutare le emozioni e l'esperienza interne di un individuo. Può solo stimare come le emozioni di quell'individuo potrebbero essere percepite dagli altri, o suggerire tendenze generali basate sulla popolazione (come un film che suscita, in media, una reazione più positiva di un altro). Nessun ricercatore serio affermerebbe che puoi analizzare le unità di azione in faccia e quindi sapere effettivamente cosa pensano le persone, afferma Elisabeth André, esperta di informatica affettiva presso l'Università di Augusta.

I ricercatori notano anche che il riconoscimento delle emozioni implica molto di più del semplice guardare il viso di qualcuno. Può anche comportare l'osservazione della postura del corpo, dell'andatura e altre caratteristiche, nonché l'utilizzo di sensori biometrici e audio per raccogliere dati più olistici.

Tali distinzioni sono belle ma importanti: squalificano applicazioni come HireVue, che pretendono di valutare la competenza intrinseca di un individuo, ma supportano gli altri, come le tecnologie che mirano a trasformare le macchine in collaboratori e compagni più intelligenti per gli esseri umani. (HireVue non ha risposto a una richiesta di commento.) Un robot umanoide potrebbe sorridere quando tu sorridi, un'azione speculare che gli umani usano spesso per rendere le interazioni più naturali. Un dispositivo indossabile potrebbe ricordarti di riposare se rileva livelli superiori al basale di cortisolo, l'ormone dello stress del corpo. Nessuna di queste applicazioni richiede un algoritmo per valutare i tuoi pensieri e sentimenti privati; richiedono solo una stima di una risposta appropriata ai livelli di cortisolo o al linguaggio del corpo. Inoltre, non prendono decisioni ad alto rischio sulla vita di un individuo, a differenza di algoritmi di assunzione non provati. Se vogliamo che i computer e i sistemi informatici ci aiutino, sarebbe positivo se avessero un'idea di come ci sentiamo, afferma Nuria Oliver, capo scienziata dei dati presso la DataPop Alliance senza scopo di lucro.

Ma gran parte di questa sfumatura si perde quando la ricerca sul riconoscimento delle emozioni viene utilizzata per realizzare applicazioni commerciali redditizie. Gli stessi algoritmi di monitoraggio dello stress in un dispositivo indossabile potrebbero essere utilizzati da un'azienda che cerca di assicurarsi che tu stia lavorando abbastanza duramente. Anche per aziende come Affectiva, fondate da ricercatori che parlano dell'importanza della privacy e dell'etica, i confini sono difficili da definire. Esso ha ha venduto la sua tecnologia a HireVue . (Affectiva ha rifiutato di commentare società specifiche.)

Una richiesta di regolamentazione

A dicembre, l'istituto di ricerca AI Now ha chiesto il divieto delle tecnologie di riconoscimento delle emozioni in decisioni importanti che hanno un impatto sulla vita delle persone . È uno dei primi appelli a vietare una tecnologia che ha ricevuto meno attenzione normativa rispetto ad altre forme di intelligenza artificiale, anche se il suo utilizzo nello screening del lavoro e nelle classi potrebbe avere gravi effetti.

Al contrario, il Congresso ha appena tenuto il suo terza udienza sul riconoscimento facciale in meno di un anno , e lo ha diventare un problema nelle elezioni del 2020 . Gli attivisti stanno lavorando per boicottare le tecnologie di riconoscimento facciale e diversi rappresentanti stanno riconoscendo la necessità di una regolamentazione sia nel settore privato che in quello pubblico. Per l'affettive computing, non ci sono state tante campagne e gruppi di lavoro dedicati e i tentativi di regolamentazione sono stati limitati. Una legge dell'Illinois regolazione dell'analisi AI dei video dei colloqui di lavoro è entrato in vigore a gennaio e alla Federal Trade Commission è stato chiesto di indagare su HireVue (anche se non si sa se intenda farlo).

Sebbene molti ricercatori ritengano che un divieto sia troppo ampio, concordano sul fatto che anche un vuoto normativo è dannoso. Abbiamo processi chiaramente definiti per certificare che determinati prodotti che consumiamo, siano essi il cibo che mangiamo, i farmaci che assumiamo, sono sicuri per noi da assumerli e in realtà fanno tutto ciò che affermano di fare, afferma Oliver . Non abbiamo gli stessi processi per la tecnologia. Ritiene che le aziende le cui tecnologie possono influire in modo significativo sulla vita delle persone dovrebbero dover dimostrare di soddisfare determinati standard di sicurezza.

Rosalind Picard, professoressa al MIT Media Lab che ha cofondato Affectiva e un'altra startup di informatica affettiva, Empatica, fa eco a questo sentimento. Per un modello di regolamentazione esistente, indica il Legge sulla protezione del poligrafo dei dipendenti limitando l'uso dei rilevatori di bugie, che secondo lei sono essenzialmente una tecnologia di calcolo affettivo. Ad esempio, la legge vieta alla maggior parte dei datori di lavoro privati ​​di utilizzare i poligrafi e non consente ai datori di lavoro di chiedere i risultati dei test della macchina della verità.

Suggerisce che tutto l'uso di tali tecnologie dovrebbe essere opt-in e che le aziende dovrebbero essere tenute a rivelare come sono state testate le loro tecnologie e quali sono i loro limiti. Quello che abbiamo oggi è che [le aziende] possono fare queste affermazioni oltraggiose che sono semplicemente false, perché in questo momento l'acquirente non è così ben istruito, dice. E non dovremmo richiedere che gli acquirenti siano ben istruiti. (Picard, che dice di aver lasciato Affectiva nel 2013, non supporta le affermazioni che HireVue sta facendo.)

Da parte sua, Meredith Whittaker, ricercatrice alla NYU e co-direttore di AI Now, sottolinea la differenza tra ricerca e commercializzazione. Non stiamo contestando l'intero campo dell'informatica affettiva, dice. In particolare, stiamo denunciando l'impiego non regolamentato, non convalidato e scientificamente infondato di tecnologie di riconoscimento degli affetti commerciali. La commercializzazione sta danneggiando le persone in questo momento, potenzialmente, perché sta facendo affermazioni che stanno determinando l'accesso delle persone alle risorse.

Il divieto di utilizzare il riconoscimento delle emozioni in applicazioni come lo screening del lavoro aiuterebbe a impedire che la commercializzazione superi la scienza. Arrestare prima la diffusione delle tecnologie, dice, e poi investire nella ricerca. Se la ricerca conferma che le tecnologie funzionano come affermano le aziende, allora prendi in considerazione l'allentamento del divieto.

Sarebbero comunque necessari altri regolamenti, tuttavia, per proteggere le persone: alla fine c'è più da considerare, sostiene Whittaker, oltre alla semplice credibilità scientifica. Dobbiamo garantire, quando questi sistemi sono utilizzati in contesti sensibili, che siano contestabili, che siano usati in modo equo, dice, e che non portino a maggiori asimmetrie di potere tra le persone che li usano e le persone su cui sono usati.

nascondere