211service.com
I rilevatori di bugie sono sempre stati sospetti. L'IA ha peggiorato il problema.
Nicola Ortega
Prima che il poligrafo lo dichiarasse colpevole, Emmanuel Mervilus lavorava per una compagnia di olio da cucina nel porto di Newark, nel New Jersey. Guadagnava 12 dollari l'ora traslocando scatole, ma non era abbastanza. Suo fratello e sua sorella erano troppo giovani per lavorare e sua madre stava combattendo una costosa battaglia contro il cancro. Il suo capo al porto, tuttavia, gli aveva detto che era il prossimo in linea per la promozione a una posizione di tecnico, che sarebbe arrivata con un aumento di $ 25 l'ora.
Mervilus stava ancora aspettando questa promozione il 19 ottobre 2006, quando lui e un amico si fermarono a un Dunkin' Donuts nella vicina Elizabeth, nel New Jersey. Pochi minuti dopo, mentre camminavano per la strada, due agenti di polizia si sono avvicinati a loro e li hanno accusati di aver derubato un uomo sotto la minaccia di un coltello pochi minuti prima, fuori da una vicina stazione ferroviaria.
La vittima aveva identificato a distanza Mervilus e il suo amico. Nel disperato tentativo di provare la sua innocenza, Mervilus si offrì di fare un test del poligrafo. La polizia acconsentì, ma nei giorni prima del test la madre di Mervilus morì. Era sconvolto e ansioso quando la polizia lo ha legato al dispositivo. Ha fallito il test, ha chiesto di ripeterlo e gli è stato rifiutato.
Dopo che Mervilus ha confermato la sua dichiarazione di innocenza, il suo caso è andato in giudizio. Il tenente che aveva somministrato il poligrafo ha testimoniato in tribunale che il dispositivo era un indicatore di verità affidabile. Non aveva mai visto nella sua carriera, ha detto, un caso in cui qualcuno mostrava segni di inganno, e [in seguito] si è scoperto che erano sinceri. Una giuria ha condannato Mervilus, influenzato, in seguito da una corte d'appello, per fede mal riposta nel poligrafo. Il giudice lo ha condannato a 11 anni di reclusione.
La convinzione che l'inganno possa essere scoperto analizzando il corpo umano si è radicata nella vita moderna. Nonostante numerosi studi mettano in dubbio la validità del poligrafo, ogni anno vengono condotti più di 2,5 milioni di screening con il dispositivo e i test del poligrafo rappresentano un'industria da 2 miliardi di dollari. Le agenzie del governo federale degli Stati Uniti, tra cui il Dipartimento di Giustizia, il Dipartimento della Difesa e la CIA, utilizzano tutte il dispositivo durante lo screening dei potenziali dipendenti. Secondo i dati del 2007 del Dipartimento di Giustizia, più di tre quarti di tutta la polizia urbana e i dipartimenti dello sceriffo hanno utilizzato anche la macchina della verità per controllare le assunzioni.
Ma i poligrafi sono ancora troppo lenti e ingombranti per essere utilizzati ai valichi di frontiera, negli aeroporti o su grandi gruppi di persone. Di conseguenza, nell'ultimo decennio è emersa una nuova generazione di rivelatori di bugie basati sull'intelligenza artificiale. I loro sostenitori affermano di essere sia più veloci che più accurati dei poligrafi.
In realtà, il lavoro psicologico che sta alla base di questi nuovi sistemi di intelligenza artificiale è persino più debole della ricerca alla base del poligrafo. Ci sono scarse prove che i risultati che producono possono essere attendibili. Tuttavia, la patina di modernità che l'IA dà loro sta portando questi sistemi in contesti che il poligrafo non è stato in grado di penetrare: valichi di frontiera, colloqui di lavoro privati, screening dei prestiti e richieste di frode assicurativa. Aziende e governi stanno iniziando a fare affidamento su di loro per prendere decisioni sull'affidabilità di clienti, dipendenti, cittadini, immigrati e visitatori internazionali. Ma cosa succede se mentire è troppo complesso per essere identificato in modo affidabile da qualsiasi macchina, non importa quanto sia avanzato il suo algoritmo?
Gli inquisitori nell'antica Cina chiedevano ai sospetti bugiardi di mettere il riso in bocca per vedere se stavano sbavando. Il Le gesta dei romani , un'antologia medievale di favole morali, racconta la storia di un soldato che ha chiesto al suo impiegato di misurare il battito cardiaco di sua moglie per capire se fosse infedele.
Una traduzione inglese del Le gesta dei romani , o Deeds of the Romans, una raccolta di storie originariamente pubblicate in latino alla fine del XIII o all'inizio del XIV secolo. beni comuni di Wikimedia
Quando gli Stati Uniti entrarono nella prima guerra mondiale, William Marston, un ricercatore ad Harvard, fu pioniere dell'uso di macchine che misuravano la pressione sanguigna per tentare di accertare l'inganno. Alcuni anni dopo, ispirato dal lavoro di Marston, John Augustus Larson, un agente di polizia che aveva appena completato il dottorato in fisiologia all'Università della California, a Berkeley, sviluppò una macchina che chiamò psicogramma cardio-pneumo, che forniva letture continue di un la pressione sanguigna, il polso e la frequenza respiratoria del soggetto. Queste letture, sosteneva Larson, erano un proxy ancora migliore dell'inganno rispetto alla sola pressione sanguigna.
Larson ha usato la macchina per la prima volta per indagare su un furto in un dormitorio femminile a Berkeley e, nel giro di un anno, è stata usata per condannare un uomo a San Francisco accusato di aver ucciso un prete. Negli anni '30, uno dei protetti di Larson vendeva una versione portatile ai dipartimenti di polizia di tutto il paese, aggiungendo un sensore che misurava i cambiamenti nella risposta galvanica della pelle: più un soggetto sudava, più la pelle sarebbe conduttiva. Negli anni '70, milioni di lavoratori del settore privato eseguivano regolarmente test del poligrafo per volere dei loro datori di lavoro.
La maggior parte dei test del poligrafo oggi hanno la stessa struttura di base di quella di Larson: l'esaminatore pone una serie di domande per misurare il normale stato fisiologico di un soggetto, osservando mentre la macchina trascrive queste misurazioni come linee di forma d'onda su una pagina o uno schermo. L'esaminatore cerca quindi picchi o cali improvvisi in questi livelli mentre il soggetto risponde a domande su sospetti crimini o sentimenti.
Ma psicologi e neuroscienziati hanno criticato il poligrafo quasi da quando Larson ha svelato al pubblico la sua invenzione. Mentre alcuni bugiardi possono sperimentare cambiamenti nella frequenza cardiaca o nella pressione sanguigna, ci sono poche prove che tali cambiamenti siano costantemente correlati all'inganno. Molte persone innocenti diventano nervose quando vengono interrogate e i bugiardi esperti possono sopprimere o indurre cambiamenti nel loro corpo per ingannare la prova. I poligrafi possono anche essere battuto di mordersi la lingua , calpestare una virata o pensando alla propria paura peggiore . I dispositivi rischiano sempre di rilevare variabili confondenti anche negli esperimenti di laboratorio controllati, e nella vita reale sono ancora meno affidabili: poiché i criminali che hanno superato il test quasi mai dicono alla polizia di essere colpevoli, e poiché sospetti innocenti spesso confessano false dopo aver fallito il test test, non c'è modo di dire quanto bene abbiano effettivamente funzionato.
Leonarde Keeler, un protetto dell'inventore del poligrafo John Larson, ha somministrato il test a Bruno Hauptmann, che è stato arrestato, condannato e giustiziato per il rapimento di Charles Augustus Lindbergh Jr. Hauptmann ha mantenuto la sua innocenza fino alla sua morte. Dominio pubblico
A causa di queste limitazioni, i test del poligrafo sono stati a lungo inammissibili nella maggior parte dei tribunali americani a meno che entrambe le parti non acconsentano alla loro inclusione. La legge federale ha vietato ai datori di lavoro privati di sottoporre a poligrafia i propri dipendenti dal 1988 (con eccezioni per coloro che svolgono lavori delicati, come guardie armate o distributori di prodotti farmaceutici, e per alcuni dipendenti sospettati di furto o frode). L'American Psychological Association avverte che la maggior parte degli psicologi concorda sul fatto che ci sono poche prove che i test del poligrafo possano rilevare accuratamente le bugie e un rapporto del 2003 della National Academy of Sciences, che fa eco a precedenti ricerche governative, ha scoperto che il dispositivo rileva i bugiardi a velocità ben al di sopra del caso , sebbene ben al di sotto della perfezione; l'autore principale del rapporto ha affermato all'epoca che la sicurezza nazionale è troppo importante per essere lasciata a uno strumento così contundente.
Ma forse lo strumento non deve essere così schietto. Questa è la promessa fatta da un numero crescente di aziende desiderose di vendere la tecnologia di rilevamento della bugia sia ai governi che alle industrie commerciali. Forse, dicono, alcuni modelli complessi di tic comportamentali potrebbero segnalare la menzogna in modo più affidabile di un semplice battito cardiaco o pressione sanguigna elevati. E forse un sofisticato algoritmo potrebbe individuare questi schemi.
Dal 1969 al 1981, un serial killer soprannominato lo Squartatore dello Yorkshire ha predato giovani donne nel nord dell'Inghilterra, uccidendone almeno 13 e tentando di ucciderne almeno altre sette. La polizia lo ha intervistato e rilasciato nove diverse volte mentre la sua follia omicida continuava. La sua ultima vittima fu Jacqueline Hill, una studentessa di 20 anni dell'Università di Leeds, che fu uccisa nel novembre 1980. Pochi mesi dopo la polizia finalmente lo catturò mentre si preparava a uccidere una prostituta nella vicina Sheffield.
Quando Janet Rothwell arrivò all'Università di Leeds nell'autunno del 1980, visse nel dormitorio accanto a Hill's. Si è trovata perseguitata dall'omicidio di Hill.
Ha preso l'autobus dalla biblioteca dell'università più o meno alla mia stessa ora, ha detto Rothwell, ed è stata uccisa dopo essere scesa dall'autobus. Rothwell in seguito apprese quanto tempo ci voleva per catturare l'assassino. Mi chiedevo, ha ricordato, un computer potrebbe segnalare una sorta di incongruenza nel comportamento per allertare la polizia?
Rothwell alla fine ha frequentato la scuola di specializzazione presso la Manchester Metropolitan University (MMU) alla fine degli anni '90. Ha incontrato Zuhair Bandar, un docente iracheno-britannico che lavora nel dipartimento di informatica. Bandar aveva recentemente avuto un momento eureka quando una società di marketing gli aveva chiesto di creare un dispositivo rudimentale per misurare l'interesse dei consumatori per i prodotti che vedevano su uno schermo.
Una foto dell'FBI di una donna che fa un poligrafo. Ufficio federale di investigazione
Darebbero al cliente un dispositivo portatile, ha detto Bandar, e se approvano, premono 1; se non gli piace premono 2. Ho pensato, perché abbiamo bisogno di dispositivi palmari se ci sono già espressioni sui loro volti? Bandar ha chiesto a Rothwell di rimanere alla MMU dopo il suo master per conseguire un dottorato di ricerca e aiutarlo a progettare un software in grado di analizzare i volti per estrarre informazioni. L'inganno, pensavano, non era meno rilevabile della gioia o della rabbia. Tutto creerebbe una qualche forma di incongruenza: schemi comportamentali, verbali o non verbali, che un computer potrebbe discernere.
Rothwell ha addestrato una rete neurale all'inizio degli anni 2000 per tenere traccia dei movimenti facciali come battere le palpebre e arrossire, quindi ha alimentato il computer con alcune dozzine di clip di persone che rispondevano alla stessa serie di domande in modo onesto e disonesto. Per determinare cosa avevano in comune i bugiardi, il computer ha esaminato i movimenti facciali di un individuo, le relazioni tra quei movimenti e le relazioni tra quelle relazioni, elaborando una teoria troppo complessa per essere articolata con un linguaggio normale. Una volta addestrato in questo modo, il sistema potrebbe usare le sue conoscenze per classificare nuovi soggetti come ingannevoli o veritieri analizzando i cambiamenti fotogramma per fotogramma nelle loro espressioni.
In uno studio del 2006, il sistema, chiamato Silent Talker, è stato realizzato per indovinare se un soggetto stesse mentendo o dicendo la verità. Non ha mai raggiunto una precisione superiore all'80% mentre Rothwell ci stava lavorando, né ha fatto sostanzialmente meglio in tutto ciò che il gruppo di ricerca ha pubblicato da allora. Rothwell mi ha anche detto che si è rotto del tutto se un partecipante indossava gli occhiali e ha sottolineato: Devi ricordare che le condizioni di illuminazione erano le stesse e le interviste erano basate sul furto inscenato. Ma anche nelle prime fasi, ricorda Rothwell, Bandar desiderava avere un prodotto commerciale; lui e un collega una volta le hanno presentato un video di una donna sospettata di tradire il marito e le hanno chiesto di farlo analizzare da Silent Talker, proprio come nel Le gesta dei romani .
Rothwell aveva le sue riserve. Potevo vedere che il software, se funzionasse, potrebbe essere potenzialmente invadente, ha detto. Non penso che nessun sistema possa mai essere al 100%, e se [il sistema] sbaglia, il rischio per le relazioni e la vita potrebbe essere catastrofico. Ha lasciato l'università nel 2006; dopo una formazione come audiologo, ha trovato lavoro lavorando in un ospedale dell'isola di Jersey, dove vive tuttora.
MMU ha pubblicato un comunicato stampa nel 2003 pubblicizzando la tecnologia come una nuova invenzione che renderebbe obsoleto il poligrafo. Sono rimasto un po' scioccato, ha detto Rothwell, perché sentivo che era troppo presto.
Il governo degli Stati Uniti ha fatto numerose incursioni nella tecnologia di rilevamento degli inganni nei primi anni dopo l'11 settembre, con il Dipartimento per la sicurezza interna (DHS), il Dipartimento della difesa (DoD) e la National Science Foundation che hanno tutti speso milioni di dollari in tali ricerche . Queste agenzie hanno finanziato la creazione di un chiosco chiamato AVATAR presso l'Università dell'Arizona. AVATAR, che ha analizzato le espressioni facciali, il linguaggio del corpo e le voci delle persone per assegnare ai soggetti un 'punteggio di credibilità', è stato testato negli aeroporti statunitensi. In Israele, nel frattempo, il DHS ha contribuito a finanziare una startup chiamata WeCU ('ti vediamo), che ha venduto un chiosco di screening che avrebbe innescato risposte fisiologiche tra coloro che stanno nascondendo qualcosa, secondo un Articolo del 2010 su Fast Company . (Da allora la società ha chiuso.)
Bandar iniziò a provare a commercializzare la tecnologia. Insieme a due dei suoi studenti, Jim O'Shea e Keeley Crockett, ha incorporato Silent Talker come azienda e ha iniziato a cercare clienti, inclusi dipartimenti di polizia e società private, per la sua tecnologia di profilazione psicologica. Silent Talker è stato uno dei primi rilevatori di bugie AI ad entrare nel mercato. Secondo la società, l'anno scorso la tecnologia derivata da Silent Talker è stata utilizzata come parte di iBorderCtrl, un'iniziativa di ricerca finanziata dall'Unione Europea che ha testato il sistema su volontari ai confini in Grecia, Ungheria e Lettonia. Bandar afferma che la società è ora in trattative per vendere la tecnologia a studi legali, banche e compagnie assicurative, portando test nelle interviste sul posto di lavoro e screening delle frodi.
Bandar e O'Shea hanno trascorso anni ad adattare l'algoritmo di base per l'uso in varie impostazioni. Hanno provato a commercializzarlo ai dipartimenti di polizia nelle aree metropolitane di Manchester e Liverpool. Stiamo parlando con persone molto anziane in modo informale, ha detto la società alla pubblicazione britannica L'ingegnere nel 2003, rilevando che il loro scopo era di provarlo in interviste reali. Un white paper del 2013 O'Shea pubblicato sul suo sito ha suggerito che Silent Talker potrebbe essere utilizzato per proteggere le nostre forze in dispiegamento all'estero dagli attacchi Green-on-Blue ('Insider'). (Il termine verde su blu è comunemente usato per riferirsi agli attacchi che i soldati afgani in uniforme fanno contro i loro ex alleati.)
Il team ha anche pubblicato risultati sperimentali che mostrano come Silent Talker potrebbe essere utilizzato per rilevare la comprensione e il rilevamento. In uno studio del 2012, il primo a mostrare il sistema Silent Talker utilizzato sul campo, il team ha collaborato con una ONG sanitaria in Tanzania per registrare le espressioni facciali di 80 donne mentre seguivano corsi online sul trattamento dell'HIV e sull'uso del preservativo. L'idea era quella di determinare se i pazienti capissero il trattamento che avrebbero ricevuto: poiché l'introduzione alle note di studio, la valutazione della comprensione dei partecipanti durante il processo di consenso informato rimane ancora un'area critica di preoccupazione. Quando il team ha incrociato le ipotesi dell'IA sul fatto che le donne capissero le lezioni con i loro punteggi in brevi esami post-lezione, hanno scoperto che era accurato all'80% nel prevedere chi avrebbe superato e chi avrebbe fallito.
L'algoritmo addestrato a Manchester, afferma il comunicato stampa, fornirebbe valichi di frontiera terrestri più efficienti e sicuri e contribuirebbe alla prevenzione della criminalità e del terrorismo.
L'esperimento della Tanzania è stato ciò che ha portato all'inclusione di Silent Talker in iBorderCtrl. Nel 2015, Athos Antoniades, uno degli organizzatori del nascente consorzio, ha inviato un'e-mail a O'Shea, chiedendo se il team di Silent Talker volesse unirsi a un gruppo di aziende e forze di polizia che facevano offerte per una sovvenzione dell'UE. Negli anni precedenti, il crescente traffico di veicoli nell'UE aveva sopraffatto gli agenti ai paesi di confine dell'Unione e, di conseguenza, l'UE offriva 4,5 milioni di euro (5 milioni di dollari) a qualsiasi istituzione in grado di fornire valichi di frontiera terrestri più efficienti e sicuri... e così contribuire alla prevenzione della criminalità e del terrorismo. Antoniades pensava che Silent Talker potesse svolgere un ruolo cruciale.
Quando il progetto ha finalmente annunciato un progetto pilota pubblico nell'ottobre 2018, la Commissione europea si è affrettata a pubblicizzare la storia di successo dell'approccio unico del sistema al rilevamento degli inganni in un comunicato stampa , spiegando che la tecnologia analizza i micro-gesti dei viaggiatori per capire se l'intervistato sta mentendo. L'algoritmo addestrato a Manchester, prosegue il comunicato stampa, garantirebbe valichi di frontiera terrestri più efficienti e sicuri e contribuirebbe alla prevenzione della criminalità e del terrorismo.
L'algoritmo alla base del programma, mi ha detto O'Shea, potrebbe essere utilizzato in una varietà di altri contesti: pubblicità, analisi dei reclami assicurativi, screening dei candidati e valutazione dei dipendenti. È stato difficile per me condividere la sua convinzione schiacciante nella sua saggezza, ma anche mentre lui e io parlavamo al telefono, Silent Talker stava già esaminando i volontari ai valichi di frontiera dell'UE; la società era stata recentemente lanciata come attività nel gennaio 2019. Quindi ho deciso di andare a Manchester per vedere di persona.
Gli uffici di Silent Talker si trovano a circa un miglio di distanza dalla Manchester Metropolitan University, dove O'Shea è ora docente senior. Ha assunto lo sviluppo quotidiano della tecnologia di Bandar. L'azienda ha sede in un parco di uffici in mattoni in un quartiere residenziale, in fondo alla strada da un ristorante di kebab e di fronte a un campo da calcio. All'interno, l'ufficio di Silent Talker è una stanza singola con alcuni computer, scrivanie con cartelle e poster esplicativi sulla tecnologia dei primi anni 2000.
Quando ho visitato l'ufficio dell'azienda a settembre, mi sono seduto con O'Shea e Bandar in una sala conferenze in fondo al corridoio. O'Shea era severo ma leggermente arruffato, calvo a parte qualche ciuffo di capelli e una barba alla Van Dyke. Ha iniziato la conversazione insistendo sul fatto che non si parla del progetto iBorderCtrl, definendo in seguito i suoi critici disinformati. Ha parlato della potenza della struttura dell'IA del sistema in lunghe tangenti digressive, citando occasionalmente il pioniere dell'informatica Alan Turing o il filosofo del linguaggio John Searle.
Le macchine e gli esseri umani hanno entrambi intenzionalità: credenze, desideri e intenzioni su oggetti e stati di cose nel mondo, ha detto, difendendo la dipendenza del sistema da un algoritmo. Pertanto, le applicazioni complicate richiedono di dare un peso reciproco alle idee e alle intenzioni di entrambi.
O'Shea ha dimostrato il sistema facendogli analizzare un video di un uomo che risponde alle domande sul fatto che abbia rubato $ 50 da una scatola. Il programma sovrapponeva un quadrato giallo intorno al viso dell'uomo e due quadrati più piccoli intorno ai suoi occhi. Mentre parlava, un ago nell'angolo dello schermo si spostava da verde a rosso quando dava risposte false e tornava a un arancione moderato quando non stava parlando. Al termine dell'intervista, il software ha generato un grafico che traccia la probabilità di inganno rispetto al tempo. In teoria, questo ha mostrato quando ha iniziato e ha smesso di mentire.
Mentre parlava, un ago nell'angolo dello schermo si spostava da verde a rosso quando dava risposte false e tornava a un arancione moderato quando non stava parlando.
Il sistema può funzionare su un laptop tradizionale, afferma O'Shea, e gli utenti pagano circa $ 10 per minuto di video analizzato. O'Shea mi ha detto che il software esegue alcune elaborazioni locali preliminari del video, invia i dati crittografati a un server dove vengono ulteriormente analizzati e quindi invia i risultati indietro: l'utente vede un grafico della probabilità di inganno sovrapposto sul fondo del video.
Secondo O'Shea, il sistema monitora circa 40 canali fisici sul corpo di un partecipante, dalla velocità con cui si sbatte le palpebre all'angolo della testa. Porta a ogni nuovo volto una teoria sull'inganno che ha sviluppato visualizzando un set di dati di addestramento di bugiardi e rivelatori di verità. Misurando i movimenti facciali e i cambiamenti di postura di un soggetto molte volte al secondo, il sistema cerca schemi di movimento che corrispondano a quelli condivisi dai bugiardi nei dati di allenamento. Questi schemi non sono così semplici come gli occhi che sfrecciano verso il soffitto o una testa che si inclina verso sinistra. Sono più simili a schemi di schemi, relazioni sfaccettate tra diversi movimenti, troppo complessi per essere rintracciati da un essere umano, una caratteristica tipica dei sistemi di apprendimento automatico.
Il compito dell'IA è determinare quali tipi di schemi di movimento possono essere associati all'inganno. Gli psicologi spesso dicono che dovresti avere una sorta di modello per come funziona un sistema, mi ha detto O'Shea, ma non abbiamo un modello funzionante e non ne abbiamo bisogno. Lasciamo che l'IA lo capisca. Tuttavia, afferma anche che la giustificazione per i canali sul viso viene dalla letteratura accademica sulla psicologia dell'inganno. In un Documento del 2018 su Silent Talker , i suoi creatori affermano che il loro software presuppone che determinati stati mentali associati al comportamento ingannevole guideranno il [comportamento non verbale] dell'intervistato quando inganna. Tra questi comportamenti ci sono il carico cognitivo, o l'energia mentale extra necessaria per mentire, e il piacere ingannatore, o il piacere che un individuo dovrebbe ottenere dal dire una bugia riuscita.
Paul Ekman, uno psicologo la cui teoria delle 'micro-espressioni' è molto controversa, ha consultato una miriade di agenzie governative statunitensi. Wikimedia / Mompuppycat
Ma Ewout Meijer, professore di psicologia all'Università di Maastricht nei Paesi Bassi, afferma che i motivi per ritenere che tali comportamenti siano universali sono nella migliore delle ipotesi instabili. L'idea che si possano trovare perdite comportamentali rivelatrici nel viso ha radici nel lavoro di Paul Ekman, uno psicologo americano che negli anni '80 ha sposato una teoria ormai famosa delle microespressioni, o movimenti facciali involontari troppo piccoli per essere controllati. La ricerca di Ekman lo ha reso un autore di best-seller e ha ispirato il dramma poliziesco televisivo Mentimi . Ha fatto consulenza per una miriade di agenzie governative statunitensi, tra cui DHS e DARPA. Citando la sicurezza nazionale, ha mantenuto segreti i dati della ricerca. Ciò ha portato a un dibattito controverso sul fatto che le microespressioni abbiano un significato.
L'IA di Silent Talker tiene traccia di tutti i tipi di movimenti facciali, non delle microespressioni specifiche di Ekman. Abbiamo scomposto questi segnali di alto livello nel nostro insieme di micro gesti e abbiamo addestrato i componenti dell'IA a ricombinarli in schemi indicativi significativi, ha scritto un portavoce dell'azienda in un'e-mail. O'Shea afferma che ciò consente al sistema di individuare comportamenti ingannevoli anche quando un soggetto si guarda intorno o si sposta su una sedia.
Molto dipende dal fatto che tu abbia una domanda tecnologica o psicologica, dice Meijer, avvertendo che O'Shea e il suo team potrebbero cercare nella tecnologia risposte a domande psicologiche sulla natura dell'inganno. Un sistema di intelligenza artificiale può superare le persone nel rilevare [espressioni facciali], ma anche se fosse così, ciò non ti dice ancora se puoi dedurre da loro se qualcuno è ingannevole ... l'inganno è un costrutto psicologico. Non solo non c'è consenso su quale le espressioni sono correlate con l'inganno, aggiunge Meijer; non c'è nemmeno un consenso in merito se loro fanno. In un'e-mail, la società ha affermato che tali critiche non sono rilevanti per Silent Talker e che le statistiche utilizzate non sono appropriate.
Il dramma televisivo Mentimi era basato in parte sulla teoria della microespressione di Ekman. studi Fox
Inoltre, Meijer sottolinea che l'algoritmo sarà ancora inutile ai valichi di frontiera o nei colloqui di lavoro a meno che non sia stato formato su un set di dati diverso come quello che valuterà nella vita reale. La ricerca mostra che gli algoritmi di riconoscimento facciale sono peggiori nel riconoscere le minoranze quando sono state addestrate su gruppi di volti prevalentemente bianchi, come ammette lo stesso O'Shea. Un portavoce di Silent Talker ha scritto in una e-mail: Abbiamo condotto più esperimenti con campioni di dimensioni variabili più piccole. Questi si sommano a centinaia. Alcuni di questi sono accademici e sono stati pubblicati [sic], altri sono commerciali e riservati.
Tuttavia, tutte le ricerche pubblicate che confermano l'accuratezza di Silent Talker provengono da set di dati piccoli e parziali: nel documento del 2018, ad esempio, una popolazione in formazione di 32 persone conteneva il doppio degli uomini rispetto alle donne e solo 10 partecipanti di origine asiatica/araba, con nessun suddito nero o ispanico. Sebbene il software abbia attualmente impostazioni diverse per l'analisi di uomini e donne, O'Shea ha affermato di non essere sicuro se avesse bisogno di impostazioni per l'origine etnica o l'età.
Dopo che il pilota di iBorderCtrl è stato annunciato nel 2018, attivisti e politici hanno denunciato il programma come un'espansione orwelliana senza precedenti dello stato di sorveglianza. Sophie in 't Veld, deputata olandese al Parlamento europeo e leader del partito di centrosinistra Democratici 66, ha affermato in una lettera alla Commissione europea che il sistema Silent Talker potrebbe violare i diritti fondamentali di molti viaggiatori che attraversano le frontiere e che organizzazioni come Privacy International lo hanno condannato come parte di una tendenza più ampia verso l'utilizzo di sistemi automatizzati opachi e spesso carenti per giudicare, valutare e classificare le persone. L'opposizione sembrava cogliere di sorpresa il consorzio iBorderCtrl: sebbene inizialmente la Commissione europea avesse affermato che iBorderCtrl avrebbe sviluppato un sistema per accelerare i valichi di frontiera, un portavoce ora afferma che il programma era un progetto di ricerca puramente teorico. Antoniades ha detto a un quotidiano olandese alla fine del 2018 che il sistema di rilevamento degli inganni potrebbe non essere inserito nel progetto, ma, al momento della stesura di questo articolo, Silent Talker stava ancora propagandando la sua partecipazione a iBorderCtrl sul suo sito web .
Per quanto spesso critici come Wilde lo smentiscano, il sogno di un perfetto rilevatore di bugie non morirà, specialmente se sorvolato dalla lucentezza dell'IA.
Silent Talker è una nuova versione della vecchia frode, afferma Vera Wilde, un'accademica e attivista per la privacy americana che vive a Berlino, e che ha contribuito ad avviare una campagna contro iBorderCtrl. In un certo senso, è la stessa frode, ma con una scienza peggiore. In un test del poligrafo, un esaminatore cerca eventi fisiologici ritenuti correlati all'inganno; in un sistema di intelligenza artificiale, gli esaminatori lasciano che il computer determini da solo le correlazioni. Quando O'Shea dice che non ha una teoria, si sbaglia, continua. Ha una teoria. È solo una cattiva teoria.
Per quanto spesso critici come Wilde lo smentiscano, il sogno di un perfetto rilevatore di bugie non morirà, specialmente se sorvolato dalla lucentezza dell'IA. Dopo che il DHS ha speso milioni di dollari per finanziare la ricerca sull'inganno nelle università negli anni 2000, ha cercato di creare la propria versione di una tecnologia di analisi del comportamento. Questo sistema, chiamato Future Attribute Screening Technology (FAST), mirava a utilizzare l'IA per cercare tendenze criminali negli occhi e nei movimenti del corpo di un soggetto. (Una prima versione richiedeva agli intervistati di stare su una bilancia Wii Fit per misurare i cambiamenti nella postura.) Tre ricercatori che hanno parlato in modo anonimo per discutere di progetti classificati hanno affermato che il programma non è mai decollato: c'era troppo disaccordo all'interno del dipartimento sull'opportunità di utilizzare le microespressioni di Ekman come linea guida per l'analisi del comportamento. Il dipartimento ha concluso il programma nel 2011.
Nonostante il fallimento di FAST, il DHS mostra ancora interesse per le tecniche di rilevamento della bugia. L'anno scorso, ad esempio, ha assegnato un contratto di $ 110.000 a una società di risorse umane per addestrare i suoi funzionari a rilevare l'inganno e suscitare risposte attraverso l'analisi comportamentale. Altre parti del governo, nel frattempo, stanno ancora sostenendo le soluzioni di intelligenza artificiale. L'Army Research Laboratory (ARL) ha attualmente un contratto con la Rutgers University per creare un programma di intelligenza artificiale per rilevare le bugie nel gioco di società Mafia, come parte di un più ampio tentativo di creare qualcosa come un Google Glass che ci avverte di un paio di borseggiatori in il bazar affollato, secondo Purush Iyer, il capo della divisione ARL responsabile del progetto. Nemesysco, una società israeliana che vende software di analisi vocale basata sull'intelligenza artificiale, mi ha detto che la sua tecnologia è utilizzata dai dipartimenti di polizia di New York e dagli sceriffi del Midwest per intervistare i sospetti, nonché dai call center di recupero crediti per misurare le emozioni dei debitori su chiamate telefoniche.
Il futuro immediato e potenzialmente pericoloso del rilevamento delle bugie dell'IA non è con i governi ma nel mercato privato. I politici che supportano iniziative come iBorderCtrl alla fine devono rispondere agli elettori e la maggior parte dei rilevatori di bugie IA potrebbe essere esclusa dal tribunale in base allo stesso precedente legale che governa il poligrafo. Le società private, tuttavia, devono affrontare meno vincoli nell'utilizzo di tale tecnologia per selezionare candidati e potenziali clienti. Silent Talker è una delle numerose aziende che affermano di offrire un modo più obiettivo per rilevare comportamenti anomali o ingannevoli, offrendo ai clienti un metodo di analisi del rischio che va oltre i punteggi di credito e i profili dei social media.
Il software genera un numero elevato di falsi positivi.
Una società con sede nel Montana chiamata Neuro-ID conduce l'analisi AI dei movimenti del mouse e delle sequenze di tasti per aiutare le banche e le compagnie assicurative a valutare il rischio di frode, assegnando ai richiedenti un punteggio di affidabilità da 1 a 100. In un video la società mi ha mostrato, quando un cliente una domanda di prestito online richiede più tempo per compilare il campo per il reddito familiare, spostando il mouse mentre lo fa, il sistema lo tiene in considerazione nel suo punteggio di credibilità. Si basa sulla ricerca degli scienziati fondatori dell'azienda che afferma di mostrare una correlazione tra i movimenti del mouse e l'eccitazione emotiva: un articolo che afferma che essere ingannevoli può aumentare la distanza normalizzata del movimento, diminuire la velocità del movimento, aumentare il tempo di risposta e il risultato in più clic sinistro. I test dell'azienda, tuttavia, rivelano che il software genera un numero elevato di falsi positivi: in un caso di studio in cui Neuro-ID ha elaborato 20.000 domande per un sito di e-commerce, meno della metà dei candidati che ha ottenuto i punteggi più bassi (da 5 a 10) si è rivelato fraudolento e solo il 10% di coloro che hanno ricevuto punteggi da 20 a 30 rappresentava un rischio di frode. Per ammissione dell'azienda, il software segnala i candidati che potrebbero rivelarsi innocenti e consente all'azienda di utilizzare tali informazioni per dare seguito a suo piacimento. Non esiste un'analisi basata sul comportamento che sia accurata al 100%, mi ha detto un portavoce. Quello che consigliamo è di utilizzare questo insieme ad altre informazioni sui candidati per prendere decisioni migliori e catturare [clienti fraudolenti] in modo più efficiente.
Converus, una startup con sede nello Utah, vende un software chiamato EyeDetect che misura la dilatazione delle pupille di un soggetto durante un'intervista per rilevare il carico cognitivo. Come Silent Talker, lo strumento parte dalla premessa che mentire è più impegnativo dal punto di vista cognitivo che dire la verità. Secondo a articolo 2018 a Wired, i dipartimenti di polizia di Salt Lake City e Columbus, in Georgia, hanno utilizzato EyeDetect per selezionare i candidati al lavoro. Converus ha anche detto a Wired che McDonald's, Best Western, Sheraton, IHOP e FedEx hanno utilizzato il suo software a Panama e in Guatemala in modi che sarebbero stati illegali negli Stati Uniti.
In una dichiarazione che mi ha dato, la società ha citato a pochi studi che mostrano che EyeDetect raggiunge circa l'85% di precisione nell'identificazione di bugiardi e chi dice la verità, con campioni fino a 150 persone. Il presidente dell'azienda Todd Mickelsen afferma che l'algoritmo della sua azienda è stato addestrato su centinaia di migliaia di interviste. Ma Charles Honts, professore di psicologia alla Boise State University che fa anche parte del comitato consultivo di Converus, ha affermato che questi risultati non hanno dimostrato che EyeDetect può essere invocato nelle interviste sul campo. Trovo che il sistema EyeDetect sia davvero interessante, ma d'altra parte non lo uso, mi ha detto. Penso che il database sia ancora relativamente piccolo e provenga principalmente da un laboratorio. Fino a quando non sarà ampliato e altre persone non lo avranno replicato, sarei riluttante a usarlo sul campo.
I ricercatori dell'Università dell'Arizona che hanno sviluppato il sistema AVATAR hanno anche avviato una società privata, Discern Science, per commercializzare la propria tecnologia di rilevamento degli inganni. Lanciato lo scorso anno, Discern vende un chiosco alto sei piedi simile all'AVATAR originale; secondo un articolo sul Financial Times, la società ha stipulato un accordo di joint venture con un partner nel settore dell'aviazione per vendere lo strumento agli aeroporti. Il sistema le misure movimento facciale e stress vocale per raccogliere invisibilmente informazioni dal soggetto a distanza di conversazione, secondo i materiali promozionali. Come Silent Talker e Converus, Discern afferma che la tecnologia è in grado di rilevare in modo affidabile circa l'85% di bugiardi e di chi dice la verità, ma ancora una volta i suoi risultati non sono mai stati replicati in modo indipendente. Almeno uno degli input utilizzati dal chiosco è stato ripetutamente mostrato essere inaffidabile . (Honts ha inoltre osservato che non c'è quasi alcun supporto per l'analisi dei movimenti facciali come AVATAR e Silent Talker: ci sono stati così tanti fallimenti da replicare lì, ha detto.)
Chiunque ti dica di avere un dispositivo che è un semplice rilevatore di bugie è un ciarlatano.
Interrogata sul supporto scientifico per il chiosco dell'azienda, la ricercatrice di Discern Judee Burgoon ha sottolineato che si limitano a fare valutazioni, non giudizi vincolanti su verità e falsità. Sistemi come AVATAR e Silent Talker, ha detto, non possono misurare direttamente l'inganno, aggiungendo che chiunque ti dica di avere un dispositivo che è un semplice rilevatore di bugie è un ciarlatano. Nei materiali di marketing, tuttavia, Discern presenta lo strumento come un rilevatore di bugie affidabile: il sito Web dell'azienda affermazioni che può aiutare a scoprire piani nascosti e che i suoi algoritmi hanno dimostrato scientificamente di rilevare l'inganno più velocemente e in modo più affidabile di qualsiasi alternativa.
La corte d'appello ha annullato la condanna di Emmanuel Mervilus nel 2011, rilasciandolo dal carcere e ordinando un nuovo processo; aveva scontato più di tre anni di pena. Al secondo processo, nel 2013, i giurati hanno deliberato per soli 40 minuti prima di assolverlo. Se non fosse stato per il poligrafo, e la convinzione persistente nella sua accuratezza, non avrebbe mai messo piede in un'aula la prima volta. Mervilus ha citato in giudizio gli agenti di polizia che originariamente lo hanno arrestato e interrogato, sostenendo che hanno violato il suo diritto a un giusto processo utilizzando test del poligrafo che sapevano essere difettosi per ottenere una condanna. Il caso procederà a una conferenza di composizione il 13 marzo.
Anche se l'uso diffuso di Silent Talker e sistemi simili non porta a più condanne di persone innocenti come Mervilus, potrebbe comunque aiutare a creare un nuovo tipo di shibboleth sociale, costringendo le persone a sottoporsi a valutazioni di credibilità prima di noleggiare un'auto o portarla fuori un prestito.
In un tribunale, devi fornire prove materiali, come i tuoi capelli e il tuo sangue, dice Wilde. Ma hai anche il diritto di tacere, il diritto di non parlare contro te stesso. Mervilus ha deciso di fare il test del poligrafo partendo dal presupposto che, come un test del DNA, avrebbe dimostrato che era innocente. E sebbene il dispositivo abbia sbagliato, non è stata la macchina stessa a mandarlo in prigione. Era convinzione della giuria che i risultati del test fossero più credibili dei fatti del caso.
La premessa fondamentale del rilevamento delle bugie dell'IA è che le bugie possono essere viste con gli strumenti giusti. Gli psicologi ancora non sanno quanto sia valida tale affermazione, ma nel frattempo la convinzione nella sua validità potrebbe essere sufficiente per squalificare candidati meritevoli di lavoro e prestiti e per impedire a persone innocenti di varcare i confini nazionali. La promessa di una finestra sulla vita interiore degli altri è troppo allettante per lasciarsela sfuggire, anche se nessuno può essere sicuro di quanto sia chiara quella finestra.
È la promessa di leggere la mente, dice Wilde. Puoi vedere che è falso, ma è quello che stanno vendendo.