Un'IA sta formando consulenti per affrontare gli adolescenti in crisi

Signora Tech | Unsplash, Pexels

I consulenti che fanno volontariato al Trevor Project devono essere preparati per la loro prima conversazione con un adolescente LGBTQ che potrebbe pensare al suicidio. Quindi prima si esercitano. Uno dei modi in cui lo fanno è parlare con personaggi immaginari come Riley, una sedicenne della Carolina del Nord che si sente un po' giù e depressa. Con un membro del team che interpreta la parte di Riley, i tirocinanti possono approfondire ciò che sta accadendo: possono scoprire che l'adolescente è ansioso di uscire con la famiglia, l'ha detto di recente agli amici e non è andato bene, e ha già avuto pensieri suicidi, se non a il momento.

Ora, però, Riley non è interpretato da un dipendente del Trevor Project, ma è invece alimentato dall'IA.

Proprio come il personaggio originale, questa versione di Riley, addestrata su migliaia di trascrizioni passate di giochi di ruolo tra i consulenti e il personale dell'organizzazione, ha ancora bisogno di essere un po' persuasa per aprirsi, delineando una situazione che possa testare ciò che i tirocinanti hanno imparato sui modi migliori per aiutare gli adolescenti LGBTQ.

I consiglieri non dovrebbero fare pressione su Riley affinché esca. L'obiettivo, invece, è convalidare i sentimenti di Riley e, se necessario, aiutare a sviluppare un piano per stare al sicuro.

Le hotline in caso di crisi e i servizi di chat ne fanno una promessa fondamentale: contattaci e ti metteremo in contatto con un vero essere umano che può aiutarti. Ma la necessità può superare la capacità anche dei servizi di maggior successo. Il Trevor Project ritiene che 1,8 milioni di giovani LGBTQ in America considerino seriamente il suicidio ogni anno. I 600 consulenti esistenti per i suoi servizi basati su chat non sono in grado di gestire tale esigenza. Ecco perché il gruppo, come un numero crescente di organizzazioni di salute mentale, si è rivolto a strumenti basati sull'intelligenza artificiale per soddisfare la domanda. È uno sviluppo che ha molto senso, e allo stesso tempo solleva interrogativi su come l'attuale tecnologia di intelligenza artificiale possa funzionare in situazioni in cui sono in gioco le vite delle persone vulnerabili.

Assumersi dei rischi e valutarli

Il Trevor Project crede di comprendere questo equilibrio e sottolinea ciò che Riley non fa.

Non abbiamo deciso e non intendiamo progettare un sistema di intelligenza artificiale che sostituirà un consulente o che interagirà direttamente con una persona che potrebbe essere in crisi, afferma Dan Fichter, capo dell'IA dell'organizzazione e ingegneria. Questa connessione umana è importante in tutti i servizi di salute mentale, ma potrebbe essere particolarmente importante per le persone servite dal Progetto Trevor. Secondo la ricerca dell'organizzazione nel 2019, i giovani LGBTQ con almeno un adulto accettante nella loro vita erano 40% meno probabile denunciare un tentativo di suicidio nell'anno precedente.

Il gioco di ruolo di formazione basato sull'intelligenza artificiale, chiamato simulatore di contatto di crisi e supportato dal denaro e dall'aiuto tecnico di Google, è il secondo progetto che l'organizzazione ha sviluppato in questo modo: utilizza anche un algoritmo di apprendimento automatico per aiutare a determinare chi è a più alto rischio di pericolo. (Ha provato diversi altri approcci, inclusi molti che non utilizzavano l'IA, ma l'algoritmo ha semplicemente fornito le previsioni più accurate per chi stava vivendo il bisogno più urgente.)

La valutazione del rischio basata sull'intelligenza artificiale non è nuova ai servizi di prevenzione del suicidio: il Department of Veterans Affairs utilizza anche l'apprendimento automatico per identificare i veterani a rischio nelle sue pratiche cliniche, come il Lo ha riferito il New York Times alla fine dell'anno scorso.

Le opinioni variano sull'utilità, l'accuratezza e il rischio dell'utilizzo dell'IA in questo modo. In ambienti specifici, l'IA può essere più accurata degli esseri umani nel valutare il rischio di suicidio delle persone, sostiene Thomas Joiner, professore di psicologia alla Florida State University che studia il comportamento suicidario. Nel mondo reale, con più variabili, l'IA sembra funzionare come gli umani. Ciò che può fare, tuttavia, è valutare più persone a un ritmo più rapido.

Pertanto, è meglio usarlo per aiutare i consulenti umani, non per sostituirli. Il Trevor Project si affida ancora agli esseri umani per eseguire valutazioni del rischio complete sui giovani che utilizzano i suoi servizi. E dopo che i consulenti hanno finito i loro giochi di ruolo con Riley, quelle trascrizioni vengono riviste da un essere umano.

Come funziona il sistema

Il simulatore di contatto di crisi è stato sviluppato perché fare giochi di ruolo richiede molto tempo al personale ed è limitato al normale orario di lavoro, anche se la maggior parte dei consulenti prevede di fare volontariato durante i turni notturni e nei fine settimana. Ma anche se l'obiettivo era quello di formare più consulenti più velocemente e adattarsi meglio ai programmi dei volontari, l'efficienza non era l'unica ambizione. Gli sviluppatori volevano comunque che il gioco di ruolo fosse naturale e che il chatbot si adattasse agilmente agli errori dei volontari. Algoritmi di elaborazione del linguaggio naturale , che di recente era diventato davvero bravo a imitare le conversazioni umane, sembrava adatto alla sfida. Dopo aver testato diverse opzioni, il Trevor Project ha deciso Algoritmo GPT-2 di OpenAI .

Storia correlata

Il nuovo generatore di linguaggi di OpenAI GPT-3 è incredibilmente buono e completamente insensato

L'intelligenza artificiale è il più grande modello linguistico mai creato e può generare su richiesta un testo simile a quello umano, ma non ci avvicina alla vera intelligenza.

Il chatbot utilizza GPT-2 per le sue capacità di conversazione di base. Quel modello è addestrato su 45 milioni di pagine del web, che gli insegnano la struttura di base e la grammatica della lingua inglese. Il Trevor Project lo ha quindi addestrato ulteriormente su tutte le trascrizioni delle precedenti conversazioni di giochi di ruolo di Riley, che hanno fornito al robot i materiali di cui aveva bisogno per imitare il personaggio.

Durante tutto il processo di sviluppo, il team è rimasto sorpreso dalle prestazioni del chatbot. Non esiste un database che memorizzi i dettagli della biografia di Riley, eppure il chatbot è rimasto coerente perché ogni trascrizione riflette la stessa trama.

Ma ci sono anche compromessi nell'uso dell'IA, specialmente in contesti sensibili con comunità vulnerabili. GPT-2, e altri algoritmi di linguaggio naturale come questo, sono noti per incorporare idee profondamente razziste, sessiste e omofobiche. Più di un chatbot è stato sviato disastrosamente in questo modo, il più recente è stato un chatbot sudcoreano chiamato Lee Luda che aveva il personaggio di uno studente universitario di 20 anni. Dopo aver rapidamente guadagnato popolarità e aver interagito con sempre più utenti, ha iniziato a usare insulti per descrivere le comunità queer e disabili.

Il Trevor Project ne è consapevole e ha progettato modi per limitare il potenziale di problemi. Mentre Lee Luda doveva conversare con gli utenti su qualsiasi cosa, Riley è molto concentrato. I volontari non si discosteranno troppo dalle conversazioni su cui sono stati formati, il che riduce al minimo le possibilità di comportamenti imprevedibili.

Ciò rende anche più semplice testare in modo completo il chatbot, cosa che il Trevor Project afferma che sta facendo. Questi casi d'uso altamente specializzati e ben definiti e progettati in modo inclusivo non rappresentano un rischio molto elevato, afferma Nenad Tomasev, ricercatore di DeepMind.

Da umano a umano

Questa non è la prima volta che il settore della salute mentale cerca di sfruttare il potenziale dell'IA per fornire assistenza inclusiva ed etica senza ferire le persone che è progettata per aiutare. Ricercatori hanno sviluppato modi promettenti di rilevare la depressione da una combinazione di segnali visivi e uditivi. I robot terapeutici, sebbene non equivalenti a un professionista umano, vengono lanciati in alternativa per chi non può accedere a un terapeuta o sono a disagio confidarsi in una persona.

Ognuno di questi sviluppi, e altri simili, richiedono di pensare a quanto dovrebbero avere gli strumenti di intelligenza artificiale dell'agenzia quando si tratta di curare le persone vulnerabili. E il consenso sembra essere che a questo punto la tecnologia non sia proprio adatta a sostituire l'aiuto umano.

Tuttavia, Joiner, il professore di psicologia, afferma che questo potrebbe cambiare nel tempo. Sebbene sostituire i consulenti umani con le copie dell'IA sia attualmente una cattiva idea, ciò non significa che sia un vincolo permanente, dice. Persone, hanno amicizie e relazioni artificiali già con i servizi di intelligenza artificiale . Finché le persone non vengono indotte a pensare di avere una discussione con un essere umano quando stanno parlando con un'IA, dice, potrebbe essere una possibilità in futuro.

Nel frattempo, Riley non affronterà mai i giovani che in realtà inviano messaggi al Trevor Project: servirà sempre e solo come strumento di formazione per i volontari. La connessione da uomo a uomo tra i nostri consulenti e le persone che ci contattano è essenziale per tutto ciò che facciamo, afferma Kendra Gaunt, responsabile dei dati e del prodotto AI del gruppo. Penso che questo ci renda davvero unici e qualcosa che penso che nessuno di noi voglia sostituire o cambiare.

Correzione: Abbiamo modificato una frase in cui si affermava che il Trevor Project ha testato due algoritmi per il suo chatbot. Ne ha provati diversi.

nascondere