Le università dovrebbero davvero mettere altoparlanti intelligenti nei dormitori?

Quando Mateo Catano è tornato per il suo secondo anno da studente universitario alla Saint Louis University nell'autunno del 2018, si è ritrovato con un nuovo compagno di stanza, non un altro studente ma un cervello disincarnato sotto forma di Amazon Echo Dot.

All'inizio di quell'estate, il dipartimento di tecnologia dell'informazione della SLU aveva installato circa 2.300 altoparlanti intelligenti, uno per ciascuna delle stanze della residenza universitaria, rendendo la scuola la prima nel paese a farlo. Ogni dispositivo è stato preprogrammato con risposte a circa 130 domande specifiche per SLU, che vanno dagli orari della biblioteca all'ubicazione dell'ufficio del registro (la scuola ha soprannominato AskSLU). I dispositivi includevano anche le abilità vocali di base disponibili su altri Dots, inclusi allarmi e promemoria, informazioni generali e la possibilità di riprodurre musica in streaming.

Questa storia faceva parte del nostro numero di gennaio 2020

• Vedi il resto del problema
• sottoscrivi

Per Catano, il punto è stato un'aggiunta gradita. Gli piaceva sentire il tempo per prima cosa al mattino e sapere quali sale da pranzo erano aperte. E, se è onesto, gli piaceva la compagnia. Vivendo in un single, AskSLU mi ha sicuramente fatto sentire meno solo, dice. E mi piaceva lo status di essere la prima università a farlo.

La reazione di Catano è stata esattamente quella che speravano gli amministratori della SLU. Questo autunno, l'istituzione gesuita ha annunciato l'intenzione di ampliare le capacità vocali dei suoi Echo Dots includendo sia i messaggi di testo che le funzioni di chatbot.

Nessuna idea degli effetti a lungo termine

Siamo sull'orlo di una nuova era di altoparlanti intelligenti nel campus. Scuole di ampia portata come l'Arizona State University, la Lancaster University nel Regno Unito e la Ross University School of Medicine delle Barbados hanno adottato la tecnologia delle abilità vocali nel campus. Alcuni, tra cui la Northeastern University, hanno fatto un ulteriore passo avanti nella tecnologia e ora offrono agli studenti l'accesso a dati finanziari, orari e voti dei corsi e tasse eccezionali tramite dispositivi vocali.

Alla fine del 2018, l'Emerson College di Boston ha annunciato di essere stato uno dei 18 beneficiari di una sovvenzione di Amazon per promuovere la tecnologia abilitata alla voce nei campus, parte dell'Alexa Innovation Fellowship del gigante tecnologico. Emerson ha creato un laboratorio vocale dedicato in cui gli studenti possono interagire e sperimentare le abilità di Alexa e prevede di installare dispositivi Alexa in luoghi come i teatri e le banche degli ascensori.

Gli amministratori di alcune di queste scuole mi hanno detto che credono che Alexa rafforzerà le iscrizioni e ridurrà i tassi di abbandono. Molti hanno anche affermato di ritenere che la tecnologia vocale possa aumentare il successo dei loro studenti e aumentare la loro felicità generale.

Tuttavia, ci sono molte persone nel campus che vedono un lato oscuro.

Quando si tratta di distribuire dispositivi di ascolto in cui si verificano conversazioni sensibili, semplicemente non abbiamo idea di quale effetto a lungo termine le conversazioni registrate e conservate da Amazon potrebbero avere sul loro futuro, persino, molto probabilmente, sulla loro salute e benessere, afferma Russell Newman, un professore di Emerson che ricerca l'economia politica della comunicazione e la politica delle comunicazioni.

Non sappiamo ancora davvero quanti dati gli host di competenze vocali come Amazon, o terze parti che si affidano ad Amazon, stiano raccogliendo o cosa stiano facendo con tali informazioni.

Altri membri della facoltà con cui ho parlato hanno fatto eco alle obiezioni di Newman. E se i dati raccolti dalle conversazioni degli studenti influissero sulle loro possibilità di ottenere un mutuo o un lavoro in seguito? E se fosse usato contro studenti stranieri per farli deportare, possibilmente nei paesi di origine dove potrebbero essere imprigionati per le loro opinioni politiche?

Destra. Quindi, dati tutti i rischi, perché i college sono così ansiosi di riempire i loro campus con microfoni abilitati all'intelligenza artificiale? Cosa c'è in loro per loro?

AI in soccorso

I college e le università affrontano diverse crisi incombenti. Dopo anni di aumento vertiginoso delle iscrizioni, le scuole statunitensi stanno registrando un calo delle ammissioni, una tendenza che dovrebbe peggiorare nel prossimo decennio. Un rapporto speciale del novembre 2019 del Chronicle of Higher Education prevede una rapida diminuzione anche nelle istituzioni più selettive del paese. Le entrate istituzionali si sono bloccate: Moody's Investors Service ha emesso una prospettiva negativa per l'istruzione superiore per l'anno fiscale 2019, ad eccezione delle università del sud. Per tre anni, il Dipartimento dell'Istruzione ha cercato di tagliare miliardi di aiuti finanziari e sostegno agli studenti più poveri, sebbene il Congresso abbia rifiutato i tagli. I contributi statali ai bilanci delle università pubbliche sono rimasti indietro rispetto all'ultima recessione. Anche i college privati ​​stanno lottando; più di un quarto di loro è ora in rosso. Negli ultimi anni, 20 college privati ​​senza scopo di lucro hanno chiuso i battenti e molti altri stanno valutando la possibilità di fondersi o consolidarsi.

Nel frattempo, metà di tutti gli studenti che entrano all'università non si diplomano entro sei anni. I ricercatori danno una varietà di spiegazioni. Nick Bowman, professore di educazione all'Università dell'Iowa, sottolinea il fatto che gli studenti di oggi sono più grandi dei tradizionali ragazzi tra i 18 ei 22 anni. Molti hanno un lavoro a tempo pieno. Alcuni si prendono cura di bambini o fratelli o genitori anziani. E con una media di $ 35.000 di debiti per prestiti studenteschi dopo quattro anni di scuola, la prospettiva di abbandonare gli studi può essere allettante.

Per molti amministratori di college, l'IA offre soluzioni interessanti a queste difficoltà. La Winston-Salem State University, un'università storicamente nera con molti studenti universitari a basso reddito e di prima generazione, ha avuto problemi perenni nell'aiutare ogni classe che accede a rispettare scadenze chiave come inviare le trascrizioni delle scuole superiori e i registri delle vaccinazioni, completare moduli di aiuti finanziari e fare depositi abitativi. Ci siamo resi conto che molti dei nostri studenti potrebbero non comprendere il processo di iscrizione al college e potrebbero non essere in grado di fare affidamento sulle famiglie o sui sistemi di supporto per decodificarlo per loro, afferma Jay Davis, capo delle relazioni con i media dell'università.

Due anni fa, WSSU ha collaborato con un'azienda tecnologica chiamata AdmitHub per offrire un chatbot AI chiamato Winston per aiutare gli studenti a navigare nel processo di iscrizione. Davis afferma che l'app risponde con successo a circa tre quarti delle domande degli studenti e che c'è stato un drammatico aumento del numero di studenti che soddisfano i loro requisiti finanziari e presentano tutti i documenti giustificativi necessari per completare la domanda. Quest'anno la WSSU ospiterà la sua più grande classe del primo anno in più di un decennio, e Davis dice che Winston ha giocato un ruolo importante in questo.

Accedi alle tue parole, per sempre

Ho passato diverse ore a giocare con i chatbot in una manciata di college e università. Tutti hanno fatto domande sulla mascotte della scuola, dove potevo trovare la cena e quando si sarebbe tenuto il prossimo evento di networking sportivo o di ex alunni. Ma hanno fregato gli altri. Quando ho detto a uno che ero malato, mi ha informato che il centro sanitario per studenti non avrebbe emesso una scusa scritta per le lezioni perse. Gli ho chiesto dove fosse il centro sanitario studentesco; ha risposto con i tempi dei tour universitari per i potenziali studenti. Ho detto a un altro che mi sentivo depresso e mi ha indirizzato a un programma di aiuti finanziari per studenti federali.

I programmatori del campus dall'altra parte di questi dispositivi mi hanno detto che le abilità sarebbero migliorate man mano che più studenti le avrebbero utilizzate, il che è, ovviamente, ciò che rende l'IA così efficace. Ma è anche ciò che rende le minacce alla nostra privacy così reali, afferma Vitaly Shmatikov, professore di informatica alla Cornell Tech. Le aziende tecnologiche, afferma Shmatikov, sono notoriamente poco chiare sulla privacy e sulla sicurezza. Ciò che lui e altri studiosi hanno appreso su di loro è in gran parte attraverso il reverse engineering e alcune congetture istruite, e i risultati riguardano molto Shmatikov.

Per cominciare, dice, aziende come Amazon addestrano i loro algoritmi di riconoscimento vocale sulle registrazioni delle precedenti interazioni degli utenti per renderli migliori, ad esempio, nella comprensione dell'intento di una domanda. Dice che tutte le aziende coinvolte sono molto caute sulla quantità di dati che viaggiano tra di loro. Non vi è alcuna promessa per l'utente che i suoi dati non lasceranno un dispositivo specifico, afferma Shmatikov. Non sappiamo ancora davvero quanti dati gli host con competenze vocali come Amazon, o terze parti che si affidano ad Amazon, stiano raccogliendo o cosa stiano facendo con tali informazioni. Amazon non ha risposto a più richieste di commento.

Shmatikov afferma che è ragionevole presumere che il cloud di un'azienda abbia registrazioni con data e ora delle richieste degli studenti a un oratore intelligente e che i dispositivi potrebbero persino registrare le conversazioni che lo studente potrebbe aver avuto con altre persone prima o dopo aver parlato con esso. Man mano che l'identificazione vocale e le capacità di localizzazione migliorano, diventerà sempre più possibile collegare queste registrazioni a una singola persona. Non è come una scuola che perquisisce il tuo armadietto; è più come una scuola che registra in perpetuo tutto ciò che è mai stato nel tuo armadietto e ciò che tu e i tuoi amici avete detto ogni volta che lo avete aperto, e poi lasciare che una miriade di entità commerciali cerchi tali informazioni.

Funzionari dell'Arizona State University e della Saint Louis University affermano che non stanno collegando informazioni come dati finanziari, cartelle cliniche e voti degli studenti (dati noti come autenticati, poiché richiedono che uno studente si colleghi agli account personali) finché non sono più sicuri del misure di sicurezza. La tecnologia utilizzata a Northeastern è stata sviluppata da un piccolo team guidato da Somen Saha, allora dipendente dell'università. Saha alla fine ha creato una società indipendente chiamata n-Powered, che ha sviluppato un'app chiamata MyHusky disponibile tramite Alexa. Tuttavia, la sua pagina sulla privacy riconosce anche che utilizziamo la piattaforma di Amazon per farlo funzionare. Amazon memorizza le informazioni sull'utilizzo che possono essere eliminate su richiesta.

Shmatikov afferma che l'utilizzo del software di un'università e la limitazione dell'uso dei chatbot a domande generali può limitare l'accesso di un'azienda tecnologica alle informazioni sugli studenti, ma non risolverà del tutto il problema. Indica domande delicate come se il centro sanitario offra test STD o prescrizioni per trattare condizioni come la schizofrenia: tecnicamente, questi non sono collegati a uno studente specifico, ma non è troppo difficile capire chi sta chiedendo e gli studenti potrebbero non rendersene conto queste non sono sempre domande anonime. Inoltre, afferma Shmatikov, finché un'azienda come Amazon converte i messaggi degli studenti in segnali di dati, ha accesso alle informazioni degli studenti, per sempre.

Ramificazioni spaventose

La privacy è una preoccupazione per qualsiasi utente di un dispositivo di intelligenza artificiale, ma la facoltà con cui ho parlato per questa storia insiste sul fatto che ci sono ramificazioni particolarmente spaventose per l'istruzione superiore.

Gli studenti universitari sono forse la categoria di consumatori più desiderabile, afferma Newman di Emerson. Sono i più difficili da raggiungere e i più propensi a stabilire tendenze. Di conseguenza, afferma, i loro dati sono tra i più preziosi e hanno maggiori probabilità di essere estratti o venduti. E per le istituzioni educative essere complici della mercificazione degli studenti per il guadagno aziendale è, dice, fondamentalmente antitetico alle loro missioni.

Sarah T. Roberts, assistente professore di studi sull'informazione presso l'UCLA, afferma che le scuole che stipulano accordi con aziende tecnologiche stanno almeno potenzialmente mettendo a rischio il benessere dei loro studenti. Il tempo trascorso da uno studente in un college o università viene utilizzato per esplorare idee e provare nuove identità, che si tratti di convinzioni politiche o di genere e sessualità, afferma Roberts. La consapevolezza di essere registrati mentre lo fanno impedirà indubbiamente agli studenti di sentirsi come se potessero esprimere la loro opinione. Vale anche la pena ricordare, dice, che molti studenti provengono da paesi in cui può essere pericoloso rivelare la propria sessualità o le proprie convinzioni politiche.

A Northeastern, uno studente ha creato una petizione online chiedendo all'università di rimuovere tutti i dispositivi Alexa. In parte si legge: Gli Alexa sono ben documentati come dispositivi di ascolto surrettizi utilizzati per aiutare ad affinare le tattiche di marketing di Amazon ... Per lo meno, la Northeastern University sta forzando un dispositivo estraneo negli spazi degli studenti che nessuno ha chiesto. Nel peggiore dei casi, stanno violando incautamente la privacy del loro corpo studentesco per volere di un donatore aziendale. All'inizio di dicembre, la petizione aveva 125 firme.

A Emerson, studenti e altri membri della facoltà si sono uniti a Newman nella creazione di un comitato per la stesura delle politiche sulla privacy per il campus. Per lo meno, dice, vorrebbe vedere segnali di avvertimento posizionati ovunque si trovi un dispositivo di ascolto. Dice che finora l'amministrazione è stata collaborativa e l'implementazione di qualsiasi dispositivo è stata ritardata.

Abbiamo bisogno di un modo sicuro per sperimentare queste tecnologie e comprendere le conseguenze del loro utilizzo invece di continuare una marcia cieca verso la sorveglianza a scopo di lucro, afferma Newman. Si tratta di applicazioni sofisticate con conseguenze per tutta la vita per gli individui che vengono analizzati da loro, a fini ancora sconosciuti. Abbiamo tutti bisogno di essere davvero giudiziosi e premurosi qui.

Kathryn Miles è una scrittrice freelance e autrice di Quakeland: Sulla strada per il prossimo terremoto devastante in America . La sua storia The Little Coin That Ate Quebec è apparsa nel numero di maggio/giugno 2018.

nascondere