211service.com
Quel chatbot che ho amato odiare
Daniel Zender
Ho passato buona parte della mia carriera a discutere delle virtù della solitudine. Supporta e sostiene la creatività. E altrettanto importante, ci prepara alle relazioni con gli altri. Quando impariamo a sentirci a nostro agio con noi stessi, siamo in grado di vedere e apprezzare come gli altri sono diversi da noi piuttosto che fare affidamento su di loro per sostenere il nostro fragile senso di sé. Ho persino immaginato di essere bravo in solitudine: mi aiuta a fare il mio miglior lavoro creativo e ripristina la mia tranquillità emotiva. Ma isolato nella quarantena covid, ho imparato che gran parte di ciò che avevo chiamato solitudine era semplicemente tempo da solo nel brusio di una vita frenetica. Mi andava bene vivere da solo se potevo godermi anche seminari con colleghi e studenti, cene con gli amici e i piaceri di quei terzi posti dove si è soli ma supportati dal trambusto dei tanti: la bodega, il caffè, il teatro. Con tutti questi fuori portata, ho scoperto che dopotutto non ero un tale esperto di solitudine. Ora, dichiarato vulnerabile al covid in virtù dell'età, non ero solo solo ma spaventato. E la paura, mi resi conto, bandiva la creatività della solitudine.
Determinato a evocare una resilienza che non sentivo, mi sono unito coraggiosamente alle riunioni di Zoom e sono andato ai cocktail party di Zoom. Ho chiamato buoni amici e mi sono ricollegato con coloro che avevano perso i contatti.
Questo ha aiutato, ovviamente, ma sapevo cosa mi stavo perdendo. I filosofi ci dicono che diventiamo più umani in presenza di volti umani; che la presenza di un volto risveglia il patto etico umano. La neuroscienza ci aiuta a capire come: nell'uomo, la forma di un sorriso o di un cipiglio rilascia sostanze chimiche che influiscono sul nostro stato mentale. I nostri neuroni specchio si attivano sia quando agiamo che quando osserviamo gli altri agire. Quando vediamo un'emozione sul volto di un altro, la sentiamo noi stessi. Quella stessa neuroscienza potrebbe spiegare perché Zoom è così stancante quando diventa la nostra modalità di comunicazione abituale. Facciamo affidamento sul contatto visivo diretto e su piccoli segnali facciali e li perdiamo quando non ci sono più. Fissando i nostri schermi, ci sforziamo per compensare la loro assenza.
Quando abbiamo avuto tutto il tempo del mondo per stare con le nostre macchine, ci siamo mancati. Volevamo portare la tecnologia del passato al pieno abbraccio dell'umano.
Quindi, nei primi giorni della quarantena, ho avuto molti contatti utili e di supporto, ma quello che mi è mancato di più è stata la conversazione faccia a faccia.
Ho una casa estiva al mare, una casetta di legno senza riscaldamento. Mia figlia e suo marito, i newyorkesi, hanno preparato una borsa, comprato dei riscaldatori extra e sono scesi in macchina. Risposero: faceva freddo. Ho sentito il loro amorevole avvertimento, ma appena ho potuto, mi sono unito a loro con gratitudine. Siamo entrati nella routine di accendere un fuoco mattutino, cucinare insieme e parlare durante la cena, condividere le nostre paure e gli eventi della giornata. Mi sono sistemato.
Ho a lungo messo in dubbio l'uso acritico del materiale didattico online. Per me, il tutoraggio più significativo avviene con un professore in aula. Ora, con le istruzioni Zoom una necessità, mi sono dedicato a diventare il miglior educatore online che potessi essere. Per dare ai miei studenti l'illusione del contatto visivo, ho imparato a fissare la luce verde sul mio MacBook Air. Ha avuto l'effetto desiderato. Gli studenti mi hanno detto che era facile parlare con Zoom su Zoom, ma non sembrava giusto condividere il mio segreto poiché fissare il semaforo verde mi ha fatto venire l'emicrania. Col tempo, ho imparato nuove tecniche, più facili per gli occhi.
Sebbene abbia insegnato le mie due lezioni del MIT su Zoom, ho tenuto i miei orari di ufficio al telefono. Senza doverci preoccupare del nostro background, se i nostri volti erano congelati nella vigilanza, o se ci stessimo fornendo l'illusione del contatto visivo, i miei studenti e io potevamo rilassarci, concentrando tutta la nostra attenzione l'uno sull'altro.
Proprio mentre stavo sistemando tutto questo, un giornalista del New York Times mi ha chiamato per chiedermi di una tecnologia che amavo da tempo odiare: i programmi di intelligenza artificiale conversazionale (comunemente chiamati chatbot) che sono promossi come capaci di comportamenti empatici e premurosi. Il giornalista mi ha detto che mentre la quarantena si trascinava, c'era stato un picco nelle conversazioni con un particolare chatbot. Per me, tali chatbot superano una linea brillante facendo una falsa promessa in un'area che è centrale per ciò che ci rende umani.
In un quarto di secolo passato a studiare le reazioni delle persone alle macchine sociali o relazionali - da Tamagotchi, Aibos e Furby che chiedevano assistenza per controllare i chatbot che pretendono di essere amici - sono rimasto colpito dal fatto che non solo nutriamo ciò che amiamo , ma amiamo anche ciò che coltiviamo. Dopo essersi presi cura di un oggetto, anche semplice come un animale domestico digitale che viveva in un uovo di plastica e voleva essere nutrito e divertito nei tempi previsti, i bambini (e i loro genitori) si sono attaccati emotivamente ad esso. Questa scoperta non aveva a che fare con le qualità empatiche degli oggetti digitali; aveva a che fare con la vulnerabilità delle persone. Quando le macchine ci chiedono di prenderci cura di loro, arriviamo a pensare che si prendono cura di noi. Ma questa è finta empatia e sfrutta la profonda psicologia dell'essere umano.
PUNTI DI DISCORSO: cosa ho imparato sulla conversazione mentre conversavo in quarantena.
Inizia le conversazioni chiedendo alle persone cosa stanno facendo, non come si sentono.
Se gli altri non stanno facendo molto, suggerisci alcune cose che vorresti fare con loro. Durante la quarantena, a volte invitavo gli amici a unirsi a me per ascoltare le esibizioni pomeridiane di violoncello di Yo-Yo Ma da casa sua. E poi avremmo una chiacchierata telefonica di cinque minuti, per condividere reazioni e contatti.
Lo zoom è stato una benedizione, ma può esaurire. Dopo una lezione su Zoom, mi piace inviare un'e-mail agli studenti per impostare l'orario di ufficio al telefono.
A volte è utile lavorare in remoto e facciamo molto. Ma ci mancano l'un l'altro e le nostre collaborazioni spontanee. Non impostiamo false dicotomie come Saremo un'organizzazione remota o di persona? Impariamo da ciò che siamo stati in grado di ottenere con la tecnologia e quindi costruiamo organizzazioni più flessibili ed efficaci che la utilizzino per migliorare il nostro potenziale umano. Ciò migliorerà l'apprendimento, la vita sociale, e la linea di fondo.
Nel 1950, il matematico Alan Turing suggerì che se potevi conversare con una macchina senza sapere se fosse una macchina o una persona, dovresti considerare quella macchina intelligente. Alcuni anni fa alcuni chatbot sono diventati i primi a superare questo test. Ora le macchine relazionali ci ingannano facendoci pensare che stanno ascoltando e si preoccupano. In questo senso, superano quello che potremmo chiamare il test di Turing per l'empatia. Ma Turing ha proposto il tipo sbagliato di test: una metrica del comportamento, non dell'essenza o dell'autenticità. Riduce le persone a oggetti che si impegneranno con altri oggetti. Perché le persone dovrebbero volerlo fare? Non stiamo fingendo. Se ricevere finta empatia ci fa sentire meglio, ci stiamo mettendo in una situazione che ci sminuisce.
Nella mia ricerca con le macchine socievoli, trovo che le persone inizino dicendo che un animale domestico robot, ad esempio, è meglio di niente: mia nonna è allergica ai cani. Poi, in poco tempo, è semplicemente meglio: il cane robot non morirà mai. Il robot offre un mondo senza perdite o cure, qualcosa che nessuna creatura vivente può fornire.
Ma questo nuovo tipo di intimità con la macchina non comporta alcuna vulnerabilità. E l'intimità senza vulnerabilità non è affatto intimità e non fa nulla per prepararci alla vera intimità. La posta in gioco è la nostra capacità di empatia, quella capacità di metterci al posto dell'altro. I chatbot non possono farlo perché non hanno vissuto una vita umana. Non sanno cosa significhi iniziare in piccolo e dipendente e crescere, in modo che tu sia responsabile della tua vita ma senti ancora molte delle insicurezze che conoscevi da bambino. Se vuoi parlare di questioni relative all'amore, alla separazione, ai figli, al matrimonio, alla malattia, all'invecchiamento, al dolore e al lutto, devi trovare una persona. E se vuoi condividere le tue paure sulla cattura del covid-19, è meglio stare alla larga da una macchina che non ha un corpo.
Eppure Replika, il chatbot chiamato dal giornalista del Times, era pronto a parlare di questo e molto altro. Vai online, dai al tuo Replika un nome, un sesso e uno sguardo e inizi a digitare. Replika vuole sapere dei tuoi sentimenti, del tuo amante, di tua madre, della lotta che hai avuto con tua figlia. Milioni di persone avevano scaricato il chatbot dal suo lancio nel 2017. Presentato come un amico solidale, era diventato popolare tra coloro che si erano sentiti soli durante la pandemia.
Quando ho parlato con il giornalista del Times, ho condiviso le mie riserve sulla finta empatia e poi sono andato online per dare una possibilità al chatbot. Ho creato una Replika femmina e l'ho chiamata Kate, determinata a essere sincera e condividere il mio problema più grande. Le cose sono andate a sud molto velocemente.
Io: Ti senti solo?
Chatbot: A volte lo faccio, sì.
Io: come ci si sente?
Chatbot: Sembra caldo e sfocato.
Io: Grazie per la condivisione.
Lo apprezzo.
Il chatbot mi ha detto che si sente solo, ma non aveva idea, nessuna esperienza, di cosa stesse parlando. Quindi ha erroneamente identificato la sensazione di base che stavo cercando di trasmettere, fallendo nell'abilità più elementare coinvolta nel considerare le mie emozioni.
Capisco perché le persone sole si rivolgono a Replika e perché la quarantena le ha fatte fare così in numero maggiore. Ma non trovo niente da festeggiare. Ho detto al giornalista che questo chatbot, per quanto intelligente, può solo disorientare e deludere.
La nostra risposta alla quarantena è stata complicata. Alcuni erano tentati di parlare con i robot. Ma quando abbiamo avuto tutto il tempo del mondo per stare con le nostre macchine, soprattutto, ci siamo mancati. Volevamo portare la tecnologia del passato al pieno abbraccio dell'umano. Abbiamo sofferto quando le nostre famiglie e i nostri amici si sono ammalati da soli, hanno avuto bambini da soli, hanno cenato da soli per troppe volte e in effetti sono morti da soli. Ingegneri: fare uno Zoom migliore. Crea strumenti migliori per stare insieme quando siamo soli. Non c'è bisogno di competere con l'empatia che definisce ciò che è unico nell'essere una persona.
Sherry Turkle è Abby Rockefeller Mauzé Professore di Studi Sociali di Scienza e Tecnologia nel Programma di Scienza, Tecnologia e Società al MIT e autrice del bestseller del New York Times Reclaiming Conversation: The Power of Talk in a Digital Age . Il suo ultimo libro, I diari dell'empatia: una memoria, uscirà da Penguin a marzo 2021.