Come ci sentiamo riguardo ai robot che si sentono

Quando i robot diventano abbastanza intelligenti da rilevare i nostri sentimenti e rispondere in modo appropriato, potrebbero provare qualcosa di simile alle loro emozioni. Ma questo non li renderà necessariamente più simili agli umani. Di

• Luisa Sala pagina di archivio

24 ottobre 2017

Delcan & Company + Jenue

Octavia, un robot umanoide progettato per combattere gli incendi sulle navi della Marina, ha padroneggiato una gamma impressionante di espressioni facciali.

Quando è spenta, sembra una bambola a misura d'uomo. Ha un viso bianco e liscio con il naso camuso. Le sue sopracciglia di plastica si posano uniformemente sulla sua fronte come due piccole canoe capovolte.

Questa storia faceva parte del nostro numero di novembre 2017

• Vedi il resto del problema
• sottoscrivi

Quando è accesa, tuttavia, le sue palpebre si aprono e inizia a mostrare emozione. Può annuire con la testa in un gesto di comprensione; può allargare gli occhi e alzare entrambe le sopracciglia in una convincente parvenza di allarme; oppure può piegare la testa da un lato e storcere la bocca, replicando la confusione umana. Per un effetto comico, può persino inarcare un sopracciglio e restringere l'occhio opposto mentre batte le dita di metallo insieme, come se stesse pianificando atti di vendetta robotica.

Ma la gamma di espressioni facciali di Octavia non è il suo tratto più impressionante. La cosa sorprendente è che il suo affetto emotivo è una risposta accurata alle sue interazioni con gli umani. Sembra contenta, ad esempio, quando riconosce uno dei suoi compagni di squadra. Sembra sorpresa quando un compagno di squadra le dà un comando che non si aspettava. Sembra confusa se qualcuno dice qualcosa che non capisce.

Può mostrare un appropriato affetto emotivo perché elabora enormi quantità di informazioni sul suo ambiente. Può vedere, sentire e toccare. Esamina visivamente l'ambiente circostante utilizzando le due telecamere integrate nei suoi occhi e analizza caratteristiche come i lineamenti del viso, la carnagione e i vestiti. È in grado di rilevare le voci delle persone, utilizzando quattro microfoni e un programma di riconoscimento vocale chiamato Sphinx. Può identificare 25 oggetti diversi al tatto, dopo averli appresi usando le sue dita per manipolarli fisicamente in varie posizioni e forme possibili. Nel loro insieme, queste abilità percettive fanno parte della sua architettura cognitiva incarnata, che le consente, secondo i suoi creatori presso il Navy Center for Applied Research in Artificial Intelligence, di pensare e agire in modi simili alle persone.

Questa è un'affermazione eccitante, ma non è necessariamente scioccante. Siamo abituati all'idea che le macchine si comportino come le persone. Gli automi creati nella Francia del XVIII secolo potevano ballare, tenere il tempo e suonare la batteria, il dulcimer o il pianoforte. Da bambina, cresciuta negli anni '80, per qualche ragione desideravo una bambola pubblicizzata per la capacità di fare pipì nei suoi pantaloni.

L'Octavia è in grado di trasmettere espressioni, ma si scopre che le espressioni facciali non sono necessarie affinché le persone si sentano emotivamente attaccate ai loro robot. Laboratorio di ricerca navale degli Stati Uniti

Siamo persino abituati all'idea che le macchine pensino in modi che ci ricordano gli umani. Molti dei nostri acuti voti per la cognizione umana, ad esempio la capacità di battere un grande maestro a scacchi, o di comporre un sonetto metricamente accurato, sono stati raggiunti e superati dai computer.

Le azioni di Octavia, tuttavia, il pauroso spalancare gli occhi, il solco confuso delle sue sopracciglia di plastica, sembrano fare un passo avanti. Implicano che oltre a pensare nel modo in cui pensiamo, lei sta anche provando emozioni umane.

Non è proprio così: l'affetto emotivo di Octavia, secondo Gregory Trafton, che guida la sezione Sistemi intelligenti presso il centro di intelligenza artificiale della Marina, ha semplicemente lo scopo di dimostrare il tipo di pensiero che sta facendo e rendere più facile per le persone interagire con lei. Ma non è sempre possibile tracciare un confine tra pensare e sentire. Come riconosce Trafton, è chiaro che i pensieri e le emozioni delle persone sono diversi ma si influenzano a vicenda. E se, come dice, le emozioni influenzano la cognizione e la cognizione influenza le emozioni, la capacità di Octavia di pensare, ragionare e percepire indica alcune delle domande più grandi che accompagneranno l'ascesa delle macchine intelligenti. A che punto le macchine saranno abbastanza intelligenti da sentire qualcosa? E come lo sapremmo davvero?

Sensazioni personalizzate

Octavia è programmata con la teoria della mente, il che significa che può anticipare gli stati mentali dei suoi compagni di squadra umani. Capisce che le persone hanno convinzioni o intenzioni potenzialmente contrastanti. Quando Octavia riceve un comando che differisce dalle sue aspettative, esegue delle simulazioni per accertare cosa potrebbe pensare il compagno di squadra che ha dato il comando e perché quella persona pensa che questo obiettivo inaspettato sia valido. Lo fa esaminando i suoi modelli del mondo ma alterandoli leggermente, sperando di trovarne uno che porti all'obiettivo dichiarato. Quando inclina la testa da un lato e aggrotta le sopracciglia, è per segnalare che sta eseguendo queste simulazioni, cercando di capire meglio le convinzioni del suo compagno di squadra.

Non sappiamo ancora tutto ciò che è coinvolto nel provare emozioni.

Octavia non è programmata con modelli emotivi. La sua teoria della mente è un modello cognitivo. Ma funziona molto come l'empatia, la più amata di tutte le emozioni umane.

Altri produttori di robot evitano la questione dell'intelligenza emotiva delle loro macchine. SoftBank Robotics, ad esempio, che vende Pepper, un simpatico e simpatico robot umanoide costruito per fungere da compagno umano, afferma che Pepper può percepire le emozioni umane, aggiungendo che Pepper ama interagire con te, Pepper vuole saperne di più sui tuoi gusti, le tue abitudini e semplicemente chi sei. Ma sebbene Pepper possa avere la capacità di riconoscere le emozioni umane, e sebbene Pepper possa essere in grado di rispondere con sorrisi felici o espressioni di tristezza, nessuno sostiene che Pepper si sente davvero tali emozioni.

Cosa ci vorrebbe per un creatore di robot per affermarlo? Per prima cosa, non sappiamo ancora tutto ciò che è coinvolto nel provare emozioni.

Cose riviste

• Cultura e interazione uomo-robot negli spazi militarizzati: una storia di guerra

  Di Julie Carpenter
  Routledge, 2016

• Come sono fatte le emozioni: la vita segreta del cervello

  Di Lisa Feldman Barrett
  Houghton Mifflin Harcourt, 2017

• La strategia dei sistemi robotici e autonomi dell'esercito americano

  marzo 2017

Negli ultimi anni, le rivoluzioni della psicologia e delle neuroscienze hanno ridefinito radicalmente il concetto stesso di emozione, rendendolo ancora più difficile da definire e descrivere. Secondo scienziati come la psicologa Lisa Feldman Barrett, professoressa alla Northeastern University, sta diventando sempre più chiaro che le nostre emozioni variano ampiamente a seconda della cultura in cui siamo cresciuti. Variano anche ampiamente all'interno di un individuo in situazioni diverse. In effetti, sebbene condividiamo i sentimenti generali che costituiscono ciò che è noto come affetto (piacere, dispiacere, eccitazione e calma) con la maggior parte degli altri esseri umani e molti altri animali, le nostre emozioni più acute e specifiche variano più di quanto seguano norme particolari. La paura, ad esempio, è un concetto culturalmente condiviso, ma si manifesta nei nostri corpi in una miriade di modi. È ispirato da stimoli diversi, si manifesta in modo diverso nel nostro cervello e si esprime in modi diversi sui nostri volti. Non esiste un unico centro della paura o circuito della paura nel cervello, così come non esiste un'espressione facciale affidabile: tutti noi elaboriamo e mostriamo la nostra paura in modi radicalmente diversi, a seconda della situazione, modi in cui, attraverso le interazioni con altre persone, impariamo a identificare o etichettare come paura.

Quando parliamo di paura, quindi, stiamo parlando di un concetto ombrello generalizzato piuttosto che di qualcosa che esce da una parte specifica del cervello. Come dice Barrett, costruiamo emozioni sul posto attraverso un'interazione di sistemi corporei. Quindi, come possiamo aspettarci che i programmatori modellino accuratamente le emozioni umane nei robot?

Buoni soldati

Ci sono anche dilemmi morali intorno alla programmazione dei robot per avere emozioni. Questi problemi sono particolarmente ben dimostrati dai robot militari che, come Octavia, sono progettati per essere inviati in situazioni spaventose, dolorose o potenzialmente letali al posto di compagni di squadra umani meno superflui.

In una conferenza del 2017 sponsorizzata dalla Mad Scientist Initiative dell'esercito intitolata in modo allarmante, il tenente generale Kevin Mangum, il vice comandante per l'addestramento dell'esercito e il comando della dottrina, ha specificato che tali robot dovrebbero e saranno autonomi. Mentre osserviamo il nostro mondo sempre più complesso, non c'è dubbio che la robotica, i sistemi autonomi e l'intelligenza artificiale avranno un ruolo, ha affermato Mangum. La strategia per i sistemi robotici e autonomi dell'esercito del 2017 prevede la piena integrazione dei sistemi autonomi entro il 2040, sostituendo gli odierni robot per l'eliminazione delle bombe e altre macchine azionate a distanza da esseri umani.

Un addestratore civile mostra ai paracadutisti come impostare il display per un robot da campo di battaglia PackBot. Per quanto inespressivi possano sembrare questi robot, i soldati sul campo sviluppano legami con loro, vedendoli come parte della squadra. Michael J. McLeod

Quando questi robot possono agire e pensare da soli, dovrebbero, come Octavia, essere programmati con la parvenza di emozioni umane? Dovrebbero essere programmati per effettivamente avere emozione umana? Se li stiamo mandando in battaglia, dovrebbero non solo pensare, ma anche sentirsi al fianco dei loro compagni umani?

Da un lato, certo che no: se stiamo progettando robot con il preciso scopo di esporli al pericolo, sarebbe sadico dare loro la capacità di subire terrore, traumi o dolore.

D'altra parte, però, se l'emozione colpisce l'intelligenza e viceversa, potremmo essere sicuri che un robot senza emozione sarebbe un buon soldato? E se la mancanza di emozioni portasse a decisioni stupide, rischi inutili o punizioni eccessivamente crudeli? Potrebbe un robot privo di emozioni decidere che la decisione intelligente sarebbe quella di commettere quello che un soldato umano riterrebbe un crimine di guerra? Oppure un robot senza accesso alla paura o alla rabbia prenderebbe decisioni migliori rispetto a un essere umano nella stessa situazione spaventosa e esasperante?

E poi c'è la possibilità che se emozione e intelligenza sono indissolubilmente legate, non esiste un robot intelligente senza emozione, nel qual caso la questione di quanta emozione dovrebbe avere un robot autonomo è, in qualche modo, fuori controllo del programmatore che si occupa di intelligence.

Attaccamenti emotivi

C'è anche la domanda su come questi robot potrebbero influenzare i loro compagni di squadra umani.

Entro il 2010, l'esercito degli Stati Uniti aveva iniziato a schierare una flotta di circa 3.000 piccoli robot tattici, in gran parte in risposta al crescente uso di ordigni esplosivi improvvisati in guerra. Al posto dei soldati umani, questi robot arrancano lungo strade esposte, in caverne oscure e attraverso porte strette per rilevare e disattivare IED imprevedibili.

I soldati hanno riferito di essersi sentiti sconvolti quando tali compagni di battaglia come il Talon, mostrato qui, vengono distrutti durante il loro dovere. Qinetiq

Questa flotta è composta principalmente da PackBot di iRobot e Talon di QinetiQ North America, robot non particolarmente avanzati. Assomigliano un po' a WALL-E, i loro corpi squadrati di metallo bilanciati su gradini di gomma che consentono loro di fare un ottimo lavoro nell'attraversare terreni rocciosi, salire le scale e farsi strada lungo corridoi bui. Hanno braccia articolate dotate di videocamere per ispezionare l'ambiente circostante e artigli per armeggiare con ordigni esplosivi.

Sono strumenti utili, ma non esattamente autonomi. Sono azionati a distanza, come le macchinine, da soldati che tengono in mano dispositivi che a volte sono dotati di joystick. Come esempio di intelligenza artificiale, PackBot non è molto più avanzato del prodotto più noto di iRobot, il Roomba che aspira sotto la poltrona.

Eppure anche adesso, nonostante la natura inespressiva di questi robot, i soldati umani sviluppano legami con loro. Julie Carpenter fa una dimostrazione Cultura e interazione uomo-robot negli spazi militarizzati che queste relazioni sono complicate, gratificanti e dolorose.

Quando Carpenter ha chiesto a un militare di descrivere i suoi sentimenti per un robot che era stato distrutto, ha risposto:

Voglio dire, non era ovviamente... neanche lontanamente vicino all'essere allo stesso livello di, come, sai, un tuo amico viene ferito o vede un membro essere portato fuori o qualcosa del genere. Ma c'era ancora una certa perdita, un senso di perdita per qualcosa che stava accadendo a uno dei tuoi robot.

Un altro militare ha paragonato il suo robot a un cane da compagnia:

Voglio dire, ti sei preso cura di quella cosa così come hai fatto con i membri del tuo team. E ti sei assicurato che fosse pulito e che le batterie fossero sempre cariche. E se non lo stavi usando, era nascosto al sicuro come meglio poteva essere perché sapevi se fosse successo qualcosa al robot, beh, allora era il tuo turno, e a nessuno piace pensarlo.

Ancora un altro uomo ha spiegato perché il suo compagno di squadra ha dato al proprio robot un nome umano:

Verso la fine del nostro tour stavamo trascorrendo più tempo fuori dal cavo a dormire nei nostri camion di quanto non fossimo dentro. Dormivamo dentro i nostri camion fuori dal cavo per cinque o sei giorni buoni alla settimana, e c'erano tre uomini nel camion, sai, uno disteso sui sedili anteriori; l'altro giace attraverso la torretta. E non possiamo scaricare oggetti sensibili e lasciarli fuori dal camion. Tutto deve essere chiuso a chiave, quindi il nostro TALON era nel corridoio centrale del nostro camion e il nostro ragazzo più giovane lo ha chiamato Danielle in modo da avere una donna con cui coccolarsi di notte.

'Il mio bellissimo robot è stato ucciso...' è stata in realtà la dichiarazione che ho fatto al mio caposquadra.

Questi uomini sottolineano tutti che i robot sono strumenti, non creature viventi con sentimenti. Tuttavia, danno ai loro robot nomi umani e li ripongono al sicuro di notte. Scherzano su quell'impulso, ma c'è una dissonanza leggermente inquietante nelle battute. I militari intervistati da Carpenter sembrano in qualche modo bloccati tra due sentimenti: capiscono l'assurdità di prendersi cura di un robot privo di emozioni progettato per essere sacrificabile, ma sperimentano comunque la tentazione di prendersi cura, almeno un po'.

Una volta che Carpenter ha pubblicato le sue interviste iniziali, ha ricevuto più comunicazioni da uomini e donne nell'esercito che avevano sviluppato veri legami con i loro robot. Un ex tecnico di smaltimento di ordigni esplosivi ha scritto:

Dato che sono un tecnico EOD di otto anni e tre schieramenti, posso dirti che ho trovato la tua ricerca estremamente interessante. Posso essere completamente d'accordo con gli altri tecnici che hai intervistato nel dire che i robot sono strumenti e come tali li manderò in qualsiasi situazione indipendentemente dal possibile pericolo.

Tuttavia, durante una missione in Iraq nel 2006, ho perso un robot che avevo chiamato Stacy 4 (dal nome di mia moglie che è anche una tecnologia EOD). Era un ottimo robot che non mi ha mai dato problemi, sempre performante in modo impeccabile. Stacy 4 è stata completamente distrutta e sono stato in grado di recuperare solo piccolissimi pezzi del telaio. Immediatamente dopo l'esplosione che ha distrutto Stacy 4, posso ancora ricordare la sensazione di rabbia, e molta. Il mio bellissimo robot è stato ucciso... era in realtà la dichiarazione che ho fatto al mio caposquadra. Dopo che la missione è stata completata e ho recuperato quanto più possibile del robot, ho pianto per la sua perdita. Mi sentivo come se avessi perso un caro membro della famiglia. Ho chiamato mia moglie quella sera e gliel'ho detto anche a lei. So che suona stupido, ma odio ancora pensarci. So che i robot che utilizziamo sono solo macchine e prenderei di nuovo le stesse decisioni, pur conoscendo il risultato.

Apprezzo la vita umana. Apprezzo le relazioni che ho con persone reali. Ma posso dirti che sicuramente mi manca Stacy 4, era un buon robot.

Se questi sono i tipi di testimonianze che possono essere raccolte da soldati che interagiscono con macchine senza volto come PackBots e Talons, cosa sentiresti da soldati schierati con robot come Octavia, che vedono, sentono e toccano e possono anticipare gli stati mentali dei suoi compagni di squadra umani ?

Nelle conversazioni popolari sull'etica del dare sentimenti ai robot, tendiamo a concentrarci sugli effetti di tale innovazione tecnologica sui robot stessi. Film e programmi TV da Blade Runner a Mondo occidentale occuparsi del trauma che verrebbe inflitto ai sentimenti di robot dagli umani che li usano per il loro divertimento. Ma c'è anche l'inverso da considerare: il trauma inflitto agli umani che si legano ai robot per poi mandarli a morte certa.

Storia correlata

Storia correlata Una tendenza emergente nell'intelligenza artificiale è quella di far sì che i computer rilevino come ci sentiamo e rispondano di conseguenza. Potrebbero anche aiutarci a sviluppare più compassione l'uno per l'altro.

Ciò che complica ulteriormente tutto questo è che se un robot come Octavia finisce per provare emozioni umane, quelle sensazioni non saranno solo il risultato dell'architettura cognitiva che le è stata data per cominciare. Se sono qualcosa come le nostre emozioni, si evolveranno nel contesto delle sue relazioni con i suoi compagni di squadra, del suo posto nel mondo in cui abita.

Se la sua vita da robot unica, ad esempio, viene spesa per essere mandata nel fuoco dai suoi compagni umani, o percorrendo da sola le strade del deserto intrecciate con ordigni esplosivi, le sue emozioni saranno diverse da quelle vissute da un robot più protetto, o da un più protetto. umano. Indipendentemente dalle espressioni emotive riconoscibili che fa, se trascorre la sua vita in situazioni disumane, le sue emozioni potrebbero non essere riconoscibilmente umane.

Louisa Hall, scrittrice di New York, è l'autrice di Parlare , un romanzo del 2015 sull'intelligenza artificiale.

nascondere