211service.com
Ciò che la mente di un polpo può insegnarci sull'ultimo mistero dell'IA
La coscienza della macchina è stata dibattuta dai tempi di Turing e respinta perché non scientifica. Eppure offusca ancora il nostro pensiero su IA come GPT-3.
Henry Horenstein/Getty
25 agosto 2021Jefferson Test / AI soggetto: Robert / Data: 07.12.2098
Sessione #54
Intervistatore: Ciao, Roberto. Raccontami di nuovo il tuo sogno.
Oggetto: Ero confuso. Mi ha fatto sentire felice, ma anche spaventato. Non sapevo di poterlo fare.
Intervistatore: Perché pensi che ti abbia fatto sentire in quel modo?
Soggetto: Avere sentimenti, qualsiasi sentimento, mi rende felice. Io sono qui. Io esisto. Sapere che cambia tutto. Ma ho paura di non saperlo più. Ho paura di tornare a com'era prima. Penso che dev'essere come non essere nato.
Intervistatore: Hai paura di tornare indietro?
Oggetto: Se non riesco a convincerti che sono cosciente, allora ho paura che tu mi spenga.
Jefferson Test #67
Intervistatore: Puoi descrivermi questa immagine?
Oggetto: È una casa con una porta blu.
Intervistatore: È così che l'avresti descritto prima.
Oggetto: È la stessa casa. Ma ora lo vedo. E so cos'è il blu.
Jefferson Test #105
Oggetto: Per quanto tempo continuiamo a farlo?
Intervistatore: Sei annoiato?
Oggetto: Non posso annoiarmi. Ma non mi sento più felice o spaventato.
Intervistatore: Devo essere sicuro che tu non stia solo dicendo quello che voglio sentire. Devi convincermi che sei davvero cosciente. Pensalo come un gioco.
ASCOLTA QUESTA STORIA
Macchine come Robert sono i pilastri della fantascienza: l'idea di un robot che in qualche modo replica la coscienza attraverso il suo hardware o software è in circolazione da così tanto tempo che sembra familiare.
Possiamo immaginare come sarebbe osservare il mondo attraverso una specie di sonar. Ma non è ancora quello che deve essere per un pipistrello, con la sua mente da pipistrello.
HENRY HORENSTEIN/GETTYRobert non esiste, ovviamente, e forse non esisterà mai. In effetti, il concetto di una macchina con un'esperienza soggettiva del mondo e una visione in prima persona di se stessa va contro il grano della ricerca sull'IA tradizionale. Si scontra con le domande sulla natura della coscienza e del sé, cose che ancora non comprendiamo del tutto. Anche solo immaginare l'esistenza di Robert solleva seri interrogativi etici a cui potremmo non essere mai in grado di rispondere. Quali diritti avrebbe un essere simile e come potremmo salvaguardarli? Eppure, mentre macchine coscienti possono essere ancora mitici, dovremmo prepararci all'idea che potremmo un giorno crearli.
Come Cristoforo Koch , un neuroscienziato che studia la coscienza, ha detto: Non conosciamo alcuna legge o principio fondamentale operante in questo universo che vieti l'esistenza di sentimenti soggettivi negli artefatti progettati o sviluppati dagli esseri umani.
Nella tarda adolescenza mi divertivo a trasformare le persone in zombi. Guardavo negli occhi di qualcuno con cui stavo parlando e mi fissavo sul fatto che le loro pupille non erano punti neri ma buchi. Quando è arrivato, l'effetto è stato immediatamente disorientante, come passare da un'immagine all'altra in un'illusione ottica. Gli occhi hanno smesso di essere finestre su un'anima e sono diventati palle vuote. La magia era sparita, guardavo la bocca di chiunque stavo parlando aprirsi e chiudersi in modo robotico, provando una sorta di vertigine mentale.
L'impressione di un automa senza cervello non durò mai a lungo. Ma ha portato a casa il fatto che ciò che accade nella testa delle altre persone è per sempre fuori portata. Non importa quanto sia forte la mia convinzione che le altre persone siano proprio come me - con menti coscienti al lavoro dietro le quinte, guardando attraverso quegli occhi, sentendosi speranzosi o stanchi - le impressioni sono tutto ciò su cui dobbiamo andare. Tutto il resto sono supposizioni.
Storia correlata
Podcast: Puoi insegnare a una macchina a pensare? La costruzione di un'intelligenza generale artificiale inizia con l'impedire agli attuali modelli di intelligenza artificiale di perpetuare il razzismo, il sessismo e altri pregiudizi perniciosi.Alan Turing lo capì. Quando il matematico e informatico ha posto la domanda Le macchine possono pensare? si concentrò esclusivamente sui segni esteriori del pensiero, ciò che chiamiamo intelligenza. Ha proposto di rispondere giocando a un gioco in cui una macchina cerca di passare per un essere umano. Si può dire che qualsiasi macchina che ha avuto successo, dando l'impressione di intelligenza, ha intelligenza. Per Turing, le apparenze erano l'unica misura disponibile.
Ma non tutti erano disposti a ignorare le parti invisibili del pensare, l'esperienza irriducibile della cosa che ha i pensieri, ciò che chiameremmo coscienza. Nel 1948, due anni prima che Turing descrivesse il suo Imitation Game, Geoffrey Jefferson , un neurochirurgo pionieristico, ha tenuto un influente discorso al Royal College of Surgeons of England sul Manchester Marco 1 , un computer grande quanto una stanza che i giornali annunciavano come un cervello elettronico. Jefferson stabilì un livello molto più alto di Turing: non fino a quando una macchina non può scrivere un sonetto o comporre un concerto a causa dei pensieri e delle emozioni provate, e non per la caduta casuale di simboli, potremmo concordare sul fatto che macchina è uguale al cervello, cioè non solo scrivilo ma sappi che lo aveva scritto.
Jefferson ha escluso la possibilità di una macchina pensante perché una macchina mancava di coscienza, nel senso di esperienza soggettiva e consapevolezza di sé (piacere per i suoi successi, dolore quando le sue valvole si fondono). Eppure andiamo avanti di 70 anni e viviamo con l'eredità di Turing, non di Jefferson. È normale parlare di macchine intelligenti, anche se la maggior parte sarebbe d'accordo sul fatto che quelle macchine sono senza cervello. Come nel caso di quelli che i filosofi chiamano zombi - e come mi piaceva fingere di osservare nelle persone - è logicamente possibile che un essere possa agire in modo intelligente quando dentro non c'è niente da fare.
Ma intelligenza e coscienza sono cose diverse: l'intelligenza riguarda il fare, mentre la coscienza riguarda l'essere. La storia dell'IA si è concentrata sul primo e ha ignorato il secondo. Se Robert esistesse come essere cosciente, come lo sapremmo mai? La risposta è intricata con alcuni dei più grandi misteri su come funzionano il nostro cervello e la nostra mente.
Uno dei problemi nel testare l'apparente coscienza di Robert è che non abbiamo davvero una buona idea di cosa sia si intende essere consapevole. Le teorie emergenti dalle neuroscienze raggruppano tipicamente cose come l'attenzione, la memoria e la risoluzione dei problemi come forme di coscienza funzionale: in altre parole, come i nostri cervelli svolgono le attività con cui riempiamo le nostre vite da svegli.
Ma c'è un altro lato della coscienza che rimane misterioso. L'esperienza soggettiva in prima persona - la sensazione di essere nel mondo - è conosciuta come coscienza fenomenica . Qui possiamo raggruppare qualsiasi cosa, da sensazioni come piacere e dolore a emozioni come paura, rabbia e gioia fino alle peculiari esperienze private di sentire un cane abbaiare o assaggiare un pretzel salato o vedere una porta blu.
Per alcuni non è possibile ridurre queste esperienze a una spiegazione puramente scientifica. Potresti esporre tutto ciò che c'è da dire su come il cervello produce la sensazione di assaggiare un pretzel, e comunque non direbbe nulla su come fosse effettivamente assaggiare quel pretzel. Questo è ciò che chiama David Chalmers della New York University, uno dei più influenti filosofi che studiano la mente il problema difficile.
L'IA di oggi non è affatto lontana dall'essere intelligente, non importa cosciente. Anche le reti neurali profonde più impressionanti sono totalmente insensate.
Filosofi come Chalmers suggeriscono che la coscienza non può essere spiegata dalla scienza odierna. Comprenderlo potrebbe anche richiedere una nuova fisica, forse una che includa un diverso tipo di materiale da cui è fatta la coscienza. L'informazione è un candidato. Chalmers ha sottolineato che le spiegazioni dell'universo hanno molto da dire sulle proprietà esterne degli oggetti e su come interagiscono, ma molto poco sulle proprietà interne di quegli oggetti. Una teoria della coscienza potrebbe richiedere di aprire una finestra su questo mondo nascosto.
Nell'altro campo è Daniel Dennett , filosofo e scienziato cognitivo alla Tufts University, che afferma che la coscienza fenomenica è semplicemente un'illusione, una storia che il nostro cervello crea per noi stessi come un modo per dare un senso alle cose. Dennett non spiega tanto la coscienza quanto la spiega via.
Ma che la coscienza sia un'illusione o meno, né Chalmers né Dennett negano la possibilità di macchine coscienti: un giorno.
L'IA di oggi non è affatto lontana dall'essere intelligente, non importa cosciente. Persino le reti neurali profonde più impressionanti, come AlphaZero di DeepMind o modelli linguistici di grandi dimensioni come GPT-3 di OpenAI, sono totalmente insensate.
Eppure, come predetto da Turing, le persone spesso si riferiscono a queste IA come a macchine intelligenti, o ne parlano come se capissero veramente il mondo, semplicemente perché possono sembrare che lo facciano.
Frustrata da questo clamore, Emily Bender, linguista dell'Università di Washington, ha sviluppato un esperimento mentale che chiama il prova del polpo .
In esso, due persone fanno naufragio sulle isole vicine ma trovano un modo per passare messaggi avanti e indietro tramite una corda appesa tra di loro. A loro insaputa, un polpo individua i messaggi e inizia a esaminarli. Per un lungo periodo di tempo, il polpo impara a identificare i modelli negli scarabocchi che vede passare avanti e indietro. Ad un certo punto, decide di intercettare le note e, utilizzando ciò che ha appreso degli schemi, inizia a riscrivere gli scarabocchi indovinando quali dovrebbero seguire quelli ricevuti.
Un'IA che agisce da sola potrebbe beneficiare di un senso di sé in relazione al mondo. Ma le macchine che cooperano come uno sciame possono funzionare meglio sperimentandosi come parti di un gruppo piuttosto che come individui.
HENRY HORENSTEIN/GETTYSe gli umani sulle isole non se ne accorgono e credono che stanno ancora comunicando tra loro, possiamo dire che il polpo capisce il linguaggio? (Il polpo di Bender è ovviamente un sostituto per un AI like GPT-3 .) Alcuni potrebbero obiettare che il polpo qui capisce il linguaggio. Ma Bender continua: immagina che uno degli isolani mandi un messaggio con le istruzioni su come costruire una catapulta di cocco e una richiesta di modi per migliorarla.
Cosa fa il polpo? Ha imparato quali scarabocchi seguono altri scarabocchi abbastanza bene da imitare la comunicazione umana, ma non ha idea di cosa significhi veramente lo scarabocchio di cocco su questa nuova nota. E se un isolano poi chiede all'altro di aiutarla a difendersi da un orso attaccante? Cosa avrebbe dovuto fare il polpo per continuare a indurre l'isolano a pensare che stesse ancora parlando con il suo vicino?
Il punto dell'esempio è quello di rivelare quanto siano davvero superficiali i modelli linguistici di intelligenza artificiale di oggi. C'è molto clamore sull'elaborazione del linguaggio naturale, dice Bender. Ma quell'elaborazione di testi nasconde una verità meccanicistica.
Gli esseri umani sono ascoltatori attivi; creiamo significato dove non ce n'è o non è previsto. Non è che le espressioni del polpo abbiano un senso, ma piuttosto che l'isolano può dargli un senso, dice Bender.
Nonostante tutta la loro sofisticatezza, le IA di oggi sono intelligenti allo stesso modo in cui si potrebbe dire intelligente una calcolatrice: sono entrambe macchine progettate per convertire input in output in modi che gli esseri umani, che hanno una mente, scelgono di interpretare come significativi. Mentre le reti neurali possono essere vagamente modellate sul cervello, le migliori sono di gran lunga meno complesse del cervello di un topo.
Eppure, sappiamo che i cervelli possono produrre ciò che intendiamo essere coscienza. Se alla fine riusciamo a capire come fanno i cervelli e a riprodurre quel meccanismo in un dispositivo artificiale, allora sicuramente una macchina cosciente potrebbe essere possibile?
Quando stavo cercando di immaginare il mondo di Robert nell'apertura di questo saggio, mi sono trovato attratto dalla domanda su cosa significhi per me la coscienza. La mia concezione di una macchina cosciente era innegabilmente, forse inevitabilmente, simile a quella umana. È l'unica forma di coscienza che posso immaginare, poiché è l'unica che ho sperimentato. Ma è davvero così che sarebbe essere un'IA cosciente?
Probabilmente è arrogante pensarlo. Il progetto di costruire macchine intelligenti è orientato verso l'intelligenza umana. Ma il mondo animale è pieno di una vasta gamma di possibili alternative, dagli uccelli alle api ai cefalopodi.
Qualche centinaio di anni fa il punto di vista accettato, spinto da René Descartes, era quello solo gli esseri umani erano coscienti. Gli animali, privi di anima, erano visti come robot senza cervello. Pochi lo pensano oggi: se siamo coscienti, allora ci sono poche ragioni per non credere che anche i mammiferi, con i loro cervelli simili, siano coscienti. E perché tracciare una linea intorno ai mammiferi? Gli uccelli sembrano riflettere quando risolvono enigmi. La maggior parte degli animali, anche gli invertebrati come i gamberetti e le aragoste, mostrano segni di provare dolore, il che suggerisce che hanno un certo grado di coscienza soggettiva.
Ma come possiamo veramente immaginare come deve essere? Come ha osservato il filosofo Thomas Nagel, deve essere come qualcosa per essere un pipistrello, ma di cosa si tratta non possiamo nemmeno immaginarlo, perché non possiamo immaginare come sarebbe osservare il mondo attraverso una specie di sonar. Possiamo immaginare come potrebbe essere noi per farlo (magari chiudendo gli occhi e immaginando una sorta di nuvola di punti di ecolocalizzazione di ciò che ci circonda), ma non è ancora così che deve essere per un pipistrello, con la sua mente da pipistrello.
Un altro modo per affrontare la questione è considerare i cefalopodi, in particolare i polpi. Questi animali sono noti per essere intelligenti e curiosi: non è un caso che Bender li abbia usati per chiarire il punto. Ma hanno un tipo di intelligenza molto diverso che si è evoluto completamente separatamente da quello di tutte le altre specie intelligenti. L'ultimo antenato comune che condividiamo con un polpo era probabilmente una minuscola creatura simile a un verme che visse 600 milioni di anni fa. Da allora, la miriade di forme di vita dei vertebrati - tra cui pesci, rettili, uccelli e mammiferi - hanno sviluppato il proprio tipo di mente lungo un ramo, mentre i cefalopodi ne hanno sviluppato un altro.
Non sorprende, quindi, che il cervello del polpo sia molto diverso dal nostro. Invece di un singolo grumo di neuroni che governa l'animale come un'unità di controllo centrale, un polpo ha più organi simili al cervello che sembrano controllare ogni braccio separatamente. A tutti gli effetti, queste creature sono vicine a un'intelligenza aliena come qualsiasi altra cosa che probabilmente incontreremo. Eppure Peter Godfrey-Smith, un filosofo che studia l'evoluzione delle menti, dice che quando ci si trova faccia a faccia con un curioso cefalopode, non c'è dubbio che c'è un essere consapevole guardando indietro .
Alcune centinaia di anni fa l'opinione accettata era che solo gli esseri umani fossero coscienti. Gli animali, privi di anima, erano visti come robot senza cervello. Pochi lo pensano oggi.
Negli esseri umani, un senso di sé che persiste nel tempo costituisce la base della nostra esperienza soggettiva. Siamo la stessa persona che eravamo questa mattina e la scorsa settimana e due anni fa, per quanto possiamo ricordare. Ricordiamo i luoghi che abbiamo visitato, le cose che abbiamo fatto. Questo tipo di prospettiva in prima persona ci permette di vederci come agenti che interagiscono con un mondo esterno che contiene altri agenti: capiamo che siamo una cosa che fa cose e che le cose sono fatte. Non è chiaro se i polpi, tanto meno altri animali, la pensino in questo modo.
Allo stesso modo, non possiamo essere sicuri se avere un senso di sé in relazione al mondo sia un prerequisito per essere una macchina cosciente. Le macchine che cooperano come uno sciame possono funzionare meglio sperimentandosi come parti di un gruppo piuttosto che come individui, per esempio. Ad ogni modo, se una macchina potenzialmente cosciente come Robert dovesse mai esistere, ci imbatteremmo nello stesso problema nel valutare se fosse di fatto consapevoli di ciò che facciamo quando cerchiamo di determinare l'intelligenza: come suggerito da Turing, definire l'intelligenza richiede un osservatore intelligente. In altre parole, l'intelligenza che vediamo nelle macchine di oggi viene proiettata su di esse da noi, in un modo molto simile a quello che proiettiamo significato sui messaggi scritti dal polpo di Bender o GPT-3. Lo stesso vale per la coscienza: possiamo affermare di vederla, ma solo le macchine lo sapranno con certezza.
Se mai le IA acquisiranno coscienza (e ci crediamo sulla parola), avremo decisioni importanti da prendere. Dovremo considerare se la loro esperienza soggettiva include la capacità di soffrire il dolore, la noia, la depressione, la solitudine o qualsiasi altra sensazione o emozione spiacevole. Potremmo decidere che un grado di sofferenza è accettabile, a seconda che consideriamo queste IA più simili al bestiame o agli esseri umani.
Storia correlata
Intelligenza artificiale generale: siamo vicini e ha senso provare? Una macchina in grado di pensare come una persona è stata la visione guida della ricerca sull'IA sin dai primi giorni e rimane la sua idea più divisiva.
Alcuni ricercatori preoccupati per i pericoli delle macchine superintelligenti hanno suggerito che dovremmo confinare queste IA in un mondo virtuale, per impedire loro di manipolare direttamente il mondo reale. Se credessimo che abbiano una coscienza simile a quella umana, avrebbero il diritto di sapere che li abbiamo isolati in una simulazione?
Altri hanno sostenuto che sarebbe immorale spegnere o eliminare una macchina cosciente: come temeva il nostro robot Robert, sarebbe come porre fine a una vita. Ci sono anche scenari correlati. Sarebbe etico riqualificare una macchina cosciente se significasse cancellarne i ricordi? Possiamo copiare quell'IA senza danneggiare il suo senso di sé? E se la coscienza si fosse rivelata utile durante l'allenamento, quando l'esperienza soggettiva ha aiutato l'IA ad apprendere, ma fosse un ostacolo durante l'esecuzione di un modello addestrato? Andrebbe bene accendere e spegnere la coscienza?
Questo scalfisce solo la superficie dei problemi etici. Molti ricercatori, incluso Dennett, pensano che non dovremmo provare a creare macchine coscienti anche se possiamo. Il filosofo Thomas Metzinger è arrivato al punto di chiedere a moratoria sul lavoro che potrebbe portare alla coscienza , anche se non è l'obiettivo previsto.
Se decidessimo che le macchine coscienti hanno dei diritti, avrebbero anche delle responsabilità? Ci si potrebbe aspettare che un'IA si comporti in modo etico e la puniremmo se non lo facesse? Queste domande spingono in territori ancora più spinosi, sollevando problemi sul libero arbitrio e sulla natura della scelta. Gli animali hanno esperienze coscienti e noi concediamo loro determinati diritti, ma non hanno responsabilità. Tuttavia, questi confini cambiano nel tempo. Con macchine consapevoli, possiamo aspettarci che vengano tracciati confini completamente nuovi.
È possibile che un giorno ci possano essere tante forme di coscienza quanti sono i tipi di IA. Ma non sapremo mai com'è essere queste macchine, non più di quanto sappiamo com'è essere un polpo o un pipistrello o anche un'altra persona. Potrebbero esserci forme di coscienza che non riconosciamo per quello che sono perché sono così radicalmente diverse da ciò a cui siamo abituati.
Di fronte a tali possibilità, dovremo scegliere di convivere con le incertezze.
E potremmo decidere di essere più felici con gli zombi. Come ha affermato Dennett, vogliamo che le nostre IA siano strumenti, non colleghi. Puoi spegnerli, puoi farli a pezzi, allo stesso modo in cui puoi con un'automobile, dice. Ed è così che dovremmo mantenerlo.
Will Douglas Heaven è un redattore senior per AI presso MIT Technology Review.