Cosa ci vorrà perché i computer siano consapevoli

Un verme è cosciente? Che ne dici di un calabrone? Un computer che può giocare a scacchi sente qualcosa?

Cristoforo Koch

Per Christof Koch, direttore scientifico dell'Allen Institute for Brain Science di Seattle, la risposta a queste domande potrebbe risiedere nel tessuto dell'universo stesso. La coscienza, secondo lui, è una proprietà intrinseca della materia, proprio come la massa o l'energia. Organizzare la materia nel modo giusto, come nel cervello dei mammiferi, e Ecco , Puoi sentire.

Koch, che ora ha 57 anni, ha passato quasi un quarto di secolo cercando di spiegare perché, diciamo, il sole è caldo sul tuo viso. Ma dopo aver scritto tre libri sulla coscienza , Koch afferma che i ricercatori sono ancora lontani dal sapere perché si verifica, o addirittura concordando su cosa sia. È un problema difficile (vedi Cracking the Brain's Codes). Questo è uno dei motivi per cui Koch ha lasciato la sua posizione al Caltech nel 2011 per entrare a far parte di un progetto da 500 milioni di dollari lanciato dal miliardario Paul Allen, cofondatore di Microsoft.

L'obiettivo dell'Allen Institute è costruire un atlante dettagliato di ogni neurone e sinapsi nel cervello dei mammiferi. Ciò darebbe alla neuroscienza una manichetta di dati simile a quella raggiunta dal Progetto Genoma Umano.

Ma Koch non ha rinunciato alla sua ricerca di una grande teoria che potrebbe spiegare tutto. In effetti, pensa che la coscienza possa essere spiegata da qualcosa chiamato teoria dell'informazione integrata , che afferma che la coscienza è un prodotto di strutture, come il cervello, che possono sia immagazzinare una grande quantità di informazioni che avere una densità critica di interconnessioni tra le loro parti.

Per Koch, la teoria fornisce un mezzo per valutare i gradi di coscienza nelle persone con danni cerebrali, in specie in tutto il regno animale e persino, dice, tra le macchine. Abbiamo chiesto a Koch della coscienza del computer la scorsa settimana durante Revisione della tecnologia del MIT conferenza EmTech.

Scoprire le basi biologiche della coscienza sarà in qualche modo disumanizzante? E se fosse solo un'illusione?

Trovo ridicola questa visione di alcune persone secondo cui la coscienza è un'illusione. Se è un'illusione, allora è l'illusione più potente che abbiamo. Voglio dire, la deduzione più famosa nella filosofia occidentale è cosa? Penso. Quindi io sono. Il fatto che tu abbia un'esperienza cosciente è l'unica certezza innegabile che hai.

Se gli scienziati scoprissero le basi della coscienza, che tipo di tecnologie potrebbero derivarne?

Potremmo avere un test per dire chi ha coscienza e chi no. Abbiamo dibattiti molto emotivi in ​​questo paese sull'aborto. Mi piacerebbe avere un modo oggettivo per testare a che punto un feto inizia effettivamente ad avere una sensazione cosciente. O se un paziente [in coma] è cosciente o meno. Spesso, semplicemente non lo sai. Queste sono domande che le persone si sono poste fin dai tempi storici, ma una volta che abbiamo una teoria e una teoria ampiamente accettata, potremmo rispondere a loro. Inoltre, se volessi costruire una macchina cosciente, mi darebbe un progetto.

Quindi pensi che un computer possa essere cosciente?

Ho tenuto una lezione [la scorsa settimana] al MIT sulla teoria dell'informazione integrata, sviluppata da Giulio Tononi presso l'Università del Wisconsin. Questa è una teoria che fa una previsione molto chiara: afferma che la coscienza è una proprietà di sistemi complessi che hanno un particolare repertorio causa-effetto. Hanno un modo particolare di interagire con il mondo, come fa il cervello o, in linea di principio, come potrebbe fare un computer. Se dovessi costruire un computer che ha lo stesso circuito del cervello, questo computer avrebbe anche la coscienza ad esso associata. Sembrerebbe qualcosa di essere questo computer. Tuttavia, lo stesso non vale per le simulazioni digitali.

Se costruissi un perfetto modello software del cervello, non sarebbe mai cosciente, ma una macchina appositamente progettata che imita il cervello potrebbe esserlo?

Corretta. Questa teoria dice chiaramente che una simulazione digitale non sarebbe cosciente, il che è sorprendentemente diverso dalla convinzione funzionalista dominante del 99% delle persone al MIT o da filosofi come Daniel Dennett. Dicono tutti che una volta che simuli tutto, non è necessario nient'altro e sarà cosciente.

Penso che la coscienza, come la massa, sia una proprietà fondamentale dell'universo. L'analogia, ed è molto buona, è che puoi fare previsioni meteorologiche piuttosto buone in questi giorni. Puoi prevedere l'interno di una tempesta. Ma non è mai bagnato all'interno del computer. Puoi simulare un buco nero in un computer, ma lo spazio-tempo non sarà piegato. Simulare qualcosa non è la cosa reale.

È la stessa cosa con la coscienza. Tra 100 anni potresti essere in grado di simulare la coscienza su un computer. Ma non sperimenterà nulla. Nada. Sarà nero dentro. Non avrà alcuna esperienza, anche se avrà la nostra intelligenza e la nostra capacità di parlare.

Non sto dicendo che la coscienza sia un'anima magica. È qualcosa di fisico. La coscienza sopravviene sempre al fisico. Ma ci vuole un particolare tipo di hardware per istanziarlo. Un computer composto da transistor, che muove la carica dentro e fuori un gate, con ogni gate collegato a un piccolo numero di altri gate, è solo una struttura di causa ed effetto molto diversa da quella che abbiamo nel cervello, dove hai un neurone collegato a 10.000 neuroni di input e proiettato su altri 10.000 neuroni. Ma se dovessi costruire il computer nel modo appropriato, come un computer neuromorfo [vedi Thinking in Silicon ], potrebbe essere cosciente.

Se dovessi metterti in una stanza con un computer del futuro, saresti in grado di determinare se è cosciente?

Non potevo dall'esterno. Dovrei guardare il suo hardware.

E il test di Turing?

La domanda posta da Turing è Le macchine possono pensare ? Ma alla fine è un test operativo per l'intelligenza, non per la coscienza. Se hai una conversazione intelligente con un ragazzo in un'altra stanza e dopo mezz'ora non riesci a decidere se si tratta di un computer o di un essere umano, beh, allora dici che è intelligente come un essere umano. Ma il test di Turing non mi direbbe se la macchina sperimenta qualcosa. Potrei chiedere Sei cosciente? e la macchina potrebbe dire Sì, sono pienamente cosciente. E perché dici che non lo sono? sono insultato. Ma non potevo davvero saperlo. Dovrei dire, scusa, devo smontarti e capire come sei fatto e come generi effettivamente questi diversi stati fisici.

Non c'è qualche domanda trabocchetto che potresti porre, a cui solo un essere cosciente potrebbe rispondere?

Un'ottima domanda. Negli esseri umani abbiamo test pratici per la coscienza. Se hai un brutto incidente e vai al pronto soccorso, ti chiederanno: riesci a muovere gli occhi? Puoi muovere gli arti? Puoi parlare? Se puoi parlare, sai che anno è? Sai chi è il presidente?

Ma come faccio a sapere davvero che sei cosciente? Questo è il problema del solipsismo. In ultima analisi non lo so. Ma so che il tuo cervello è molto simile al mio. Ho messo molte persone negli scanner e so che hanno tutti un cervello e il loro cervello si comporta in modo simile al mio. Quindi c'è un'inferenza perfettamente ragionevole che anche tu sei cosciente.

Ma più questi sistemi differiscono da me, più difficile è fare questo passo per inferenza. Ad esempio, prendi un'ape. Ti sembra qualcosa essere un'ape e volare sotto i raggi dorati del sole e avere il nettare? Trovo molto difficile sapere se un'ape è cosciente o meno. E un computer è ancora più radicalmente diverso. Non c'è nessun comportamento in base al quale posso giudicarlo. Dovrei guardare il suo hardware sottostante.

Pensi che costruiremo mai macchine consapevoli?

Non sono sicuro del perché lo dovremmo. Ma non ho dubbi sul fatto che costruiremo macchine intelligenti in grado di superare il test di Turing ben prima di comprendere le vere basi biologiche dell'intelligenza umana. E penso che ci siano pericoli associati a ciò che la maggior parte delle persone, essendo spensierati ottimisti, ignora completamente.

Quali pericoli?

Non guardi film di fantascienza? Ovviamente l'IA in fuga. Pensa al mercato finanziario, a tutte quelle macchine commerciali, ai flash crash. Le persone abuseranno dell'intelligenza del computer, massimizzeranno alla cieca per qualche obiettivo. Porterà a una sempre maggiore concentrazione di potere tra sempre meno persone. Lo vediamo già, porterà a una massiccia disoccupazione. E forse 30 o 40 anni dopo penso che ci sia davvero un pericolo esistenzialista per la specie, a livello di armi nucleari o di un colpo di meteorite.

Tutto senza che la macchina sia cosciente? Nei film, il momento in cui l'IA impazzisce è lo stesso momento in cui acquisisce consapevolezza di sé.

Questo perché le persone vogliono creare una storia coinvolgente. Se il nemico non sente niente, se non c'è niente lì, non è un buon avversario.

nascondere