Paul Allen: la singolarità non è vicina

Ai futuristi piace Vernor Vinge e Ray Kurzweil hanno sostenuto che il mondo si sta rapidamente avvicinando a un punto di svolta, in cui il ritmo accelerato di macchine sempre più intelligenti supererà presto tutte le capacità umane. Chiamano questo punto di svolta il singolarità , perché credono che sia impossibile prevedere come potrebbe svolgersi il futuro umano dopo questo punto. Una volta che queste macchine esistono, affermano Kurzweil e Vinge, possederanno un'intelligenza sovrumana che è così incomprensibile per noi che non possiamo nemmeno immaginare razionalmente come le nostre esperienze di vita sarebbero alterate. chiede Vinge riflettere sul ruolo degli esseri umani in un mondo in cui le macchine sono tanto più intelligenti di noi quanto noi lo siamo più intelligenti dei nostri cani e gatti. Kurzweil, che è un po' più ottimista, immagina un futuro in cui gli sviluppi della nanotecnologia medica ci consentiranno di scaricare una copia dei nostri cervelli individuali in queste macchine sovrumane, lasciarci alle spalle i nostri corpi e, in un certo senso, vivere per sempre. È roba inebriante.

Credito: revisione della tecnologia

Mentre supponiamo che questo tipo di singolarità possa verificarsi un giorno, non pensiamo che sia vicino. In effetti, pensiamo che sarà molto tempo a venire. Kurzweil non è d'accordo, sulla base delle sue estrapolazioni sul tasso di progresso scientifico e tecnico rilevante. Ragiona che il tasso di progresso verso la singolarità non è solo una progressione di capacità in costante aumento, ma sta di fatto accelerando esponenzialmente - ciò che Kurzweil chiama il Legge dei rendimenti accelerati . Scrive che:

Quindi non sperimenteremo 100 anni di progresso nel 21° secolo, saranno più come 20.000 anni di progresso (al ritmo di oggi). Anche i rendimenti, come la velocità del chip e l'economicità, aumentano in modo esponenziale. C'è persino una crescita esponenziale nel tasso di crescita esponenziale. Entro pochi decenni, l'intelligenza delle macchine supererà l'intelligenza umana, portando a The Singularity... [uno]

Lavorando attraverso una serie di modelli e dati storici, Kurzweil calcola notoriamente che la singolarità arriverà intorno al 2045.

Questa previsione ci sembra abbastanza inverosimile. Naturalmente, siamo consapevoli che la storia della scienza e della tecnologia è piena di persone che affermano con sicurezza che un evento non può accadere, solo per essere successivamente smentito, spesso in modo spettacolare. Riconosciamo che è possibile ma altamente improbabile che Kurzweil alla fine sarà vendicato. Un cervello adulto è una cosa finita, quindi il suo funzionamento di base può alla fine essere conosciuto attraverso uno sforzo umano sostenuto. Ma se la singolarità deve arrivare entro il 2045, ci vorranno scoperte imprevedibili e fondamentalmente imprevedibili, e non perché la Legge dei ritorni accelerati l'ha resa il risultato inevitabile di uno specifico tasso di progresso esponenziale.

Il ragionamento di Kurzweil si basa sulla Legge dei ritorni accelerati e sui suoi fratelli, ma queste non sono leggi fisiche. Sono asserzioni su come i tassi passati di progresso scientifico e tecnico possono prevedere il tasso futuro. Pertanto, come altri tentativi di prevedere il futuro dal passato, queste leggi funzioneranno fino a quando non lo faranno. Più problematicamente per la singolarità, questo tipo di estrapolazioni derivano gran parte della loro forma esponenziale complessiva dal supporre che ci sarà una fornitura costante di capacità di calcolo sempre più potenti. Affinché la Legge si applichi e la singolarità si verifichi intorno al 2045, i progressi nelle capacità devono verificarsi non solo nelle tecnologie hardware di un computer (memoria, potenza di elaborazione, velocità del bus, ecc.) ma anche nel software che creiamo per funzionare su questi computer più capaci. Per raggiungere la singolarità, non è sufficiente eseguire semplicemente il software di oggi più velocemente. Avremmo anche bisogno di creare programmi software più intelligenti e più capaci. La creazione di questo tipo di software avanzato richiede una precedente comprensione scientifica dei fondamenti della cognizione umana, e ne stiamo solo grattando la superficie.

Questa necessità preliminare di comprendere la scienza di base della cognizione è dove la singolarità è vicina agli argomenti che non riescono a persuaderci. È vero che la tecnologia hardware dei computer può svilupparsi in modo sorprendentemente rapido una volta che abbiamo una solida struttura scientifica e incentivi economici adeguati. Tuttavia, la creazione del software per una vera intelligenza informatica a livello di singolarità richiederà progressi scientifici fondamentali al di là di dove siamo oggi. Questo tipo di progresso è molto diverso dall'evoluzione in stile Legge di Moore delle capacità hardware del computer che ha ispirato Kurzweil e Vinge. Costruire il software complesso che consentirebbe il verificarsi della singolarità richiede prima di tutto una comprensione scientifica dettagliata di come funziona il cervello umano che possiamo usare come guida architettonica, oppure creare tutto ancora . Ciò significa non solo conoscere la struttura fisica del cervello, ma anche come il cervello reagisce e cambia, e come miliardi di interazioni neuronali parallele possono portare alla coscienza umana e al pensiero originale. Ottenere questo tipo di comprensione completa del cervello non è impossibile. Se la singolarità si verificherà su qualcosa come la linea temporale di Kurzweil, tuttavia, allora abbiamo assolutamente bisogno di un'enorme accelerazione dei nostri progressi scientifici nella comprensione di ogni aspetto del cervello umano.

Ma la storia ci dice che il processo della scoperta scientifica originale semplicemente non si comporta in questo modo, specialmente in aree complesse come le neuroscienze, la fusione nucleare o la ricerca sul cancro. Il progresso scientifico complessivo nella comprensione del cervello raramente assomiglia a una marcia ordinata e inesorabile verso la verità, per non parlare di un'accelerazione esponenziale. Invece, i progressi scientifici sono spesso irregolari, con lampi imprevedibili di intuizione che punteggiano il lento lavoro di laboratorio di creazione e verifica di teorie che possono adattarsi alle osservazioni sperimentali. Le scoperte concettuali veramente significative non arrivano quando previste, e ogni tanto nuovi paradigmi scientifici spazzano il campo e portano gli scienziati a rivalutare parti di ciò che pensavano di aver stabilito. Lo vediamo nelle neuroscienze con la scoperta del potenziamento a lungo termine, l'organizzazione colonnare delle aree corticali e la neuroplasticità. Questi tipi di cambiamenti fondamentali non supportano l'accelerazione complessiva in stile Legge di Moore necessaria per raggiungere la singolarità nel programma di Kurzweil.

Il freno alla complessità

Quanto precede mette in rilievo una questione fondamentale relativa alla rapidità con cui può essere sviluppato un resoconto scientificamente adeguato dell'intelligenza umana. Chiamiamo questo problema il freno alla complessità . Man mano che andiamo sempre più in profondità nella nostra comprensione dei sistemi naturali, troviamo tipicamente che abbiamo bisogno di conoscenze sempre più specializzate per caratterizzarli e siamo costretti ad espandere continuamente le nostre teorie scientifiche in modi sempre più complessi. Comprendere i meccanismi dettagliati della cognizione umana è un compito soggetto a questo freno di complessità. Pensa solo a ciò che è necessario per comprendere a fondo il cervello umano a livello micro. La complessità del cervello è semplicemente fantastica. Ogni struttura è stata modellata con precisione da milioni di anni di evoluzione per fare una cosa particolare, qualunque essa sia. Non è come un computer, con miliardi di transistor identici in normali array di memoria controllati da una CPU con pochi elementi diversi. Nel cervello ogni singola struttura e circuito neurale è stato affinato individualmente dall'evoluzione e da fattori ambientali. Più da vicino osserviamo il cervello, maggiore è il grado di variazione neurale che troviamo. Comprendere la struttura neurale del cervello umano diventa sempre più difficile man mano che impariamo di più. In altre parole, più impariamo, più ci rendiamo conto che c'è da sapere e più dobbiamo tornare indietro e rivedere le nostre comprensioni precedenti. Crediamo che un giorno questo costante aumento della complessità finirà: il cervello è, dopo tutto, un insieme finito di neuroni e opera secondo principi fisici. Ma per il prossimo futuro, è il freno della complessità e l'arrivo di nuove potenti teorie, piuttosto che la Legge dei ritorni accelerati, che governerà il ritmo del progresso scientifico richiesto per raggiungere la singolarità.

Quindi, mentre pensiamo che una comprensione a grana fine della struttura neurale del cervello sia in definitiva realizzabile, non si è dimostrato il tipo di area in cui possiamo fare progressi esponenzialmente accelerati. Ma supponiamo che gli scienziati facciano qualche nuovo brillante progresso nella tecnologia di scansione del cervello. I sostenitori della singolarità spesso affermano che possiamo ottenere l'intelligenza del computer semplicemente simulando numericamente il cervello dal basso verso l'alto da un'immagine dettagliata a livello neurale. Ad esempio, Kurzweil prevede lo sviluppo di scanner cerebrali non distruttivi che ci permetteranno di scattare con precisione un'istantanea del cervello vivente di una persona a livello di subneurone. Egli propone che questi scanner molto probabilmente funzionerebbero dall'interno del cervello tramite milioni di nanobot medici iniettabili. Ma, indipendentemente dal fatto che la scansione basata su nanobot abbia successo (e non siamo nemmeno vicini a sapere se ciò sia possibile), Kurzweil sostiene essenzialmente che questo è il progresso scientifico necessario che annullerà la singolarità: i computer potrebbero esibire semplicemente un'intelligenza a livello umano caricando lo stato e la connettività di ciascuno dei neuroni di un cervello all'interno di un enorme simulatore cerebrale digitale, collegando input e output e premendo start.

Tuttavia, la difficoltà di costruire software a livello umano va più in profondità rispetto alla modellazione computazionale delle connessioni strutturali e della biologia di ciascuno dei nostri neuroni. Strategie di duplicazione del cervello come queste presuppongono che non vi sia alcun problema fondamentale nell'ottenere la cognizione umana se non avere una potenza del computer sufficiente e mappe della struttura dei neuroni per eseguire la simulazione. [Due] Anche se questo può essere vero in teoria, in pratica non ha funzionato in questo modo, perché non affronta tutto ciò che è effettivamente necessario per costruire il software. Ad esempio, se volessimo creare un software per simulare la capacità di un uccello di volare in varie condizioni, non è sufficiente disporre semplicemente di un diagramma completo dell'anatomia dell'uccello. Per simulare completamente il volo di un uccello reale, dobbiamo anche sapere come funziona tutto insieme. Nelle neuroscienze esiste una situazione parallela. Sono stati fatti centinaia di tentativi (usando molti organismi diversi) per concatenare simulazioni di neuroni diversi insieme al loro ambiente chimico. Il risultato uniforme di questi tentativi è che per creare un'adeguata simulazione della reale attività neurale in corso di un organismo, è necessaria anche una vasta conoscenza del funzionale ruolo svolto da questi neuroni, come si evolvono i loro schemi di connessione, come sono strutturati in gruppi per trasformare gli stimoli grezzi in informazioni e come l'elaborazione delle informazioni neurali in definitiva influenza il comportamento di un organismo. Senza queste informazioni, si è dimostrato impossibile costruire modelli di simulazione basati su computer efficaci. Soprattutto per la neuroscienza cognitiva degli esseri umani, non siamo vicini al livello richiesto di conoscenza funzionale. Cervello progetti di simulazione in corso oggi modellano solo una piccola frazione di ciò che fanno i neuroni e mancano dei dettagli per simulare completamente ciò che accade in un cervello. Il ritmo della ricerca in questo settore, per quanto incoraggiante, non sembra essere esponenziale. Ancora una volta, man mano che impariamo sempre di più sull'effettiva complessità del funzionamento del cervello, la cosa principale che scopriamo è che il problema sta effettivamente diventando più difficile.

L'approccio AI

I sostenitori della singolarità occasionalmente fanno appello agli sviluppi dell'intelligenza artificiale (AI) come un modo per aggirare il lento tasso di progresso scientifico complessivo negli approcci alla cognizione dal basso e basati sulle neuroscienze. È vero che l'IA ha avuto grandi successi nella duplicazione di alcuni compiti cognitivi isolati, più recentemente con Il sistema Watson di IBM per Pericolo! domanda risposta. Ma quando facciamo un passo indietro, possiamo vedere che nemmeno le capacità complessive basate sull'intelligenza artificiale sono aumentate in modo esponenziale, almeno se misurate rispetto alla creazione di un'intelligenza umana completamente generale. Sebbene abbiamo imparato molto su come costruire sistemi di intelligenza artificiale individuali che fanno cose apparentemente intelligenti, i nostri sistemi sono sempre rimasti fragile — i loro limiti di prestazione sono fissati rigidamente dalle loro assunzioni interne e dagli algoritmi di definizione, non possono generalizzare e spesso danno risposte senza senso al di fuori delle loro specifiche aree di interesse. Un programma per computer che gioca a scacchi in modo eccellente non può sfruttare la sua abilità per giocare ad altri giochi. I migliori programmi di diagnosi medica contengono una conoscenza immensamente dettagliata del corpo umano, ma non possono dedurre che un funambolo avrebbe un grande senso dell'equilibrio.

Perché si è dimostrato così difficile per i ricercatori di intelligenza artificiale costruire un'intelligenza simile a quella umana, anche su piccola scala? Una risposta riguarda il quadro scientifico di base utilizzato dai ricercatori di intelligenza artificiale. Man mano che gli esseri umani crescono dai bambini agli adulti, iniziano con l'acquisizione di una conoscenza generale del mondo, per poi aumentare e perfezionare continuamente questa conoscenza generale con conoscenze specifiche su aree e contesti diversi. I ricercatori di intelligenza artificiale hanno in genere cercato di fare il contrario: hanno costruito sistemi con una profonda conoscenza di aree ristrette e hanno cercato di creare una capacità più generale combinando questi sistemi. Questa strategia in genere non ha avuto successo, sebbene le prestazioni di Watson su Pericolo! indica che percorsi come questo potrebbero essere ancora promettenti. I pochi tentativi che sono stati fatti per creare direttamente una grande quantità di conoscenza generale del mondo, e quindi aggiungere la conoscenza specializzata di un dominio (ad esempio, il lavoro di Cycorp ), hanno anche riscontrato un successo limitato. E in ogni caso, i ricercatori di intelligenza artificiale stanno appena iniziando a teorizzare su come modellare efficacemente i complessi fenomeni che conferiscono alla cognizione umana la sua flessibilità unica: incertezza, sensibilità contestuale, regole pratiche, autoriflessione e lampi di intuizione che sono essenziali al pensiero di livello superiore. Proprio come nelle neuroscienze, il percorso basato sull'intelligenza artificiale per raggiungere l'intelligenza del computer a livello di singolarità sembra richiedere molte più scoperte, alcune nuove teorie di qualità Nobel e probabilmente anche approcci di ricerca completamente nuovi che non sono commisurati a ciò in cui crediamo ora. Questo tipo di progresso scientifico di base non avviene su una curva di crescita esponenziale affidabile. Quindi, anche se gli sviluppi nell'IA potrebbero finire per essere la strada verso la singolarità, ancora una volta il freno alla complessità rallenta il nostro tasso di progresso e spinge considerevolmente la singolarità nel futuro.

L'incredibile complessità della cognizione umana dovrebbe servire da avvertimento a coloro che affermano che la singolarità è vicina. Senza avere una comprensione scientificamente profonda della cognizione, non possiamo creare il software che potrebbe innescare la singolarità. Piuttosto che il progresso sempre accelerato previsto da Kurzweil, crediamo che il progresso verso questa comprensione sia fondamentalmente rallentato dal freno della complessità. La nostra capacità di raggiungere questa comprensione, tramite l'approccio dell'intelligenza artificiale o delle neuroscienze, è essa stessa un atto cognitivo umano, derivante dalla natura imprevedibile dell'ingegno e della scoperta umana. Il progresso qui è profondamente influenzato dai modi in cui i nostri cervelli assorbono ed elaborano nuove informazioni e dalla creatività dei ricercatori nell'inventare nuove teorie. È anche governato dai modi in cui organizziamo socialmente il lavoro di ricerca in questi campi e diffondiamo la conoscenza che ne risulta. A Vulcano e al Allen Institute for Brain Science , stiamo lavorando su strumenti avanzati per aiutare i ricercatori ad affrontare questa scoraggiante complessità e velocizzarli nella loro ricerca. Ottenere una comprensione scientifica completa della cognizione umana è uno dei problemi più difficili che ci siano. Continuiamo a fare progressi incoraggianti. Ma entro la fine del secolo, crediamo, ci staremo ancora chiedendo se la singolarità è vicina.

Paul G. Allen, cofondatore di Microsoft nel 1975, è un filantropo e presidente di Vulcan, che investe in una serie di attività tecnologiche, aerospaziali, di intrattenimento e sportive. Mark Greaves è uno scienziato informatico che funge da direttore dei sistemi di conoscenza di Vulcano.

[uno] Kurzweil, La legge dei ritorni accelerati, marzo 2001.

[Due] Stiamo iniziando a entrare nel raggio della potenza del computer di cui potremmo aver bisogno per supportare questo tipo di simulazione cerebrale di massa. Computer di classe Petaflop (come BlueGene/P di IBM che è stato utilizzato nel sistema Watson) sono ora disponibili in commercio. I computer di classe Exaflop sono attualmente in fase di progettazione. Questi sistemi potrebbero probabilmente impiegare la capacità computazionale grezza necessaria per simulare i modelli di attivazione per tutti i neuroni del cervello, anche se attualmente avviene molte volte più lentamente di quanto accadrebbe in un cervello reale.

AGGIORNAMENTO: Ray Kurzweil risponde qui.

nascondere