Intelligenza artificiale generale: siamo vicini e ha senso provare?

Ariel Davis

L'idea dell'intelligenza artificiale generale come la conosciamo oggi inizia con uno scoppio di dot-com a Broadway.

Vent'anni fa, prima che Shane Legg facesse clic con la neuroscienza post-laurea Demis Hassabis per un comune fascino per l'intelligenza; prima che la coppia si unisse all'amico d'infanzia di Hassabis Mustafa Suleyman, un attivista progressista, per trasformare quel fascino in una società chiamata DeepMind; prima che Google acquistasse quella società per oltre mezzo miliardo di dollari quattro anni dopo, Legg lavorava in una startup a New York chiamata Webmind, fondata dal ricercatore di intelligenza artificiale Ben Goertzel. Oggi i due uomini rappresentano due rami molto diversi del futuro dell'intelligenza artificiale, ma le loro radici risalgono a un terreno comune.

Anche per i giorni inebrianti della bolla delle dot-com, gli obiettivi di Webmind erano ambiziosi. Goertzel voleva creare un cervello del bambino digitale e rilasciarlo su Internet, dove credeva che sarebbe cresciuto fino a diventare completamente consapevole di sé e molto più intelligente degli umani. Siamo sull'orlo di una transizione uguale in grandezza all'avvento dell'intelligenza, o all'emergere del linguaggio, ha detto al Osservatore della scienza cristiana nel 1998.

Webmind ha cercato di finanziare se stessa costruendo uno strumento per prevedere il comportamento dei mercati finanziari dalla parte, ma il sogno più grande non si è mai avverato. Dopo aver bruciato $ 20 milioni, Webmind è stata sfrattata dai suoi uffici all'estremità meridionale di Manhattan e ha smesso di pagare il suo personale. Ha dichiarato fallimento nel 2001.

Ben Goertzel

COMUNI WIKIMEDIA

Ma Legg e Goertzel sono rimasti in contatto. Quando Goertzel stava mettendo insieme un libro di saggi sull'IA sovrumana qualche anno dopo, fu Legg a inventare il titolo. Stavo parlando con Ben ed ero tipo, 'Beh, se si tratta della generalità che i sistemi di intelligenza artificiale non hanno ancora, dovremmo semplicemente chiamarla Intelligenza Artificiale Generale ', afferma Legg, che ora è il capo scienziato di DeepMind. E AGI ha una specie di acronimo.

Il termine si è bloccato. Il libro di Goertzel e l'annuale Conferenza AGI che ha lanciato nel 2008 hanno reso AGI una parola d'ordine comune per AI simile a quella umana o sovrumana. Ma è anche diventato un grande spauracchio. Non mi piace il termine AGI, dice Jerome Pesenti, capo dell'IA di Facebook. Non so cosa significhi.

Non è solo. Parte del problema è che AGI è un concentrato di speranze e paure che circondano un'intera tecnologia. Contrariamente alla credenza popolare, non si tratta in realtà di coscienza della macchina o robot pensanti (sebbene molte persone AGI lo sognino anche). Ma si tratta di pensare in grande. Molte delle sfide che dobbiamo affrontare oggi, dal cambiamento climatico al fallimento delle democrazie alle crisi della salute pubblica, sono estremamente complesse. Se avessimo macchine che potessero pensare come noi o meglio, più rapidamente e senza stancarsi, allora forse avremmo maggiori possibilità di risolvere questi problemi. Come l'informatico I.J. Per dirla bene nel 1965: la prima macchina ultraintelligente è l'ultima invenzione che l'uomo abbia mai bisogno di realizzare.

Elon Musk, che ha investito all'inizio in DeepMind e ha collaborato con un piccolo gruppo di mega-investitori, tra cui Peter Thiel e Sam Altman, per investire $ 1 miliardo in OpenAI, ha creato un marchio personale da previsioni stravaganti. Ma quando parla, milioni di persone ascoltano. Qualche mese fa lo disse al New York Times L'IA sovrumana è a meno di cinque anni di distanza . Sarà su di noi molto rapidamente, ha detto il Podcast di Lex Fridman . Quindi dovremo capire cosa dovremmo fare, se abbiamo anche quella scelta.

A maggio Pesenti sparato indietro . Elon Musk non ha idea di cosa stia parlando, ha twittato. Non esiste una cosa come l'AGI e non siamo neanche lontanamente all'altezza dell'intelligenza umana. Musk ha risposto: Facebook fa schifo.

Tali riacutizzazioni non sono rare. Ecco Andrea Ng , ex capo dell'intelligenza artificiale di Baidu e cofondatore di Google Brain: eliminiamo le sciocchezze dell'AGI e dedichiamo più tempo ai problemi urgenti.

e Giuliano Togelio , un ricercatore di intelligenza artificiale presso la New York University: Credere nell'AGI è come credere nella magia. È un modo per abbandonare il pensiero razionale ed esprimere speranza/paura per qualcosa che non può essere compreso. Sfoglia l'hashtag #noAGI su Twitter e catturerai molti dei grandi battitori dell'IA che pesano, tra cui Yann LeCun , il capo scienziato dell'IA di Facebook, che ha vinto il Turing Award nel 2018.

Ma con i recenti successi dell'IA, dal campione di giochi da tavolo AlphaZero al convincente generatore di testi falsi GPT-3, le chiacchiere sull'AGI sono aumentate. Anche se questi strumenti sono ancora molto lontani dal rappresentare l'intelligenza generale - AlphaZero non può scrivere storie e GPT-3 non può giocare a scacchi, per non parlare del perché le storie e gli scacchi contano per le persone - l'obiettivo di costruire un AGI, una volta ritenuto pazzo, sta diventando accettabile ancora.

Alcuni dei più grandi e rispettati laboratori di intelligenza artificiale al mondo prendono molto sul serio questo obiettivo. OpenAI ha detto che vuole esserlo il primo a costruire una macchina con capacità di ragionamento simili a quelle umane . La dichiarazione di intenti non ufficiale ma ampiamente ripetuta di DeepMind è quella di risolvere l'intelligenza . Le persone migliori in entrambe le società sono felici di discutere questi obiettivi in ​​termini di AGI.

Mezzo secolo dopo, non siamo ancora lontani dalla creazione di un'IA con le capacità multitasking di un essere umano, o addirittura di un insetto.

Parlare di AGI nei primi anni 2000 ti ha messo ai margini dei pazzi, dice Legg. Anche quando abbiamo avviato DeepMind nel 2010, abbiamo avuto una quantità sorprendente di sbalordimenti alle conferenze. Ma le cose stanno cambiando. Alcune persone si sentono a disagio, ma arriva dal freddo', dice.

Allora perché l'AGI è controversa? Perchè importa? Ed è un sogno sconsiderato e fuorviante o l'obiettivo finale?

Cos'è l'AGI?

Il termine è in uso da poco più di un decennio, ma le idee che racchiude esistono da una vita.

Nell'estate del 1956, una dozzina di scienziati si riunirono al Dartmouth College nel New Hampshire per lavorare su quello che credevano sarebbe stato un modesto progetto di ricerca. Presentando il workshop in anticipo, i pionieri dell'IA John McCarthy, Marvin Minsky, Nat Rochester e Claude Shannon ha scritto : Lo studio deve procedere sulla base della congettura che ogni aspetto dell'apprendimento o qualsiasi altra caratteristica dell'intelligenza possa, in linea di principio, essere descritto in modo così preciso da poter costruire una macchina per simularlo. Si cercherà di trovare come fare in modo che le macchine utilizzino il linguaggio, formino astrazioni e concetti, risolvano tipi di problemi ora riservati agli esseri umani e migliorino se stessi. Hanno pensato che ci sarebbero voluti 10 persone in due mesi.

Avanti veloce al 1970 ed ecco di nuovo Minsky, imperterrito: tra tre e otto anni avremo una macchina con l'intelligenza generale di un essere umano medio. Intendo una macchina che sarà in grado di leggere Shakespeare, lubrificare un'auto, fare politica d'ufficio, raccontare una barzelletta, litigare. A quel punto la macchina comincerà ad autoeducarsi con una velocità fantastica. Tra pochi mesi sarà a livello di genialità, e pochi mesi dopo, i suoi poteri saranno incalcolabili.

Tre cose spiccano in queste visioni per l'IA: una capacità di generalizzare simile a quella umana, una capacità sovrumana di auto-migliorarsi a un ritmo esponenziale e una porzione super-dimensionata di pio desiderio. Mezzo secolo dopo, non siamo ancora lontani dalla creazione di un'IA con le capacità multitasking di un essere umano, o addirittura di un insetto.

IMMAGINI GETTY

Questo non vuol dire che non ci siano stati enormi successi. Molti degli elementi di quella prima lista dei desideri sono stati spuntati: abbiamo macchine che possono usare il linguaggio, vedere e risolvere molti dei nostri problemi. Ma le IA che abbiamo oggi non sono simili a quelle umane nel modo in cui immaginavano i pionieri. Il deep learning, la tecnologia che guida il boom dell'IA, addestra le macchine a diventare maestri in un vasto numero di cose, come scrivere storie false e giocare a scacchi, ma solo una alla volta.

Quando Legg ha suggerito il termine AGI a Goertzel per il suo libro del 2007, stava contrapponendo l'intelligenza artificiale generale a questa idea ristretta e tradizionale dell'IA. Le persone avevano utilizzato diversi termini correlati, come IA forte e IA reale, per distinguere la visione di Minsky dall'IA che era invece arrivata.

Parlare di AGI significava spesso implicare che l'IA avesse fallito, dice Joanna Bryson, una ricercatrice di intelligenza artificiale presso la Hertie School di Berlino: Era l'idea che ci fossero persone che facevano solo cose noiose, come la visione artificiale, ma noi qui... e io ero una di loro in quel momento, sto ancora cercando di capire l'intelligenza umana, dice. Intelligenza artificiale forte, scienze cognitive, AGI: questi erano i nostri diversi modi per dire: 'Ragazzi avete sbagliato; stiamo andando avanti.'

L'idea che l'AGI sia il vero obiettivo della ricerca sull'IA è ancora attuale. Un sistema di intelligenza artificiale funzionante diventa presto solo un pezzo di software: le cose noiose di Bryson. Nel frattempo, AGI diventa un sostituto per qualsiasi IA che non abbiamo ancora capito come costruire, sempre fuori portata.

Storia correlata

Che cos'è l'apprendimento automatico?

Gli algoritmi di apprendimento automatico trovano e applicano modelli nei dati. E praticamente gestiscono il mondo.

A volte Legg parla di AGI come di una specie di multiutensile, una macchina che risolve molti problemi diversi, senza che sia necessario progettarne una nuova per ogni sfida aggiuntiva. Da questo punto di vista, non sarebbe più intelligente di AlphaGo o GPT-3; avrebbe solo più capacità. Sarebbe un'IA generica, non un'intelligenza a tutti gli effetti. Ma parla anche di una macchina con cui potresti interagire come se fosse un'altra persona. Descrive una specie di compagno di giochi definitivo: sarebbe meraviglioso interagire con una macchina e mostrarle un nuovo gioco di carte e farle capire, farti domande e giocare con te, dice. Sarebbe un sogno che diventa realtà.

Quando le persone parlano di AGI, sono in genere queste abilità simili a quelle umane che hanno in mente. Thore Graepel , un collega di Legg's a DeepMind, ama usare una citazione dell'autore di fantascienza Robert Heinlein, che sembra rispecchiare le parole di Minsky: Un essere umano dovrebbe essere in grado di cambiare un pannolino, pianificare un'invasione, macellare un maiale, imbarcare una nave, progettare un edificio, scrivere un sonetto, bilanciare i conti, costruire un muro, fissare un osso, confortare i moribondi, prendere ordini, dare ordini, collaborare, agire da soli, risolvere equazioni, analizzare un nuovo problema, introdurre letame, programmare un computer, cucinare un pasto gustoso, combatti con efficacia, muori galantemente. La specializzazione è per gli insetti.

Eppure, fatto divertente: la descrizione di Graepel è pronunciata da un personaggio chiamato Lazarus Long nel romanzo di Heinlein del 1973 Abbastanza tempo per l'amore . Long è una specie di superuomo, il risultato di un esperimento genetico che gli permette di vivere per centinaia di anni. Durante quel lungo periodo, Long vive molte vite e padroneggia molte abilità. In altre parole, Minsky descrive le capacità di un tipico essere umano; Graepel no.

I pali della ricerca di AGI si spostano costantemente in questo modo. Cosa intendono le persone quando parlano di intelligenza artificiale simile a quella umana, umana come te e me, o umana come Lazarus Long? Per Pesenti, questa ambiguità è un problema. Penso che nessuno sappia di cosa si tratta, dice. Gli esseri umani non possono fare tutto. Non possono risolvere tutti i problemi e non possono migliorare se stessi.

Il campione di Go Lee Sedol (a sinistra) stringe la mano al co-fondatore di DeepMind Demis Hassabis

GETTY

E allora potrebbe un AGI essere come in pratica? Definirlo simile all'uomo è allo stesso tempo vago e troppo specifico. Gli esseri umani sono il miglior esempio di intelligenza generale che abbiamo, ma gli esseri umani sono anche altamente specializzati. Una rapida occhiata al variegato universo dell'intelligenza animale - dalla cognizione collettiva vista nelle formiche alle capacità di risoluzione dei problemi di corvi o polpi all'intelligenza più riconoscibile ma ancora aliena degli scimpanzé - mostra che ci sono molti modi per costruire un'intelligenza generale .

Anche se costruiamo un AGI, potremmo non capirlo completamente. I modelli di apprendimento automatico odierni sono in genere scatole nere, il che significa che arrivano a risultati accurati attraverso percorsi di calcolo che nessun essere umano può dare un senso. Aggiungi al mix una superintelligenza che si auto-migliora ed è chiaro perché la fantascienza spesso fornisce le analogie più semplici.

Alcuni lascerebbero anche la coscienza o la senzienza nei requisiti di un AGI. Ma se l'intelligenza è difficile da definire, la coscienza è anche peggio. Filosofi e scienziati non sono chiari su cosa sia in noi stessi, per non parlare di cosa sarebbe in un computer. L'intelligenza probabilmente richiede un certo grado di autoconsapevolezza, una capacità di riflettere sulla tua visione del mondo, ma non è necessariamente la stessa cosa della coscienza: ciò che sente ti piace sperimentare il mondo o riflettere sulla tua visione di esso. Anche i più fedeli di AGI sono agnostici riguardo alla coscienza della macchina.

Come si crea un AGI?

Legg ha inseguito l'intelligenza per tutta la sua carriera. Dopo Webmind ha lavorato con Marcus Hutter presso l'Università di Lugano in Svizzera su una tesi di dottorato intitolata Super intelligenza della macchina . Hutter (che ora è anche a DeepMind) stava lavorando su una definizione matematica di intelligenza che era limitata solo dalle leggi della fisica: un'intelligenza generale definitiva.

Shane Leg

MENTE PROFONDA

La coppia ha pubblicato un'equazione per quello che hanno chiamato intelligenza universale , che Legg descrive come una misura della capacità di raggiungere obiettivi in ​​un'ampia gamma di ambienti. Hanno mostrato che la loro definizione matematica era simile a molte teorie dell'intelligenza trovate in psicologia, che definisce anche l'intelligenza in termini di generalità.

In DeepMind, Legg sta trasformando il suo lavoro teorico in dimostrazioni pratiche, a partire da IA ​​che raggiungono obiettivi particolari in ambienti particolari, dai giochi ai ripiegamento proteico .

La parte difficile viene dopo: mettere insieme più abilità. Il deep learning è l'approccio più generale che abbiamo, in quanto un algoritmo di deep learning può essere utilizzato per apprendere più di un'attività. AlphaZero ha utilizzato lo stesso algoritmo per imparare Go, shogi (un gioco simile agli scacchi dal Giappone) e scacchi. di DeepMind Sistema Atari57 ha utilizzato lo stesso algoritmo per padroneggiare ogni videogioco Atari. Ma le IA possono ancora imparare solo una cosa alla volta. Avendo imparato gli scacchi, AlphaZero deve cancellare la sua memoria e imparare lo shogi da zero.

Legg si riferisce a questo tipo di generalità come a un algoritmo, contro la generalità a un cervello che hanno gli umani. La generalità a un algoritmo è molto utile ma non così interessante come quella a un cervello, dice: tu e io non abbiamo bisogno di cambiare cervello; non mettiamo il nostro cervello negli scacchi per giocare a scacchi.

Passare da un algoritmo a un cervello è una delle più grandi sfide aperte nell'IA. Un'IA con un solo cervello non sarebbe comunque una vera intelligenza, solo una migliore intelligenza artificiale per tutti gli usi: il multi-strumento di Legg. Ma indipendentemente dal fatto che stiano girando per AGI o meno, i ricercatori concordano sul fatto che i sistemi odierni devono essere resi più generici e per coloro che hanno l'AGI come obiettivo, un'IA generica è un primo passo necessario. C'è una lunga lista di approcci che potrebbero aiutare. Si va dalla tecnologia emergente che è già qui a esperimenti più radicali (vedi riquadro). Approssimativamente in ordine di maturità, sono:

• Apprendimento non supervisionato o autosupervisionato. Etichettare i set di dati (ad es. etichettare tutte le immagini di gatti con un gatto) per dire alle IA cosa stanno guardando durante l'addestramento è la chiave per ciò che è noto come apprendimento supervisionato. È ancora in gran parte fatto a mano ed è un grosso collo di bottiglia. L'intelligenza artificiale deve essere in grado di imparare da sola senza la guida umana, ad esempio guardando le immagini di cani e gatti e imparando a distinguerli senza aiuto, o individuando anomalie nelle transazioni finanziarie senza che gli esempi precedenti siano stati segnalati da un essere umano. Questo, noto come apprendimento non supervisionato, sta diventando più comune.
• Trasferisci l'apprendimento, incluso l'apprendimento a colpi di arma da fuoco. La maggior parte dei modelli di deep learning oggi può essere addestrata a fare solo una cosa alla volta. Il trasferimento dell'apprendimento mira a consentire alle IA di trasferire alcune parti della loro formazione per un compito, come giocare a scacchi, a un altro, come giocare a Go. Questo è il modo in cui gli esseri umani imparano.
• Buon senso e inferenza causale. Sarebbe più facile trasferire la formazione tra le attività se un'IA avesse una base di buon senso da cui partire. E una parte fondamentale del buon senso è comprendere causa ed effetto. Dando buon senso per le IA è un argomento di ricerca caldo al momento, con approcci che vanno dalla codifica di semplici regole in una rete neurale a limitando le possibili previsioni che un'IA può fare . Ma il lavoro è ancora agli inizi.
• Ottimizzatori di apprendimento . Questi sono strumenti che possono essere utilizzati per modellare il modo in cui le IA apprendono, guidandole ad allenarsi in modo più efficiente. Il lavoro recente mostra che questi strumenti possono essere si sono allenati —in effetti, significa che un'IA viene utilizzata per addestrare gli altri. Questo potrebbe essere un piccolo passo verso l'auto-miglioramento dell'IA, un obiettivo AGI.

Tutte queste aree di ricerca si basano sul deep learning, che al momento rimane il modo più promettente per costruire l'IA. L'apprendimento profondo si basa sulle reti neurali, che sono spesso descritte come simili al cervello in quanto i loro neuroni digitali sono ispirati da quelli biologici. L'intelligenza umana è il miglior esempio di intelligenza generale che abbiamo, quindi ha senso cercare ispirazione in noi stessi.

Ma i cervelli sono più di un enorme groviglio di neuroni. Hanno componenti separati che collaborano.

Hassabis, ad esempio, stava studiando l'ippocampo, che elabora la memoria, quando lui e Legg si sono incontrati. Hassabis pensa che l'intelligenza generale nel cervello umano derivi in ​​parte da interazione tra l'ippocampo e la corteccia . Questa idea ha portato al gioco Atari di DeepMind per giocare con l'IA, che utilizza un'ispirazione ispirata all'ippocampo algoritmo , chiamato DNC (Differtial Neuro Computer), che combina una rete neurale con una componente di memoria dedicata.

I componenti artificiali simili al cervello come il DNC sono talvolta noti come architetture cognitive. Svolgono un ruolo in altre IA di DeepMind come AlphaGo e AlphaZero, che combinano due reti neurali specializzate separate con alberi di ricerca, una vecchia forma di algoritmo che funziona un po' come un diagramma di flusso per le decisioni. I modelli linguistici come GPT-3 combinano una rete neurale con una più specializzata chiamata trasformatore, che gestisce sequenze di dati come il testo.

In definitiva, tutti gli approcci per raggiungere l'AGI si riducono a due grandi scuole di pensiero. Uno è che se si ottengono gli algoritmi corretti, è possibile organizzarli in qualsiasi architettura cognitiva si desideri. Laboratori come OpenAI sembrano sostenere questo approccio, costruendo modelli di apprendimento automatico sempre più grandi che potrebbero raggiungere AGI con la forza bruta .

L'altra scuola dice che una fissazione per il deep learning ci sta trattenendo. Se la chiave dell'AGI è capire come i componenti di un cervello artificiale dovrebbero lavorare insieme, concentrarsi troppo sui componenti stessi - gli algoritmi di apprendimento profondo - è perdere il legno per gli alberi. Ottieni l'architettura cognitiva giusta e puoi collegare gli algoritmi quasi come un ripensamento. Questo è l'approccio prediletto da Goertzel, di cui OpenCog il progetto è un tentativo di costruire una piattaforma open source che si adatti a diversi pezzi del puzzle in un insieme AGI. È anche un percorso che DeepMind ha esplorato quando ha combinato reti neurali e alberi di ricerca per AlphaGo.

SPRUZZARE

La mia sensazione personale è che sia qualcosa tra i due, dice Legg. Sospetto che ci sia un numero relativamente piccolo di algoritmi accuratamente realizzati che saremo in grado di combinare insieme per essere davvero potenti.

Goertzel non è d'accordo. La profondità di pensiero su AGI presso Google e DeepMind mi impressiona, dice (entrambe le aziende sono ora di proprietà di Alphabet). Se c'è una grande azienda che lo otterrà, saranno loro.

Non trattenere il respiro, però. Feriti dall'aver sottovalutato la sfida per decenni, pochi oltre a Musk amano azzardare un'ipotesi su quando (se mai) arriverà l'AGI. Anche Goertzel non rischierà di fissare i suoi obiettivi a una sequenza temporale specifica, anche se direbbe prima piuttosto che dopo. Non c'è dubbio che i rapidi progressi nell'apprendimento profondo, e in particolare nel GPT-3, abbiano aumentato le aspettative imitando alcune abilità umane. Ma il mimetismo non è intelligenza. Ci sono ancora buchi molto grandi sulla strada da percorrere e i ricercatori non ne hanno ancora esplorato la profondità, per non parlare di come riempirli.

Ma se continuiamo a muoverci velocemente, chi lo sa? dice Leg. Tra qualche decennio potremmo avere dei sistemi molto, molto capaci.

Perché l'AGI è controversa?

Parte del motivo per cui nessuno sa come costruire un AGI è che pochi sono d'accordo su cosa sia. I diversi approcci riflettono idee diverse su ciò a cui miriamo, dal multi-strumento all'IA sovrumana. Sono stati compiuti piccoli passi per rendere l'IA più generica, ma c'è un enorme divario tra uno strumento generico in grado di risolvere diversi problemi e uno in grado di risolvere problemi che gli esseri umani non possono: l'ultima invenzione di Good. Ci sono tonnellate di progressi nell'IA, ma ciò non implica che ci siano progressi nell'AGI, afferma Andrew Ng.

Senza prove da nessuna delle parti sul fatto che l'AGI sia realizzabile o meno, la questione diventa una questione di fede. Sembrano quegli argomenti della filosofia medievale sulla possibilità di inserire un numero infinito di angeli sulla capocchia di uno spillo, dice Togelius. Non ha senso; queste sono solo parole.

Goertzel minimizza le polemiche. Ci sono persone agli estremi su entrambi i lati, dice, ma ci sono anche molte persone nel mezzo, e le persone nel mezzo non tendono a blaterare così tanto.

Il mondo AGI è pieno di ricercatori che esplorano i confini esterni di come costruire una superintelligenza.

• Intelligenza emergente

  Kristinn Thorisson sta esplorando cosa succede quando programmi semplici riscrivono altri programmi semplici per produrre ancora più programmi. È interessato ai comportamenti complessi che emergono da semplici processi lasciati a svilupparsi da soli.

• Intelligenza universale

  Arturo Franz sta cercando di prendere la definizione matematica di AGI di Marcus Hutter, che presuppone una potenza di calcolo infinita, e ridurla in codice che funziona nella pratica.

• Intelligenza a tempo indeterminato

  David Weinbaum è un ricercatore che sta lavorando su intelligenze che progrediscono senza obiettivi prefissati . L'idea è che le funzioni di ricompensa come quelle tipicamente utilizzate nell'apprendimento per rinforzo restringono l'attenzione di un'IA. Weinbaum sta lavorando a modi per sviluppare un'intelligenza che funzioni al di fuori di uno specifico dominio problematico e si adatti semplicemente senza meta al suo ambiente.

Goertzel mette uno scettico dell'AGI come Ng a un'estremità e se stesso all'altra. Fin dai suoi giorni in Webmind, Goertzel ha corteggiato i media come prestanome per la frangia dell'AGI. Dirige la Conferenza AGI e dirige un'organizzazione chiamata SingularityNet,che descrivecome una sorta di Webmind su blockchain. Dal 2014 al 2018 è stato anche capo scienziato presso Hanson Robotics, l'azienda con sede a Hong Kong che ha presentato un robot umanoide parlante chiamato Sophia nel 2016. Altromanichino parco a temarispetto alla ricerca all'avanguardia, Sophia ha guadagnato i titoli di Goertzel in tutto il mondo. Ma anche lui ammette che si tratta semplicemente di un robot teatrale, non di un'intelligenza artificiale. Il particolare tipo di spettacolo di Goertzel ha indotto molti seri ricercatori di intelligenza artificiale a prendere le distanze dalla sua estremità dello spettro.

Nel mezzo avrebbe messo persone come Yoshua Bengio, un ricercatore di intelligenza artificiale presso l'Università di Montreal che è stato co-vincitore del Premio Turing con Yann LeCun e Geoffrey Hinton nel 2018. Nel 2014 discorso chiave alla conferenza AGI, Bengio ha suggerito che la costruzione di un'IA con intelligenza a livello umano è possibile perché il cervello umano è una macchina, che deve solo essere individuata. Ma non è convinto della superintelligenza, una macchina che supera la mente umana. In ogni caso, pensa che l'AGI non sarà raggiunto a meno che non troviamo un modo per dare ai computer il buon senso e l'inferenza causale.

Ng, tuttavia, insiste di non essere nemmeno contro l'AGI. Penso che AGI sia super eccitante, mi piacerebbe arrivarci, dice. Se avessi un sacco di tempo libero, ci lavorerei da solo. Quando era in Google Brain e il deep learning andava sempre più rafforzandosi, Ng, come OpenAI, si chiedeva se il semplice aumento delle reti neurali potesse essere un percorso verso l'AGI. Ma queste sono domande, non affermazioni, dice. Il punto in cui l'AGI è diventato controverso è quando le persone hanno iniziato a fare affermazioni specifiche al riguardo.

Una questione ancora più divisiva rispetto all'arroganza su quanto presto può essere raggiunta l'AGI è l'allarmismo su cosa potrebbe fare se si lasciasse andare. Qui, speculazione e fantascienza presto si confondono. Musk afferma che l'AGI sarà più pericoloso delle armi nucleari. Hugo de Garis, un ricercatore di intelligenza artificiale ora all'Università di Wuhan in Cina, predisse negli anni 2000 che l'AGI avrebbe portato a una guerra mondiale e miliardi di morti entro la fine del secolo. Le macchine divine, che chiamava artiletti, si sarebbero alleate con i sostenitori umani, i Cosmisti, contro una resistenza umana, i Terrestri.

Credere nell'AGI è come credere nella magia. È un modo per abbandonare il pensiero razionale ed esprimere speranza/paura per qualcosa che non può essere compreso.

Certamente non aiuta il campo pro-AGI quando qualcuno come de Garis, che è anche un schietto sostenitore delle opinioni maschiliste e antisemite, ha un articolo nel libro AGI di Goertzel insieme a quelli di ricercatori seri come Hutter e Jürgen Schmidhuber, a volte chiamato il padre dell'IA moderna. Se molti nel campo dell'AGI si considerano i portatori di torce dell'IA, molti al di fuori li vedono come pazzi portatori di carte, che gettano pensieri sull'IA in un frullatore con affermazioni selvagge sulla Singolarità (il punto di non ritorno quando le macchine di auto-miglioramento superano intelligenza umana), caricamenti cerebrali, transumanesimo e apocalisse.

Non sono infastidito dalla discussione molto interessante delle intelligenze, di cui dovremmo avere di più, dice Togelius. Sono infastidito dall'idea ridicola che il nostro software un giorno improvvisamente si sveglierà e conquisterà il mondo.

Perchè importa?

Alcuni decenni fa, quando l'IA non è riuscita a essere all'altezza del clamore di Minsky e altri, il campo si è schiantato più di una volta. I finanziamenti sono scomparsi; i ricercatori sono andati avanti. Ci sono voluti molti anni prima che la tecnologia emergesse da quelli che erano conosciuti come gli inverni dell'IA e si riaffermasse. Quel clamore, però, è ancora lì.

Tutti gli inverni dell'IA sono stati creati da aspettative irrealistiche, quindi dobbiamo combatterle ad ogni turno, afferma Ng. Pesenti è d'accordo: dobbiamo gestire il brusio, dice.

Una preoccupazione più immediata è che queste aspettative irrealistiche infettino il processo decisionale dei responsabili politici. Bryson dice di aver assistito a molti pensieri confusi nelle sale riunioni e nei governi perché le persone lì hanno una visione fantascientifica dell'IA. Questo può portarli a ignorare problemi irrisolti molto reali, come il modo in cui i pregiudizi razziali possono essere codificati nell'IA da dati di addestramento distorti, la mancanza di trasparenza su come funzionano gli algoritmi o domande su chi è responsabile quando un'IA prende una decisione sbagliata. a favore di preoccupazioni più fantastiche su cose come un'acquisizione di robot.

L'hype entusiasma anche gli investitori. Il denaro di Musk ha contribuito a finanziare una vera innovazione, ma quando dice di voler finanziare il lavoro sul rischio esistenziale, incoraggia i ricercatori a parlare di minacce per il futuro. Alcuni di loro ci credono davvero; alcuni di loro cercano solo i soldi, l'attenzione e quant'altro, dice Bryson. E non so se sono tutti del tutto onesti con se stessi su quale siano.

Il fascino di AGI non è sorprendente. L'autoriflessione e la creazione sono due delle attività più umane. La spinta a costruire una macchina a nostra immagine è irresistibile. Molte persone che ora sono critiche nei confronti dell'AGI ci hanno flirtato nelle loro prime carriere. Come Goertzel, Bryson ha trascorso diversi anni cercando di creare un bambino artificiale. Nel 2005, Ng ha organizzato un seminario al NeurIPS (allora chiamato NIPS), la principale conferenza mondiale sull'intelligenza artificiale, intitolato Verso l'IA a livello umano? Era pazzo, dice Ng. LeCun, ora un frequente critico delle chiacchiere di AGI, ha tenuto una nota chiave.

Questi ricercatori sono passati a problemi più pratici. Ma grazie ai progressi che loro e altri hanno fatto, le aspettative sono di nuovo in aumento. Molte persone sul campo non si aspettavano tutti i progressi che abbiamo avuto negli ultimi anni, afferma Legg. È stata una forza trainante nel rendere AGI molto più credibile.

Anche gli scettici dell'AGI ammettono che il dibattito almeno costringe i ricercatori a pensare alla direzione del campo in generale piuttosto che concentrarsi sul prossimo hack o benchmark della rete neurale. Considerare seriamente l'idea di AGI ci porta in luoghi davvero affascinanti, dice Togelius. Forse il più grande progresso sarà perfezionare il sogno, cercando di capire di cosa si trattasse.

nascondere