L'IA sta imparando a creare se stessa

Gli esseri umani hanno lottato per creare macchine veramente intelligenti. Forse dobbiamo lasciarli andare avanti da soli.

Shuhua Xiong

di

• Will Douglas il paradiso pagina di archivio

27 maggio 2021

Una piccola figura stilizzata con una testa a forma di cuneo si sposta sullo schermo. Si muove semiaccovacciato, trascinando un ginocchio a terra. Sta camminando! Ehm, più o meno.

Eppure Rui Wang è felice. Ogni giorno entro nel mio ufficio e apro il mio computer, e non so cosa aspettarmi, dice.

Un ricercatore di intelligenza artificiale presso Uber, a Wang piace lasciare il Trailblazer aperto accoppiato , un software che ha contribuito a sviluppare, in esecuzione sul suo laptop durante la notte. POET è una sorta di dojo di formazione per robot virtuali. Finora, non stanno imparando a fare molto. Questi agenti di intelligenza artificiale non lo sono giocando Vai , individuare segni di cancro , o proteine ​​pieghevoli — stanno cercando di navigare in un crudo paesaggio da cartone animato di recinzioni e burroni senza cadere.

Ma non è ciò che i robot stanno imparando ad essere eccitante, è come stanno imparando. POET genera i percorsi ad ostacoli, valuta le abilità dei robot e assegna la loro prossima sfida, il tutto senza il coinvolgimento umano. Passo dopo passo, i bot migliorano attraverso tentativi ed errori. Ad un certo punto potrebbe saltare da una scogliera come un maestro di kung fu, dice Wang.

Al momento può sembrare semplice, ma per Wang e una manciata di altri ricercatori, POET suggerisce un nuovo modo rivoluzionario per creare macchine superintelligenti: convincere l'IA a costruirsi da sola.

L'ex collega di Wang, Jeff Clune, è tra i maggiori sostenitori di questa idea. Clune ci lavora da anni, prima all'Università del Wyoming e poi agli Uber AI Labs, dove ha lavorato con Wang e altri. Ora dividendo il suo tempo tra l'Università della British Columbia e OpenAI, ha il sostegno di uno dei migliori laboratori di intelligenza artificiale al mondo .

Clune definisce il tentativo di costruire un'IA veramente intelligente la ricerca scientifica più ambiziosa della storia umana. Oggi, settant'anni dopo l'inizio dei seri sforzi per realizzare l'IA, siamo ancora lontani dalla creazione di macchine che siano altrettanto intelligenti quanto gli esseri umani, per non parlare più intelligenti. Clune pensa che POET potrebbe indicare una scorciatoia.

Dobbiamo togliere le catene e toglierci di mezzo, dice.

Se Clune ha ragione, usando l'IA per creare l'IA potrebbe essere un passo importante sulla strada che un giorno porta intelligenza artificiale generale (AGI): macchine in grado di superare gli esseri umani. A breve termine, la tecnica potrebbe anche aiutarci a scoprire diversi tipi di intelligenza: intelligenze non umane che possono trovare soluzioni in modi inaspettati e forse integrare la nostra stessa intelligenza piuttosto che sostituirla.

Imitare l'evoluzione

Ho parlato per la prima volta con Clune dell'idea all'inizio dell'anno scorso, solo poche settimane dopo il suo passaggio a OpenAI. Era felice di discutere del lavoro passato, ma è rimasto a bocca aperta su ciò che stava facendo con la sua nuova squadra. Invece di rispondere alla chiamata all'interno, preferiva camminare su e giù per le strade fuori dagli uffici mentre parlavamo.

Tutto ciò che Clune avrebbe detto era che OpenAI era adatto. La mia idea è molto in linea con molte delle cose in cui credono, dice. Era una specie di matrimonio fatto in paradiso. A loro piaceva la visione e volevano che venissi qui e la perseguissi. Pochi mesi dopo l'adesione di Clune, OpenAI ha assunto anche la maggior parte del suo vecchio team Uber.

L'ambiziosa visione di Clune si basa su qualcosa di più dell'investimento di OpenAI. La storia dell'IA è piena di esempi in cui le soluzioni progettate dall'uomo hanno lasciato il posto a quelle apprese dalle macchine. Prendi la visione artificiale: un decennio fa, la grande svolta nel riconoscimento delle immagini è arrivata quando i sistemi artigianali esistenti sono stati sostituiti da quelli che hanno imparato da zero. È lo stesso per molti successi dell'IA.

Una delle cose affascinanti dell'IA, e in particolare dell'apprendimento automatico, è la sua capacità di trovare soluzioni che gli esseri umani non hanno trovato —per sorprenderci. Un esempio spesso citato è AlphaGo (e il suo successore AlphaZero), che ha battuto il meglio che l'umanità ha da offrire nell'antico e seducente gioco di Go, impiegando strategie apparentemente aliene. Dopo centinaia di anni di studio da parte di maestri umani, l'IA ha trovato soluzioni a cui nessuno aveva mai pensato.

Clune sta ora lavorando con un team di OpenAI che ha sviluppato bot che hanno imparato a giocare a nascondino in un ambiente virtuale nel 2018. Queste IA sono iniziate con obiettivi semplici e strumenti semplici per raggiungerli: una coppia doveva trovare l'altra, che poteva nascondersi dietro ostacoli mobili. Tuttavia, quando questi robot sono stati lasciati liberi di imparare, hanno presto trovato il modo di sfruttare il loro ambiente in modi che i ricercatori non avevano previsto. Hanno sfruttato i glitch nella fisica simulata del loro mondo virtuale per saltare e persino passare attraverso i muri.

Quei tipi di comportamenti emergenti inaspettati offrono suggerimenti allettanti che l'IA potrebbe arrivare a soluzioni tecniche a cui gli esseri umani non penserebbero da soli, inventando nuovi e più efficienti tipi di algoritmi o reti neurali, o addirittura abbandonando completamente le reti neurali, una pietra miliare dell'IA moderna.

A Clune piace ricordare alle persone che l'intelligenza è già emersa da semplici inizi. La cosa interessante di questo approccio è che sappiamo che può funzionare, dice. Il semplicissimo algoritmo dell'evoluzione darwiniana ha prodotto il tuo cervello e il tuo cervello è l'algoritmo di apprendimento più intelligente dell'universo che conosciamo finora. Il suo punto è che se l'intelligenza come la conosciamo è il risultato della mutazione insensata dei geni nel corso di innumerevoli generazioni, perché non cercare di replicare il processo di produzione dell'intelligenza, che è probabilmente più semplice, piuttosto che l'intelligenza stessa?

Storia correlata

Intelligenza artificiale generale: siamo vicini e ha senso provare?

Una macchina in grado di pensare come una persona è stata la visione guida della ricerca sull'IA sin dai primi giorni e rimane la sua idea più divisiva.

Ma c'è un'altra osservazione cruciale qui. L'intelligenza non è mai stata un punto di arrivo per l'evoluzione, qualcosa a cui mirare. Invece, è emerso in molte forme diverse da innumerevoli piccole soluzioni a sfide che hanno permesso agli esseri viventi di sopravvivere e affrontare sfide future. L'intelligenza è l'attuale culmine in un processo continuo e aperto. In questo senso, l'evoluzione è molto diversa dagli algoritmi nel modo in cui le persone normalmente li considerano, come mezzi per raggiungere un fine.

È questa apertura, intravista nella sequenza apparentemente senza scopo di sfide generate da POET, che Clune e altri ritengono possa portare a nuovi tipi di IA. Per decenni i ricercatori di intelligenza artificiale hanno cercato di costruire algoritmi per imitare l'intelligenza umana, ma la vera svolta potrebbe venire dalla creazione di algoritmi che cercano di imitare la risoluzione aperta dei problemi dell'evoluzione e sedendosi a guardare ciò che emerge.

I ricercatori stanno già utilizzando l'apprendimento automatico su se stesso, addestrandolo a trovare soluzioni ad alcuni dei problemi più difficili del campo, ad esempio come realizzare macchine in grado di apprendere più di un compito alla volta o far fronte a situazioni che non hanno mai incontrato prima. Alcuni ora pensano che adottare questo approccio e correre con esso potrebbe essere il percorso migliore per l'intelligenza artificiale generale. Potremmo avviare un algoritmo che inizialmente non ha molta intelligenza al suo interno e guardarlo avviarsi da solo fino ad arrivare potenzialmente ad AGI, dice Clune.

La verità è che per ora AGI rimane una fantasia. Ma questo è in gran parte perché nessuno sa come farlo. I progressi nell'IA sono frammentari e portati avanti dagli esseri umani, con progressi che in genere implicano modifiche a tecniche o algoritmi esistenti, ottenendo salti incrementali in termini di prestazioni o precisione. Clune caratterizza questi sforzi come tentativi di scoprire gli elementi costitutivi dell'intelligenza artificiale senza sapere cosa stai cercando o di quanti blocchi avrai bisogno. E questo è solo l'inizio. A un certo punto, dovremo assumerci l'erculeo compito di metterli tutti insieme, dice.

Chiedere all'IA di trovare e assemblare quei mattoni per noi è un cambio di paradigma. Vuol dire che vogliamo creare una macchina intelligente, ma non ci interessa come potrebbe essere: dacci solo quello che funziona.

Anche se l'AGI non viene mai raggiunta, l'approccio di autoapprendimento potrebbe comunque cambiare i tipi di IA creati. Il mondo ha bisogno di più di un ottimo giocatore di Go, dice Clune. Per lui creare una macchina superintelligente significa costruire un sistema che inventa le proprie sfide, le risolve e poi ne inventa di nuove. POET è un piccolo assaggio di questo in azione. Clune immagina una macchina che insegna a un robot a camminare, poi a giocare a campana, poi forse a giocare a Go. Poi forse impara i puzzle di matematica e inizia a inventare le proprie sfide, dice. Il sistema innova continuamente e il cielo è il limite in termini di dove potrebbe andare.

È una speculazione selvaggia, forse, ma una speranza è che macchine come questa possano essere in grado di eludere i nostri vicoli ciechi concettuali, aiutandoci a sbrogliare crisi enormemente complesse come il cambiamento climatico o la salute globale.

Ma prima dobbiamo crearne uno.

Come creare un cervello

Esistono molti modi diversi per collegare un cervello artificiale.

Le reti neurali sono costituite da più livelli di neuroni artificiali codificati nel software. Ogni neurone può essere connesso ad altri negli strati sopra. Il modo in cui una rete neurale è cablata fa una grande differenza e le nuove architetture spesso portano a nuove scoperte.

Le reti neurali codificate dagli scienziati umani sono spesso il risultato di tentativi ed errori. C'è poca teoria su cosa funziona e cosa non funziona, e nessuna garanzia che siano stati trovati i migliori design. Ecco perché automatizzare la ricerca di migliori progetti di reti neurali è stato uno degli argomenti più caldi dell'IA almeno dagli anni '80. Il modo più comune per automatizzare il processo è lasciare che un'IA generi molti possibili progetti di rete e lasciare che la rete provi automaticamente ciascuno di essi e scelga i migliori. Questo è comunemente noto come neuroevoluzione o ricerca dell'architettura neurale (NAS).

Negli ultimi anni, questi progetti di macchine hanno iniziato a superare quelli umani. Nel 2018, Esteban Real e i suoi colleghi di Google hanno utilizzato il NAS per generare una rete neurale per il riconoscimento delle immagini battere le migliori reti progettate dall'uomo al tempo. È stato un colpo d'occhio.

Il sistema 2018 fa parte di un progetto Google in corso chiamato AutoML, che ha anche utilizzato NAS per produrre EfficientNets, una famiglia di modelli di deep learning che sono più efficienti di quelli progettati dall'uomo , ottenendo elevati livelli di precisione nelle attività di riconoscimento delle immagini con modelli più piccoli e veloci.

Tre anni dopo, Real sta spingendo i confini di ciò che può essere generato da zero. I sistemi precedenti semplicemente riorganizzavano pezzi di rete neurale provati e testati, come i tipi esistenti di livelli o componenti. Potremmo aspettarci una buona risposta, dice.

L'anno scorso il Real e la sua squadra hanno tolto le ruote di allenamento. Il nuovo sistema, chiamato AutoML Zero , cerca di costruire un'IA da zero utilizzando nient'altro che i concetti matematici più elementari che governano l'apprendimento automatico.

Sorprendentemente, non solo AutoML Zero ha costruito spontaneamente una rete neurale, ma ha anche prodotto la discesa del gradiente, la tecnica matematica più comune utilizzata dai progettisti umani per addestrare una rete. Sono rimasto piuttosto sorpreso, dice Real. È un algoritmo molto semplice, ci vogliono circa sei righe di codice, ma ha scritto esattamente sei righe.

AutoML Zero non sta ancora generando architetture che rivaleggiano con le prestazioni dei sistemi progettati dall'uomo, o in effetti sta facendo molto che un progettista umano non avrebbe fatto. Ma Real crede che potrebbe un giorno.

È ora di formare un nuovo tipo di insegnante

Per prima cosa fai un cervello; allora devi insegnarlo. Ma i cervelli delle macchine non imparano come fanno i nostri. I nostri cervelli sono fantastici nell'adattarsi a nuovi ambienti e nuovi compiti. Le IA di oggi possono risolvere le sfide in determinate condizioni, ma falliscono quando tali condizioni cambiano anche solo di poco. Questa rigidità sta ostacolando la ricerca per creare un'IA più generalizzabile che possa essere utile in un'ampia gamma di scenari, il che sarebbe un grande passo avanti per renderli veramente intelligenti.

Per Jane Wang, ricercatrice presso DeepMind a Londra, il modo migliore per rendere l'IA più flessibile è far sì che impari quella caratteristica. In altre parole, vuole costruire un'IA che non solo apprenda compiti specifici, ma impari ad apprendere quei compiti in modi che possano essere adattati a nuove situazioni.

I ricercatori hanno cercato di rendere l'IA più adattabile per anni. Wang pensa che convincere l'IA a risolvere questo problema da sola evita alcuni dei tentativi ed errori di un approccio progettato a mano: non possiamo assolutamente aspettarci di imbatterci nella risposta giusta subito. Nel processo, spera, impareremo anche di più su come funzionano i cervelli. C'è ancora così tanto che non capiamo sul modo in cui gli esseri umani e gli animali imparano, dice.

Esistono due approcci principali per generare automaticamente algoritmi di apprendimento, ma entrambi iniziano con una rete neurale esistente e utilizzano l'IA per insegnarla.

Storia correlata

L'IA armata di più sensi potrebbe acquisire un'intelligenza più flessibile

L'intelligenza umana emerge dalla nostra combinazione di sensi e abilità linguistiche. Forse lo stesso vale per l'intelligenza artificiale.

Il primo approccio, inventato separatamente da Wang e i suoi colleghi di DeepMind e da un team di OpenAI più o meno allo stesso tempo, utilizza reti neurali ricorrenti. Questo tipo di rete può essere addestrata in modo tale che le attivazioni dei loro neuroni, più o meno simili all'attivazione dei neuroni nei cervelli biologici, codifichino qualsiasi tipo di algoritmo. DeepMind e OpenAI ne hanno approfittato per addestrare una rete neurale ricorrente per generare algoritmi di apprendimento per rinforzo, che dicono a un'IA come comportarsi per raggiungere determinati obiettivi.

Il risultato è che i sistemi DeepMind e OpenAI non apprendono un algoritmo che risolve una sfida specifica, come il riconoscimento delle immagini, ma apprendono un apprendimento algoritmo che può essere applicato a più attività e adattarsi man mano che procede. È come il vecchio adagio sull'insegnare a qualcuno a pescare: mentre un algoritmo progettato a mano può apprendere un compito particolare, queste IA sono fatte per imparare ad imparare da sole. E alcuni di loro funzionano meglio di quelli progettati dall'uomo.

Il secondo approccio viene da Chelsea Finn dell'Università della California, Berkeley, e dai suoi colleghi. Chiamato meta-apprendimento indipendente dal modello , o MAML, addestra un modello utilizzando due processi di apprendimento automatico, uno annidato all'interno dell'altro.

Approssimativamente, ecco come funziona. Il processo interno in MAML viene addestrato sui dati e quindi testato, come al solito. Ma poi il modello esterno prende le prestazioni del modello interno - quanto bene identifica le immagini, per esempio - e le usa per imparare come regolare l'algoritmo di apprendimento di quel modello per aumentare le prestazioni. È come se avessi un ispettore scolastico che controlla un gruppo di insegnanti, ognuno dei quali offre diverse tecniche di apprendimento. L'ispettore controlla quali tecniche aiutano gli studenti a ottenere i punteggi migliori e li modifica di conseguenza.

Attraverso questi approcci, i ricercatori stanno costruendo un'IA più robusta, più generalizzata e in grado di apprendere più velocemente con meno dati. Ad esempio, Finn vuole un robot che ha imparato a camminare su un terreno pianeggiante per poter passare, con un minimo allenamento extra, a camminare su un pendio o sull'erba o mentre trasporta un carico.

L'anno scorso, Clune e i suoi colleghi hanno esteso la tecnica di Finn per progettare un algoritmo che apprende utilizzando meno neuroni in modo da non sovrascrivere tutto ciò che ha appreso in precedenza, un grosso problema irrisolto nell'apprendimento automatico noto come oblio catastrofico. Un modello addestrato che utilizza meno neuroni, noto come modello sparso, avrà più neuroni inutilizzati rimasti da dedicare a nuove attività quando riqualificato, il che significa che un minor numero di neuroni utilizzati verrà sovrascritto. Clune ha scoperto che impostare la sua intelligenza artificiale per la sfida di apprendere più di un compito lo ha portato a elaborare una propria versione di un modello sparso che ha superato quelli progettati dall'uomo.

Se vogliamo lasciare che l'IA crei e insegni da sola, anche le IA dovrebbero generare i propri ambienti di formazione: le scuole e i libri di testo, nonché i piani delle lezioni.

E l'anno passato ha visto una serie di progetti in cui l'IA è stata addestrata su dati generati automaticamente. Ad esempio, i sistemi di riconoscimento facciale vengono addestrati con i volti generati dall'intelligenza artificiale. Le IA stanno anche imparando ad addestrarsi a vicenda. In un esempio recente, due bracci robotici hanno lavorato insieme, con un braccio che ha imparato a impostare sfide sempre più difficili per impilare i blocchi che hanno addestrato l'altro ad afferrare e afferrare oggetti.

In effetti, Clune si chiede se l'intuizione umana sul tipo di dati di cui un'IA ha bisogno per apprendere possa essere disattivata. Ad esempio, lui ei suoi colleghi hanno sviluppato ciò che lui chiama reti di insegnamento generativo , che apprendono quali dati dovrebbero generare per ottenere i migliori risultati durante il training di un modello. In un esperimento, ha utilizzato una di queste reti per adattare un set di dati di numeri scritti a mano che viene spesso utilizzato per addestrare algoritmi di riconoscimento delle immagini. Ciò che ne è venuto fuori sembrava molto diverso dal set di dati originale curato dall'uomo: centinaia di cifre non del tutto, come la metà superiore della figura sette o quelle che sembravano due cifre fuse insieme. Alcuni esempi generati dall'IA erano difficili da decifrare. Nonostante ciò, i dati generati dall'intelligenza artificiale hanno comunque svolto un ottimo lavoro nell'addestrare il sistema di riconoscimento della grafia per identificare le cifre effettive.

Non cercare di avere successo

I dati generati dall'IA sono ancora solo una parte del puzzle. La visione a lungo termine è quella di prendere tutte queste tecniche - e altre non ancora inventate - e consegnarle a un trainer di intelligenza artificiale che controlla come sono cablati i cervelli artificiali, come vengono addestrati e su cosa vengono addestrati. Nemmeno Clune è chiaro su come sarebbe un tale sistema futuro. A volte parla di una sorta di sandbox simulato iperrealistico, in cui le IA possono tagliarsi i denti e sbucciarsi le ginocchia virtuali. Qualcosa di così complesso è ancora lontano anni. La cosa più vicina è POET, il sistema creato da Clune con Rui Wang di Uber e altri.

POET è stato motivato da un paradosso, dice Wang. Se provi a risolvere un problema fallirai; se non provi a risolverlo, è più probabile che ci riesca. Questa è una delle intuizioni che Clune trae dalla sua analogia con l'evoluzione: risultati sorprendenti che emergono da un processo apparentemente casuale spesso non possono essere ricreati compiendo passi deliberati verso lo stesso fine. Non c'è dubbio che le farfalle esistano, ma torna indietro ai loro precursori unicellulari e prova a crearle da zero scegliendo ogni passaggio dal batterio all'insetto, e probabilmente fallirai.

POET avvia il suo agente a due gambe in un ambiente semplice, come un sentiero pianeggiante senza ostacoli. All'inizio l'agente non sa cosa fare con le sue gambe e non può camminare. Ma attraverso tentativi ed errori, l'algoritmo di apprendimento per rinforzo che lo controlla impara a muoversi su un terreno pianeggiante. POET genera quindi un nuovo ambiente casuale diverso, ma non necessariamente più difficile in cui trasferirsi. L'agente cerca di raggiungerlo. Se ci sono ostacoli in questo nuovo ambiente, l'agente impara come superarli o superarli. Ogni volta che un agente riesce o si blocca, viene spostato in un nuovo ambiente. Nel tempo, gli agenti imparano una serie di azioni di camminata e salto che consentono loro di affrontare percorsi ad ostacoli sempre più difficili.

Il team ha scoperto che il cambio casuale degli ambienti era essenziale.

Ad esempio, gli agenti a volte imparavano a camminare su un terreno pianeggiante con uno strano movimento strascicato a metà in ginocchio, perché era abbastanza buono. Non imparano mai a stare in piedi perché non ne hanno mai bisogno, dice Wang. Ma dopo essere stati costretti ad apprendere strategie alternative su un terreno disseminato di ostacoli, potevano tornare alla fase iniziale con un modo migliore di camminare, usando entrambe le gambe invece di trascinarne una dietro, per esempio, e poi portare quella versione migliorata di se stessi in avanti a sfide più difficili.

POET addestra i suoi robot in un modo che nessun essere umano farebbe: prende percorsi irregolari e non intuitivi verso il successo. In ogni fase, i robot cercano di trovare una soluzione a qualsiasi sfida gli venga presentata. Affrontando una selezione casuale di ostacoli lanciati sulla loro strada, migliorano nel complesso. Ma non c'è un punto finale in questo processo, nessun test finale da superare o un punteggio alto da battere.

Clune, Wang e un certo numero di loro colleghi ritengono che questa sia un'intuizione profonda. Ora stanno esplorando cosa potrebbe significare per lo sviluppo di macchine superintelligenti. Potrebbe provare non tracciare un percorso specifico essere effettivamente una svolta chiave sulla strada verso l'intelligenza artificiale generale?

POET sta già ispirando altri ricercatori, come Natasha Jaques e Michael Dennis presso l'Università della California, Berkeley. Hanno sviluppato un sistema chiamato ABBINATO che utilizza l'IA per generare una serie di labirinti per addestrare un'altra IA a navigarli.

Rui Wang pensa che le sfide progettate dall'uomo rappresenteranno un collo di bottiglia e che un vero progresso nell'IA richiederà che l'IA elabori la propria. Non importa quanto siano validi gli algoritmi oggi, vengono sempre testati su alcuni benchmark progettati a mano, dice. È molto difficile immaginare che l'intelligenza artificiale generale derivi da questo, perché è vincolata da obiettivi fissi.

Un nuovo tipo di intelligenza

Il rapido sviluppo dell'IA in grado di allenarsi solleva anche interrogativi su come possiamo controllarne la crescita. L'idea di un'IA che costruisce un'IA migliore è una parte cruciale della creazione di miti alla base della Singolarità, il punto immaginato nel futuro in cui le IA inizieranno a migliorare a un ritmo esponenziale e ad andare oltre il nostro controllo. Alla fine, avvertono alcuni profeti di sventura, l'IA potrebbe decidere che non ha affatto bisogno degli umani.

Non è quello che nessuno di questi ricercatori ha in mente: il loro lavoro è molto focalizzato sul miglioramento dell'IA di oggi. Le macchine che si scatenano rimangono un'anti-fantasy lontana.

Anche così, Jane Wang di DeepMind ha delle riserve. Una grande parte dell'attrazione dell'utilizzo dell'IA per creare l'IA è che può inventare progetti e tecniche a cui le persone non avevano pensato. Eppure Wang osserva che non tutte le sorprese sono buone sorprese: l'apertura è, per definizione, qualcosa di inaspettato. Se l'idea è convincere l'IA a fare qualcosa che non ti aspettavi, diventa più difficile da controllare. È sia eccitante che spaventoso, dice.

Clune sottolinea anche l'importanza di pensare all'etica della nuova tecnologia fin dall'inizio. Ci sono buone probabilità che le reti neurali e gli algoritmi progettati dall'IA siano ancora più difficili da capire rispetto ai già opachi sistemi black-box di oggi. Le IA generate da algoritmi sono più difficili da ottenere audit per bias ? È più difficile garantire che non si comporteranno in modi indesiderabili?

Clune spera che tali domande vengano poste e risposte man mano che più persone realizzeranno il potenziale delle IA autogeneranti. La maggior parte delle persone nella comunità dell'apprendimento automatico non parla mai del nostro percorso generale verso un'IA estremamente potente, dice, ma tendono a concentrarsi su piccoli miglioramenti incrementali. Clune vuole ricominciare una conversazione sulle più grandi ambizioni del campo.

Le sue ambizioni si riallacciano ai suoi primi interessi per l'intelligenza umana e come si è evoluta. La sua grande visione è quella di impostare le cose in modo che le macchine possano un giorno vedere la propria intelligenza - o intelligenze - emergere e migliorare attraverso innumerevoli generazioni di tentativi ed errori, guidati da algoritmi senza alcun progetto definitivo in mente.

Se l'IA inizia a generare intelligenza da sola, non vi è alcuna garanzia che sarà simile a quella umana. Piuttosto che gli umani insegnano alle macchine a pensare come gli umani, le macchine potrebbero insegnare agli umani nuovi modi di pensare.

Probabilmente c'è un gran numero di modi diversi per essere molto intelligenti, dice Clune. Una delle cose che mi entusiasma dell'IA è che potremmo arrivare a comprendere l'intelligenza più in generale, vedendo quale variazione è possibile.

Penso che sia affascinante. Voglio dire, è quasi come inventare viaggi interstellari e poter visitare culture aliene. Non ci sarebbe momento più grande nella storia dell'umanità dell'incontro con una razza aliena e dell'apprendimento della sua cultura, della sua scienza, di tutto. Il viaggio interstellare è estremamente difficile, ma abbiamo la capacità di creare potenzialmente intelligenze aliene digitalmente.