La nostra paura dell'intelligenza artificiale

Anni fa ho preso un caffè con un amico che gestiva una startup. Aveva appena compiuto 40 anni. Suo padre era malato, aveva la schiena dolorante e si ritrovò sopraffatto dalla vita. Non ridere di me, disse, ma contavo sulla singolarità.

Il mio amico ha lavorato nella tecnologia; aveva visto i cambiamenti apportati da microprocessori e reti più veloci. Non è stato un gran passo per lui credere che prima di essere assalito dalla mezza età, l'intelligenza delle macchine avrebbe superato quella degli umani, un momento che i futuristi chiamano singolarità. Una superintelligenza benevola potrebbe analizzare il codice genetico umano a grande velocità e svelare il segreto dell'eterna giovinezza. Per lo meno, potrebbe sapere come riparare la tua schiena.

Questa storia faceva parte del nostro numero di marzo 2015

• Vedi il resto del problema
• sottoscrivi

Ma se non fosse così benevolo? Nick Bostrom, un filosofo che dirige il Future of Humanity Institute dell'Università di Oxford, descrive il seguente scenario nel suo libro Superintelligenza , che ha suscitato un ampio dibattito sul futuro dell'intelligenza artificiale. Immagina una macchina che potremmo chiamare massimizzatore di graffette, ovvero una macchina programmata per creare quante più graffette possibile. Ora immagina che questa macchina sia diventata in qualche modo incredibilmente intelligente. Dati i suoi obiettivi, potrebbe quindi decidere di creare nuove macchine per la produzione di graffette più efficienti, fino a quando, in stile re Mida, non ha convertito essenzialmente tutto in graffette.

Nessun problema, potresti dire: potresti semplicemente programmarlo per fare esattamente un milione di graffette e fermarti. Ma cosa succede se fa le graffette e poi decide di controllarne il funzionamento? Ha contato correttamente? Deve diventare più intelligente per essere sicuro. La macchina superintelligente produce materiale informatico non ancora inventato (chiamatelo computronium) e lo usa per controllare ogni dubbio. Ma ogni nuovo dubbio produce ulteriori dubbi digitali, e così via, finché l'intera terra non viene convertita in computronium. A parte il milione di graffette.

Cose recensite

• Superintelligenza: Percorsi, Pericoli, Strategie

  Di Nick Bostrom
  Oxford University Press, 2014

  
  
  

Bostrom non crede che il massimizzatore delle graffette verrà ad essere, esattamente; è un esperimento mentale, progettato per mostrare come anche un'attenta progettazione del sistema possa non riuscire a frenare l'estrema intelligenza della macchina. Ma crede che la superintelligenza potrebbe emergere e, sebbene possa essere eccezionale, pensa che potrebbe anche decidere che non ha bisogno di umani in giro. O fare un numero qualsiasi di altre cose che distruggono il mondo. Il titolo del capitolo 8 è: Il risultato predefinito è destino?

Se questo ti suona assurdo, non sei solo. Critici come il pioniere della robotica Rodney Brooks affermano che le persone che temono un'IA in fuga fraintendono ciò che i computer stanno facendo quando diciamo che stanno pensando o diventando intelligenti. Da questa prospettiva, la presunta superintelligenza descritta da Bostrom è lontana nel futuro e forse impossibile.

Eppure molte persone intelligenti e premurose sono d'accordo con Bostrom e ora sono preoccupate. Come mai?

Volontà

La domanda Può una macchina pensare? ha oscurato l'informatica sin dai suoi inizi. Alan Turing propose nel 1950 che una macchina potesse essere insegnata come un bambino; John McCarthy, inventore del linguaggio di programmazione LISP, coniò il termine intelligenza artificiale nel 1955. Quando i ricercatori di intelligenza artificiale negli anni '60 e '70 iniziarono a utilizzare i computer per riconoscere immagini, tradurre tra lingue e comprendere istruzioni nel linguaggio normale e non solo nel codice, il l'idea che i computer alla fine avrebbero sviluppato la capacità di parlare e pensare, e quindi di fare il male, si è diffusa nella cultura tradizionale. Anche al di là dell'HAL spesso citato da 2001: Odissea nello spazio , il film del 1970 Colosso: il progetto Forbin presentava un grande computer mainframe lampeggiante che porta il mondo sull'orlo della distruzione nucleare; un tema simile è stato esplorato 13 anni dopo Giochi di guerra . Gli androidi degli anni '73 Mondo occidentale è impazzito e ha iniziato a uccidere.

Le previsioni estreme dell'IA sono paragonabili a vedere motori a combustione interna più efficienti... e saltare alla conclusione che i motori a curvatura sono proprio dietro l'angolo, scrive Rodney Brooks.

Quando la ricerca sull'IA è stata molto al di sotto dei suoi obiettivi elevati, i finanziamenti si sono esauriti fino a un rivolo, dando inizio a lunghi inverni sull'IA. Anche così, la torcia della macchina intelligente è stata portata avanti negli anni '80 e '90 da autori di fantascienza come Vernor Vinge, che hanno reso popolare il concetto di singolarità; ricercatori come il roboticista Hans Moravec, esperto di computer vision; e l'ingegnere/imprenditore Ray Kurzweil, autore del libro del 1999 L'era delle macchine spirituali . Mentre Turing aveva ipotizzato un'intelligenza simile a quella umana, Vinge, Moravec e Kurzweil stavano pensando in grande: quando un computer è diventato capace di escogitare in modo indipendente modi per raggiungere gli obiettivi, molto probabilmente sarebbe stato capace di introspezione, e quindi in grado di modificare il suo software e farsi più intelligente. In breve tempo, un computer del genere sarebbe in grado di progettare il proprio hardware.

Come l'ha descritta Kurzweil, questo avrebbe dato inizio a una bellissima nuova era. Tali macchine avrebbero l'intuizione e la pazienza (misurata in picosecondi) per risolvere i problemi in sospeso della nanotecnologia e del volo spaziale; migliorerebbero la condizione umana e ci permetterebbero di caricare la nostra coscienza in una forma digitale immortale. L'intelligenza si sarebbe diffusa in tutto il cosmo.

Puoi anche trovare l'esatto opposto di un tale ottimismo solare. Stephen Hawking ha avvertito che, poiché le persone non sarebbero in grado di competere con un'IA avanzata, esso potrebbe segnare la fine della razza umana. Dopo aver letto Superintelligenza , l'imprenditore Elon Musk ha twittato: Spero che non siamo solo il boot loader biologico per la superintelligenza digitale. Purtroppo è sempre più probabile. Musk ha poi seguito con una sovvenzione di 10 milioni di dollari al Future of Life Institute. Da non confondere con il centro di Bostrom, questa è un'organizzazione che afferma di lavorare per mitigare i rischi esistenziali che l'umanità deve affrontare, quelli che potrebbero derivare dallo sviluppo dell'intelligenza artificiale a livello umano.

Nessuno sta suggerendo che ora esista qualcosa come la superintelligenza. In effetti, non abbiamo ancora nulla che si avvicini a un'intelligenza artificiale generica o anche solo un percorso chiaro su come potrebbe essere raggiunta. I recenti progressi nell'IA, dagli assistenti automatici come Siri di Apple alle auto senza conducente di Google, rivelano anche i gravi limiti della tecnologia; entrambi possono essere respinti da situazioni che non hanno mai incontrato prima. Le reti neurali artificiali possono imparare da sole a riconoscere i gatti nelle foto. Ma devono essere mostrati centinaia di migliaia di esempi e finiscono comunque per essere molto meno accurati nell'individuare i gatti rispetto a un bambino.

Qui è dove scettici come Brooks , uno dei fondatori di iRobot e Rethink Robotics, entra in gioco. Anche se è impressionante, rispetto a ciò che i computer precedenti potevano gestire, per un computer riconoscere l'immagine di un gatto, la macchina non ha volontà, non ha senso di cosa sia il gatto o cos'altro sta accadendo nella foto, e nessuna delle innumerevoli altre intuizioni che gli umani hanno. Da questo punto di vista, l'IA potrebbe portare a macchine intelligenti, ma richiederebbe molto più lavoro di quanto immaginino persone come Bostrom. E anche se potesse accadere, l'intelligenza non porterà necessariamente alla sensibilità. Estrapolando dallo stato attuale dell'IA per suggerire che la superintelligenza è incombente è paragonabile a vedere apparire motori a combustione interna più efficienti e saltare alla conclusione che i motori a curvatura sono proprio dietro l'angolo, ha scritto Brooks di recente su edge.org . L'IA malevola non è nulla di cui preoccuparsi, dice, almeno per qualche centinaio di anni.

Polizza assicurativa

Anche se le probabilità che nasca una superintelligenza sono molto lunghe, forse è irresponsabile correre il rischio. Una persona che condivide le preoccupazioni di Bostrom è Stuart J. Russell, professore di informatica all'Università della California, Berkeley. Russell è l'autore, con Peter Norvig (un pari di Kurzweil di Google), di Intelligenza artificiale: un approccio moderno , che è stato il libro di testo standard di intelligenza artificiale per due decenni.

Ci sono molti intellettuali pubblici apparentemente intelligenti che semplicemente non ne hanno la più pallida idea, mi ha detto Russell. Ha sottolineato che l'intelligenza artificiale è progredita enormemente nell'ultimo decennio e che mentre il pubblico potrebbe comprendere i progressi in termini di legge di Moore (i computer più veloci ne fanno di più), in realtà il recente lavoro sull'intelligenza artificiale è stato fondamentale, con tecniche come il deep learning che pongono le basi basi per computer che possono aumentare automaticamente la loro comprensione del mondo che li circonda.

Il libro di Bostrom propone modi per allineare i computer ai bisogni umani. In pratica stiamo dicendo a un dio come vorremmo essere trattati.

Poiché Google, Facebook e altre aziende stanno attivamente cercando di creare una macchina intelligente per l'apprendimento, ragiona, direi che una delle cose che non dovremmo fare è spingere a tutto vapore sulla costruzione della superintelligenza senza pensare al potenziale rischi. Sembra solo un po' stupido. Russell ha fatto un'analogia: è come la ricerca sulla fusione. Se chiedi a un ricercatore sulla fusione cosa fa, dice che lavora sul contenimento. Se vuoi energia illimitata, faresti meglio a contenere la reazione di fusione. Allo stesso modo, dice, se vuoi un'intelligenza illimitata, faresti meglio a capire come allineare i computer ai bisogni umani.

Il libro di Bostrom è una proposta di ricerca per farlo. Una superintelligenza sarebbe divina, ma sarebbe animata dall'ira o dall'amore? Dipende da noi (cioè gli ingegneri). Come ogni genitore, dobbiamo dare a nostro figlio un insieme di valori. E non solo valori qualsiasi, ma quelli che sono nel migliore interesse dell'umanità. In pratica stiamo dicendo a un dio come vorremmo essere trattati. Come procedere?

Bostrom attinge ampiamente da un'idea di un pensatore di nome Eliezer Yudkowsky, che parla di volizione estrapolata coerente, il miglior sé derivato dal consenso di tutte le persone. L'IA, speriamo, desidererebbe darci vite ricche, felici e appaganti: aggiustare il nostro mal di schiena e mostrarci come arrivare su Marte. E poiché gli esseri umani non saranno mai completamente d'accordo su nulla, a volte avremo bisogno che sia lui a decidere per noi, a prendere le decisioni migliori per l'umanità nel suo insieme. Come, allora, programmiamo quei valori nelle nostre (potenziali) superintelligenze? Che tipo di matematica può definirli? Questi sono i problemi, ritiene Bostrom, che i ricercatori dovrebbero risolvere ora. Bostrom dice che è il compito essenziale della nostra epoca.

Per il civile, non c'è motivo di perdere il sonno per i robot spaventosi. Non abbiamo una tecnologia lontanamente vicina alla superintelligenza. Inoltre, molte delle più grandi società del mondo sono profondamente impegnate nel rendere i propri computer più intelligenti; una vera IA darebbe a qualsiasi di queste aziende un vantaggio incredibile. Dovrebbero anche essere in sintonia con i suoi potenziali svantaggi e capire come evitarli.

Questo suggerimento un po' più sfumato, senza alcuna pretesa di un incombente AI-mageddon, è la base di una lettera aperta sul sito web del Future of Life Institute, il gruppo che ha ottenuto la donazione di Musk. Piuttosto che avvertire del disastro esistenziale, la lettera richiede ulteriori ricerche per sfruttare i vantaggi dell'IA evitando potenziali insidie. Questa lettera è firmata non solo da estranei all'IA come Hawking, Musk e Bostrom, ma anche da eminenti scienziati informatici (tra cui Demis Hassabis, un importante ricercatore di intelligenza artificiale). Puoi vedere da dove provengono. Dopotutto, se sviluppano un'intelligenza artificiale che non condivide i migliori valori umani, significa che non erano abbastanza intelligenti da controllare le proprie creazioni.

Paul Ford, uno scrittore freelance a New York, ha scritto di Bitcoin a marzo/aprile 2014.

nascondere