No, gli esperti non pensano che l'IA superintelligente sia una minaccia per l'umanità

Se credi a tutto ciò che leggi, probabilmente sei piuttosto preoccupato per la prospettiva di un'IA superintelligente e killer. Il Custode , quotidiano britannico, messo in guardia recentemente che siamo come bambini che giocano con una bomba e un recente Settimana delle notizie il titolo recita: L'intelligenza artificiale sta arrivando e potrebbe spazzarci via.

Numerosi titoli di questo tipo, alimentati da commenti di artisti del calibro di Elon Musk e Stephen Hawking, sono fortemente influenzati dal lavoro di un uomo: il professor Nick Bostrom, autore del trattato filosofico Superintelligenza: percorsi, pericoli e strategie .

Bostrom è un filosofo di Oxford, ma la valutazione quantitativa dei rischi è competenza della scienza attuariale. Potrebbe essere soprannominato il primo importante filosofo attuariale al mondo, sebbene il termine sembri un ossimoro dato che la filosofia è un'arena per argomenti concettuali e la valutazione del rischio è un esercizio statistico basato sui dati.

Allora cosa dicono i dati? Bostrom aggrega i risultati di quattro diversi sondaggi di gruppi come i partecipanti a una conferenza intitolata Philosophy and Theory of AI, tenutasi nel 2011 a Salonicco, in Grecia, e i membri dell'Associazione greca per l'intelligenza artificiale (non fornisce i tassi di risposta o il fraseggio di domande e non tiene conto della dipendenza dai dati raccolti in Grecia).

Le sue scoperte sono presentate come probabilità che l'IA a livello umano venga raggiunta entro un certo tempo:

Entro il 2022: 10 percento.

Entro il 2040: 50 percento.

Entro il 2075: 90 percento.

Questo aggregato di quattro sondaggi è la principale fonte di dati sull'avvento dell'intelligenza a livello umano in oltre 300 pagine di argomenti filosofici, favole e metafore.

Per avere una valutazione più accurata dell'opinione dei principali ricercatori nel campo, mi sono rivolto ai Fellows dell'American Association for Artificial Intelligence, un gruppo di ricercatori che sono riconosciuti per aver dato contributi significativi e sostenuti al campo.

All'inizio di marzo 2016, l'AAAI ha inviato un sondaggio anonimo per mio conto, ponendo la seguente domanda a 193 borsisti:

Nel suo libro, Nick Bostrom ha definito la Superintelligenza come 'un intelletto molto più intelligente dei migliori cervelli umani praticamente in ogni campo, compresa la creatività scientifica, la saggezza generale e le abilità sociali'. Quando pensi che raggiungeremo la Superintelligenza?

Nella settimana successiva circa, 80 borsisti hanno risposto (un tasso di risposta del 41 percento) e le loro risposte sono riassunte di seguito:

In sostanza, secondo il 92,5 per cento degli intervistati, la superintelligenza è oltre l'orizzonte prevedibile. Questa interpretazione è supportata anche da commenti scritti condivisi dai borsisti.

Anche se il sondaggio era anonimo, 44 ​​borsisti hanno scelto di identificarsi, tra cui Geoff Hinton (luminoso dell'apprendimento profondo), Ed Feigenbaum (Stanford, vincitore del premio Turing), Rodney Brooks (leader della robotica) e Peter Norvig (Google).

Gli intervistati hanno anche condiviso diversi commenti, tra cui i seguenti:

Molto, molto, molto più di 25 anni. Secoli molto probabilmente. Ma non mai.

Siamo in competizione con milioni di anni di evoluzione del cervello umano. Possiamo scrivere programmi a scopo unico in grado di competere con gli esseri umani e talvolta eccellere, ma il mondo non è ben suddiviso in scompartimenti in domande a singolo problema.

Nick Bostrom è uno spaventapasseri professionista. Il ruolo del suo Istituto è quello di trovare minacce esistenziali all'umanità. Li vede ovunque. Sono tentato di chiamarlo il 'Donald Trump' dell'IA.

I sondaggi, ovviamente, hanno un valore scientifico limitato. Sono notoriamente sensibili alla formulazione delle domande, alla selezione degli intervistati, ecc. Tuttavia, è l'unica fonte di dati a cui si è rivolto lo stesso Bostrom.

Un'altra metodologia sarebbe quella di estrapolare dallo stato attuale dell'IA al futuro. Tuttavia, questo è difficile perché non abbiamo una misurazione quantitativa dello stato attuale dell'intelligenza a livello umano. Abbiamo raggiunto la superintelligenza nei giochi da tavolo come gli scacchi e il go (vedi AI Masters di Google andare un decennio prima del previsto), eppure i nostri programmi non sono riusciti a ottenere un punteggio superiore al 60 percento nei test scientifici di terza media, come ha dimostrato la ricerca dell'Allen Institute (vedi The Il miglior programma di intelligenza artificiale continua a bocciare un test di scienze dell'ottavo anno), o superiore al 48 percento nel disambiguare frasi semplici (vedi Test di Turing più duro espone la stupidità dei chatbot).

Ci sono molte preoccupazioni valide sull'IA, dal suo impatto sui posti di lavoro ai suoi usi nei sistemi d'arma autonomi e persino al potenziale rischio di superintelligence. Tuttavia, le previsioni secondo cui la superintelligenza è all'orizzonte prevedibile non sono supportate dai dati disponibili. Inoltre, le previsioni di sventura e oscurità spesso non tengono conto dei potenziali vantaggi dell'IA nella prevenzione degli errori medici, nella riduzione degli incidenti stradali e altro ancora.

Infine, è possibile che i sistemi di intelligenza artificiale possano collaborare con le persone per creare una superintelligenza simbiotica. Sarebbe molto diverso dal tipo pernicioso e autonomo immaginato dal professor Bostrom.

Oren Etzioni è CEO dell'Allen Institute for Artificial Intelligence e Professor of Computer Science presso l'Università di Washington.

Aggiornato il 2 novembre 2016:

Sono lieto che i professori Dafoe & Russell, che hanno risposto al mio articolo qui, e mi sembra di essere d'accordo su tre punti critici. Primo, dovremmo astenerci da attacchi ad hominem. Qui, devo scusarmi: non avrei dovuto citare l'anonimo AAAI Fellow che ha paragonato il dottor Bostrom a Donald Trump. Non volevo prestare la mia voce a quel paragone; Mi sono sinceramente scusato con Bostrom per questo passo falso via e-mail, scuse che ha gentilmente accettato. Secondo, come scienziati, dobbiamo valutare le affermazioni sul rischio dell'IA sulla base dei dati. Questo era il punto chiave del mio breve articolo e l'articolo offriva dati univoci su questo argomento. Tre, siamo anche d'accordo sul fatto che i media abbiano travisato le implicazioni del lavoro di Bostrom, un argomento di grande preoccupazione che è stato in una certa misura attenuato dal Rapporto della Casa Bianca sull'IA . Naturalmente, differiamo su molti dei dettagli e sulla complessità delle argomentazioni, ma il tempo lo dirà.

nascondere