211service.com
Sì, siamo preoccupati per il rischio esistenziale dell'intelligenza artificiale
Oren Etzioni, un noto ricercatore di intelligenza artificiale, si lamenta della copertura giornalistica di potenziali rischi a lungo termine derivanti dal successo futuro nella ricerca sull'intelligenza artificiale (vedi No, gli esperti non pensano che l'IA superintelligente sia una minaccia per l'umanità). Dopo aver puntato il dito contro il filosofo di Oxford Nick Bostrom e il suo recente libro, Superintelligenza , Etzioni lamenta che la principale fonte di dati di Bostrom sull'avvento dell'intelligenza a livello umano consiste in sondaggi sulle opinioni dei ricercatori di IA. Quindi esamina le opinioni dei ricercatori di intelligenza artificiale, sostenendo che i suoi risultati confutano quelli di Bostrom.
È importante capire che Ettizioni non sta nemmeno affrontando il motivo Superintelligenza ha avuto l'impatto che denuncia: la sua chiara spiegazione del perché l'IA superintelligente potrebbe avere conseguenze arbitrariamente negative e perché è importante iniziare ad affrontare il problema con largo anticipo. Bostrom non basa il suo caso sulla previsione che i sistemi di IA sovrumani siano imminenti. Scrive: Non fa parte dell'argomento in questo libro che siamo sulla soglia di una grande svolta nell'intelligenza artificiale, o che possiamo prevedere con precisione quando potrebbe verificarsi un tale sviluppo.
Pertanto, a nostro avviso, l'articolo di Etzioni distrae il lettore dall'argomento centrale del libro e dirige un attacco ad hominem contro Bostrom con il pretesto di contestare i risultati della sua indagine. Riteniamo necessario correggere il record. Uno di noi (Russell) ha persino contribuito al sondaggio di Etzioni, solo per vedere la sua risposta completamente fraintesa. Infatti, come il ns analisi dettagliata mostra, i risultati dell'indagine di Etzioni sono del tutto coerenti con quelli citati da Bostrom.
Come, allora, Etzioni giunge alla sua conclusione romanzata? Progettando uno strumento di rilevamento che è inferiore da Bostrom e poi fraintendimento i risultati.
Il sottotitolo dell'articolo recita: Se chiedi alle persone che dovrebbero davvero saperlo, scoprirai che pochi credono che l'IA sia una minaccia per l'umanità. Quindi il lettore è portato a credere che Etzioni abbia posto questa domanda alle persone che dovrebbero davvero sapere, mentre Bostrom no. In realtà, è vero il contrario: Bostrom fatto chiedi a persone che dovrebbero sapere davvero, ma Ettizioni non lo ha chiesto a nessuno. Bostrom ha intervistato i primi 100 ricercatori di intelligenza artificiale più citati. Più della metà degli intervistati ha affermato di ritenere che esista una possibilità sostanziale (almeno il 15%) che l'effetto dell'intelligenza artificiale a livello umano sull'umanità sarà a conti fatti negativo o estremamente negativo (catastrofe esistenziale). Il sondaggio di Etzioni, a differenza di quello di Bostrom, non ha fatto domande su una minaccia per l'umanità.
Invece, fa semplicemente una domanda su quando raggiungeremo la superintelligenza. Come i dati di Bostrom avrebbero già previsto, poco più della metà (67,5%) degli intervistati di Etzioni ha impiegato più di 25 anni per raggiungere la superintelligenza: dopotutto, più della metà degli intervistati di Bostrom ha fornito date oltre i 25 anni per un mero 50% di probabilità di raggiungere una mera intelligenza a livello umano. Uno di noi (Russell) ha risposto al sondaggio di Etzioni con più di 25 anni, e lo stesso Bostrom scrive, dei propri sondaggi, La mia opinione è che i numeri mediani riportati nel sondaggio degli esperti non hanno una massa di probabilità sufficiente nelle date di arrivo successive.
Ora, dopo aver progettato un sondaggio in cui ci si potrebbe aspettare che gli intervistati scelgano più di 25 anni, Etzioni lancia la sua trappola: afferma che 25 anni sono oltre l'orizzonte prevedibile e quindi deduce che né Russell né Bostrom stesso credono che l'IA superintelligente sia una minaccia all'umanità. Questa sarà una sorpresa per Russell e Bostrom, e presumibilmente per molti altri intervistati nel sondaggio. (In effetti, il titolo di Etzioni avrebbe potuto essere altrettanto facilmente che il 75% degli esperti pensa che l'IA superintelligente sia inevitabile.) Dovremmo ignorare i rischi catastrofici semplicemente perché la maggior parte degli esperti pensa che siano lontani più di 25 anni? Secondo la logica di Etzioni, dovremmo anche ignorare i rischi catastrofici del cambiamento climatico e castigare coloro che li sollevano.
Contrariamente alle opinioni di Etzioni e di alcuni altri nel Comunità di intelligenza artificiale , indicando i rischi a lungo termine dell'IA non equivale ad affermare che l'IA superintelligente e i relativi rischi sono imminenti. L'elenco di coloro che hanno indicato i rischi include luminari come Alan Turing, Norbert Wiener, I.J. Bene, e Marvin Minsky. Anche Oren Ezioni ce l'ha riconosciuto queste sfide . A nostra conoscenza, nessuno di questi ha mai affermato che l'IA superintelligente fosse imminente. Né, come notato sopra, Bostrom entrò Superintelligenza .
Etzioni ripete quindi la dubbia argomentazione secondo cui le previsioni di sventura e oscurità spesso non tengono conto dei potenziali vantaggi dell'IA nella prevenzione degli errori medici, nella riduzione degli incidenti automobilistici e altro ancora. L'argomento non si applica nemmeno a Bostrom, che prevede che il successo nel controllo dell'IA si tradurrà in un uso compassionevole e giubilante della dotazione cosmica dell'umanità. Anche l'argomentazione è una sciocchezza. È come sostenere che gli ingegneri nucleari che analizzano la possibilità di crolli nelle centrali nucleari non considerano i potenziali benefici dell'elettricità a basso costo e che, poiché le centrali nucleari potrebbero un giorno generare elettricità davvero a basso costo, non dovremmo né menzionare né lavorare per prevenire , la possibilità di un tracollo.
La nostra esperienza con Chernobyl suggerisce che potrebbe non essere saggio affermare che una tecnologia potente non comporta rischi. Potrebbe anche non essere saggio affermare che una potente tecnologia non verrà mai realizzata. L'11 settembre 1933, Lord Rutherford, forse il fisico nucleare più eminente del mondo, descrisse la prospettiva di estrarre energia dagli atomi come nient'altro che il chiaro di luna. Meno di 24 ore dopo, Leo Szilard inventò la reazione nucleare a catena indotta dai neutroni; alcuni anni dopo seguirono progetti dettagliati per reattori nucleari e armi nucleari. Sicuramente è meglio anticipare l'ingegno umano che sottovalutarlo, meglio riconoscere i rischi che negarli.
Molti eminenti esperti di IA hanno riconosciuto la possibilità che l'IA presenti un rischio esistenziale. Contrariamente alle false dichiarazioni dei media, questo rischio non deve necessariamente derivare da una coscienza malevola spontanea. Piuttosto, il rischio deriva dall'imprevedibilità e dalla potenziale irreversibilità dell'implementazione di un processo di ottimizzazione più intelligente degli esseri umani che ne hanno specificato gli obiettivi. Questo problema è stato affermato chiaramente da Norbert Wiener nel 1960 e non l'abbiamo ancora risolto. Invitiamo il lettore a sostenere gli sforzi in corso per farlo.
Allan Dafoe è un assistente professore di scienze politiche alla Yale University.
Stuart Russell è professore di informatica all'Università della California, Berkeley.
Risposta di Oren Ettizioni, 2 novembre 2016:
Sono lieto che i professori Dafoe e Russell e mi sembra di essere d'accordo su tre punti critici. Primo, dovremmo astenerci da attacchi ad hominem. Qui, devo scusarmi: non avrei dovuto citare l'anonimo AAAI Fellow che ha paragonato il dottor Bostrom a Donald Trump. Non volevo prestare la mia voce a quel paragone; Mi sono sinceramente scusato con Bostrom per questo passo falso via e-mail, scuse che ha gentilmente accettato. Secondo, come scienziati, dobbiamo valutare le affermazioni sul rischio dell'IA sulla base dei dati. Questo era il punto chiave del mio breve articolo e l'articolo offriva dati univoci su questo argomento. Tre, siamo anche d'accordo sul fatto che i media abbiano travisato le implicazioni del lavoro di Bostrom, un argomento di grande preoccupazione che è stato in una certa misura attenuato dal Rapporto della Casa Bianca sull'IA . Naturalmente, differiamo su molti dei dettagli e sulla complessità delle argomentazioni, ma il tempo lo dirà.