211service.com
Come sapere se l'intelligenza artificiale sta per distruggere la civiltà
illustrazione meccanica dei canarini La signora Tech
Potremmo svegliarci una mattina sbalorditi dall'emergere di un'IA super potente, con conseguenze disastrose? Libri come Superintelligenza di Nick Bostrom e Vita 3.0 di Max Tegmark, così come articoli più recenti , sostengono che la superintelligenza malevola è un rischio esistenziale per l'umanità.
Ma si può speculare all'infinito. È meglio porre una domanda più concreta ed empirica: cosa ci avviserebbe che la superintelligenza è davvero dietro l'angolo?
Potremmo chiamare tali precursori canarini nelle miniere di carbone dell'IA. Se un programma di intelligenza artificiale sviluppa una nuova capacità fondamentale, è l'equivalente del collasso di un canarino: un avvertimento precoce delle scoperte dell'IA all'orizzonte.
Il famoso test di Turing potrebbe fungere da canarino? Il test, inventato da Alan Turing nel 1950, presuppone che l'IA a livello umano sarà raggiunta quando una persona non riesce a distinguere la conversazione con un essere umano dalla conversazione con un computer. È un test importante, ma non è un canarino; è, piuttosto, il segno che l'IA a livello umano è già arrivata. Molti scienziati informatici credono che se quel momento arriverà, la superintelligenza seguirà rapidamente. Abbiamo bisogno di più tappe intermedie.
Le prestazioni dell'IA in giochi come andare , poker o terremoto 3 , un canarino? Non è. La maggior parte della cosiddetta intelligenza artificiale in questi giochi lo è in realtà umano lavorare per inquadrare il problema e progettare la soluzione. La vittoria di AlphaGo sui campioni umani di Go è stata un merito per il talentuoso team umano di DeepMind, non per la macchina, che si limitava a eseguire l'algoritmo che le persone avevano creato. Questo spiega perché ci vogliono anni di duro lavoro per tradurre il successo dell'IA da una sfida ristretta all'altra. Anche AlphaZero, che ha imparato a giocare a Go di livello mondiale in poche ore, non ha sostanzialmente ampliato il suo campo di applicazione dal 2017. Metodi come il deep learning sono generali, ma la loro applicazione di successo a un compito particolare richiede un ampio intervento umano.
Più in generale, l'apprendimento automatico è al centro dei successi dell'IA negli ultimi dieci anni circa. Eppure il termine machine learning è un termine improprio. Le macchine possiedono solo una fetta ristretta delle capacità di apprendimento ricche e versatili degli umani. Dire che le macchine imparano è come dire che i piccoli pinguini sanno pescare. La realtà è che i pinguini adulti nuotano, catturano pesce , digeriscilo, rigurgita nei loro becchi e metti dei bocconcini nella bocca dei loro figli. Allo stesso modo, l'IA viene alimentata da scienziati e ingegneri umani.
Contrariamente all'apprendimento automatico, l'apprendimento umano mappa una motivazione personale (voglio guidare per essere indipendente dai miei genitori) a un piano di apprendimento strategico (prendere l'educazione del conducente ed esercitarsi nei fine settimana). Un essere umano formula obiettivi di apprendimento specifici (Migliora al parcheggio parallelo), raccoglie ed etichetta i dati (l'angolazione era sbagliata questa volta) e incorpora feedback esterni e conoscenze di base (l'istruttore ha spiegato come utilizzare gli specchietti laterali). Gli esseri umani identificano, inquadrano e modellano i problemi di apprendimento. Nessuna di queste abilità umane è replicata anche a distanza dalle macchine. Le macchine possono eseguire calcoli statistici sovrumani, ma questo è solo l'ultimo miglio di apprendimento.
Le macchine possono eseguire calcoli statistici sovrumani, ma questo è solo l'ultimo miglio di apprendimento.
La formulazione automatica dei problemi di apprendimento, quindi, è il nostro primo canarino. Non sembra essere da nessuna parte vicino alla morte.
Le auto a guida autonoma sono un secondo canarino. Sono più avanti nel futuro di quanto previsto da booster come Elon Musk . L'IA può fallire in modo catastrofico in situazioni atipiche, come quando una persona su una sedia a rotelle attraversa la strada. La guida è molto più impegnativa delle precedenti attività di intelligenza artificiale perché richiede di prendere decisioni in tempo reale fondamentali per la vita basate sia sull'imprevedibile mondo fisico che sull'interazione con conducenti umani, pedoni e altri. Ovviamente, dovremmo schierare auto a guida autonoma limitate una volta che riducono i tassi di incidenti, ma solo quando si raggiunge una guida a livello umano si può dire che questo canarino si è accasciato.
I medici dell'IA sono un terzo canarino. L'IA può già analizzare le immagini mediche con una precisione sovrumana, ma questa è solo una fetta ristretta del lavoro di un medico umano. Un medico di intelligenza artificiale dovrebbe intervistare i pazienti, considerare complicazioni, consultare altri medici e altro ancora. Questi sono compiti impegnativi che richiedono la comprensione delle persone, della lingua e della medicina. Un medico del genere non dovrebbe ingannare un paziente facendogli pensare che sia umano, ecco perché questo è diverso dal test di Turing. Ma dovrebbe approssimare le capacità dei medici umani in un'ampia gamma di compiti e circostanze impreviste.
E sebbene il test di Turing stesso non sia un buon canarino, versioni limitate del test potrebbero fungere da canarini. Le IA esistenti non sono in grado di capire le persone e le loro motivazioni, o nemmeno domande fisiche di base come Un jumbo jet passerà attraverso una finestra? Possiamo amministrare un test di Turing parziale conversando con un'intelligenza artificiale come Alexa o Google Home per alcuni minuti, il che espone rapidamente la loro comprensione limitata della lingua e del mondo. Si consideri un esempio molto semplice basato sugli schemi di Winograd proposti dall'informatico Hector Levesque. Ho detto ad Alexa: il mio trofeo non entra nel mio bagaglio perché è troppo grande. Cosa dovrei fare? La risposta di Alexa è stata Non la conosco. Dal momento che Alexa non può ragionare sulle dimensioni degli oggetti, non può decidere se si riferisce al trofeo o al bagaglio a mano. Quando l'IA non riesce a capirne il significato, è difficile credere che sia pronta a conquistare il mondo. Se Alexa fosse in grado di avere un dialogo sostanziale su un argomento ricco, sarebbe un quarto canarino.
Le attuali IA sono idioti esperti: hanno successo in compiti ristretti, come giocare a Go o classificare le immagini della risonanza magnetica, ma mancano della generalità e della versatilità degli esseri umani. Ogni idiota savant è costruito manualmente e separatamente e siamo lontani decenni dalle capacità versatili di un bambino di cinque anni. I canarini che propongo, invece, indicano punti di flesso per il campo dell'IA.
Oren Etzioni Foto di cortesia
Alcuni teorici, come Bostrom, sostengono che dobbiamo comunque pianificare eventi con probabilità molto bassa ma con conseguenze elevate come se fossero inevitabili. Le conseguenze, dicono, sono così profonde che le nostre stime sulla loro probabilità non sono importanti. Questo è un argomento sciocco: può essere usato per giustificare qualsiasi cosa. È una versione moderna dell'argomento del filosofo del XVII secolo Blaise Pascal secondo cui vale la pena agire come se esistesse un Dio cristiano perché altrimenti si corre il rischio di un inferno eterno. Ha usato il costo infinito di un errore per sostenere che una particolare linea di condotta è razionale anche se si basa su una premessa altamente improbabile. Ma argomentazioni basate su costi infiniti possono supportare convinzioni contraddittorie. Ad esempio, si consideri un Dio anticristiano che promette l'inferno eterno per ogni atto cristiano. Anche questo è altamente improbabile; da un punto di vista logico, però, è una scommessa altrettanto ragionevole quanto credere nel dio della Bibbia. Questa contraddizione mostra un difetto nelle argomentazioni basate sui costi infiniti.
Il mio catalogo di segnali di preallarme, o canarini, è illustrativo piuttosto che completo, ma mostra quanto siamo lontani dall'IA a livello umano. Se e quando un canarino collassa, avremo tutto il tempo prima dell'emergere dell'IA a livello umano per progettare robusti interruttori di spegnimento e identificare linee rosse che non vogliamo che l'IA attraversi. L'escatologia dell'IA senza canarini empirici è una distrazione dall'affrontare questioni esistenti come come regolare l'impatto dell'IA sull'occupazione o garantire che il suo uso nelle condanne penali o nel punteggio di credito non discrimini determinati gruppi.
Come ha affermato Andrew Ng, uno dei più importanti esperti di intelligenza artificiale al mondo, preoccuparsi che l'IA diventi malvagia è un po' come preoccuparsi della sovrappopolazione su Marte. Fino a quando i canarini non iniziano a morire, ha del tutto ragione.
Oren Etzioni è l'amministratore delegato dell'Allen Institute for AI senza scopo di lucro e professore di informatica all'Università di Washington.