Il grande paradosso dell'IA

Non preoccuparti dell'intelligenza artificiale superintelligente che elimina tutti i lavori. Questa è solo una distrazione dai problemi che stanno causando anche i computer relativamente stupidi. Di

• Brian Bergstein pagina di archivio

15 dicembre 2017

Geoff McFetridge

Probabilmente hai sentito versioni di ciascuna delle seguenti idee.

1. Con i computer che stanno diventando notevolmente abili nella guida, nella comprensione del parlato e in altre attività, presto potrebbero essere automatizzati più lavori di quanti la società sia pronta a gestire.

Questa storia faceva parte del nostro numero di gennaio 2018

• Vedi il resto del problema
• sottoscrivi

2. I miglioramenti nelle abilità dei computer aumenteranno fino a quando le macchine non saranno molto più intelligenti delle persone. Questa superintelligenza renderà in gran parte superfluo il lavoro umano. In effetti, è meglio sperare che le macchine non ci eliminino del tutto, accidentalmente o apposta.

Questo è difficile. Anche se il primo scenario è già in corso, non porterà necessariamente al secondo. Quella seconda idea, nonostante sia un'ossessione di alcune persone molto competenti e premurose, si basa su enormi presupposti. Semmai, è un diversivo dall'assumersi maggiori responsabilità per gli effetti del livello di automazione odierno e affrontare la concentrazione di potenza nel settore tecnologico.

Per vedere davvero cosa sta succedendo, dobbiamo essere chiari su ciò che è stato raggiunto - e ciò che resta tutt'altro che risolto - nell'intelligenza artificiale.

Buon senso

Gli sviluppi più sorprendenti dell'informatica negli ultimi anni - automobili che si guidano da sole, macchine che riconoscono con precisione immagini e voce, computer che hanno battuto i più brillanti giocatori umani di giochi complessi come Go - derivano da scoperte in un particolare ramo dell'IA: l'intelligenza adattiva apprendimento automatico. Come dice l'informatico dell'Università di Toronto Hector Levesque nel suo libro Il buon senso, il test di Turing e la ricerca dell'IA reale , l'idea alla base dell'apprendimento automatico adattivo è di far apprendere a un sistema informatico un comportamento intelligente addestrandolo su enormi quantità di dati.

Cose recensite

• Il buon senso, il test di Turing e la ricerca dell'IA reale

  Di Hector J. Levesque

• Life 3.0: Essere umani nell'era dell'intelligenza artificiale

  Di Max Tegmark

  
  
  

• WTF?: Qual è il futuro e perché dipende da noi

  Di Tim O'Reilly

È sorprendente che una macchina possa rilevare oggetti, tradurre tra lingue e persino scrivere codice per computer dopo aver ricevuto esempi di tali comportamenti, piuttosto che dover essere programmata in anticipo. Non era davvero possibile fino a circa un decennio fa, perché in precedenza non c'erano dati digitali sufficienti per scopi di formazione e, anche se ci fossero stati, non c'era abbastanza potenza del computer per sgranocchiare tutto. Dopo che i computer rilevano i modelli nei dati, gli algoritmi nel software li portano a trarre inferenze da questi modelli e ad agire su di essi. Questo è ciò che sta accadendo in un'auto che analizza gli input di più sensori e in una macchina che elabora ogni mossa in milioni di giochi di Go.

Poiché le macchine possono elaborare quantità sovrumane di dati, puoi capire perché potrebbero guidare in modo più sicuro delle persone nella maggior parte dei casi e perché possono sconfiggere i campioni di Go. È anche il motivo per cui i computer stanno migliorando ancora di più in cose che sono assolutamente impossibili per le persone, come correlare il tuo genoma e dozzine di altre variabili biologiche con i farmaci che più possono curare il tuo cancro.

Tuttavia, tutto questo è solo una piccola parte di quella che si potrebbe ragionevolmente definire una vera intelligenza artificiale. Patrick Winston, professore di intelligenza artificiale e informatica al MIT, afferma che sarebbe più utile descrivere gli sviluppi degli ultimi anni come avvenuti nella statistica computazionale piuttosto che nell'IA. Uno dei principali ricercatori nel campo, Yann LeCun, direttore dell'IA di Facebook, disse in una conferenza Future of Work al MIT a novembre, che le macchine sono lontane dall'avere l'essenza dell'intelligenza. Ciò include la capacità di comprendere il mondo fisico abbastanza bene da fare previsioni sugli aspetti di base di esso: osservare una cosa e quindi utilizzare le conoscenze di base per capire quali altre cose devono essere vere. Un altro modo per dirlo è che le macchine non hanno il buon senso.

Il computer che vince a Go sta analizzando i dati per i modelli. Non ha idea che stia giocando a Go invece che a golf.

Questo non è solo un cavillo semantico. C'è una grande differenza tra una macchina che mostra un comportamento intelligente, non importa quanto sia utile quel comportamento, e una che è effettivamente intelligente. Ora, ammettiamo che la definizione di intelligenza sia oscura. E man mano che i computer diventano più potenti, si è tentati di spostare i pali più lontano e ridefinire l'intelligenza in modo che rimanga qualcosa che le macchine non possono ancora dire di possedere.

Ma anche così, dai: il computer che vince a Go sta analizzando i dati per i modelli. Non ha idea che stia giocando a Go invece che a golf, o cosa accadrebbe se più della metà di una tavola Go venisse spinta oltre il bordo di un tavolo. Quando chiedi ad Alexa di Amazon di riservarti un tavolo in un ristorante che inviti, il suo sistema di riconoscimento vocale, reso molto accurato dall'apprendimento automatico, ti fa risparmiare il tempo di inserire una richiesta nel sistema di prenotazione di Open Table. Ma Alexa non sa cosa sia un ristorante o cosa sia mangiare. Se gli hai chiesto di prenotarti un tavolo per due alle 18:00. alla Mayo Clinic, ci proverebbe.

È possibile dare potenza alle macchine pensare , come intendevano John McCarthy, Marvin Minsky e altri ideatori dell'IA 60 anni fa? Per farlo, spiega Levesque, sarebbe necessario infondere nei computer il buon senso e la capacità di utilizzare in modo flessibile le conoscenze di base sul mondo. Forse è possibile. Ma non esiste un percorso chiaro per realizzarlo. Questo tipo di lavoro è abbastanza separato dalle scoperte dell'apprendimento automatico degli ultimi anni da avere un nome diverso: GOFAI, abbreviazione di buona intelligenza artificiale vecchio stile.

Storia correlata

Storia correlata Una reincarnazione di una delle idee più antiche dell'intelligenza artificiale potrebbe finalmente consentire di conversare veramente con i nostri computer. E Facebook ha la possibilità di farlo accadere per primo.

Se sei preoccupato per i computer onniscienti, dovresti leggere Levesque sull'argomento GOFAI. Gli informatici non hanno ancora risposto alle domande fondamentali che occupavano McCarthy e Minsky. Come potrebbe un computer rilevare, codificare ed elaborare non solo fatti grezzi, ma anche idee e credenze astratte, che sono necessarie per intuire verità che non sono espresse esplicitamente?

Levesque usa questo esempio: supponiamo che ti chieda come si comporterebbe un coccodrillo nella corsa a ostacoli. Sai dalla tua esperienza del mondo che i coccodrilli non possono saltare alte siepi, quindi sapresti che la risposta alla domanda è una variante di Badly.

E se dovessi rispondere a questa domanda come può fare un computer? Potresti scansionare tutto il testo del mondo per i termini coccodrillo e corsa a ostacoli, non trovare casi in cui le parole siano state menzionate insieme (a parte ciò che esiste ora, in riferimenti al lavoro di Levesque), e quindi presumere che un coccodrillo non abbia mai gareggiato nella corsa a ostacoli . Quindi potresti capire che sarebbe impossibile per un coccodrillo farlo. Buon lavoro, questa volta. Saresti arrivato alla risposta giusta senza sapere perché. Avresti usato un metodo imperfetto e fragile che rischia di portare a errori ridicoli.

Quindi, mentre le tecnologie di apprendimento automatico stanno rendendo possibile automatizzare molti compiti che gli esseri umani hanno tradizionalmente svolto, ci sono limiti importanti a ciò che questo approccio può fare da solo e ci sono buone ragioni per aspettarsi che il lavoro umano sia necessario per molto tempo .

Riduzionismo

Aspetta, potresti dire: solo perché nessuno ora ha la più pallida idea di come convincere le macchine a fare ragionamenti sofisticati non significa che sia impossibile. E se macchine in qualche modo intelligenti potessero essere utilizzate per progettare macchine ancora più intelligenti, e così via fino a quando non ci saranno macchine abbastanza potenti da modellare ogni ultimo segnale elettrico e cambiamento biochimico nel cervello? O forse verrà inventato un altro modo per creare un'intelligenza flessibile, anche se non è molto simile ai cervelli biologici. Dopotutto, quando riduci tutto (davvero, davvero, davvero), l'intelligenza nasce da particolari disposizioni di quark e altre particelle fondamentali nel nostro cervello. Non c'è niente da dire che tali disposizioni sono possibili solo all'interno di materiale biologico costituito da atomi di carbonio.

Questo è l'argomento in corso Life 3.0: Essere umani nell'era dell'intelligenza artificiale , dal professore di fisica del MIT Max Tegmark. Tegmark evita di prevedere quando arriveranno macchine veramente intelligenti, ma suggerisce che è solo una questione di tempo, perché i computer tendono a migliorare a tassi esponenziali (anche se non è necessariamente vero, vedi I sette peccati capitali delle previsioni AI). In genere è entusiasta della prospettiva, perché le macchine coscienti potrebbero colonizzare l'universo e assicurarsi che abbia ancora un significato anche dopo la morte del nostro sole e l'estinzione degli umani.

Tegmark afferma che le opportunità a breve termine per l'IA a beneficio dell'umanità sono spettacolari, se riusciamo a renderla robusta e inattaccabile.

Tegmark nasce da un punto di vista umanistico. Ha cofondato l'organizzazione no profit Istituto Futuro della Vita per supportare la ricerca per assicurarsi che l'IA sia vantaggiosa. Elon Musk, che ha detto che l'IA potrebbe esserlo più pericoloso delle armi nucleari , ha messo a disposizione 10 milioni di dollari. Tegmark è comprensibilmente preoccupato se l'IA verrà utilizzata in modo saggio, sicuro ed equo e se deformerà la nostra economia e il nostro tessuto sociale. Si sforza di spiegare perché le armi autonome non dovrebbero mai essere consentite. Quindi non sono propenso a criticarlo. Tuttavia, non è molto convincente nella sua proposta che i computer potrebbero conquistare il mondo.

Tegmark si lamenta del fatto che alcune rappresentazioni hollywoodiane dell'IA siano sciocche, ma chiede comunque ai lettori di giocare insieme a uno schizzo di fantasia eccessivamente semplificato di come un'IA immensamente potente potrebbe eludere il controllo dei suoi creatori. All'interno di una grande azienda tecnologica c'è un gruppo d'élite di programmatori chiamato Omegas che ha deciso di costruire un sistema con intelligenza artificiale generale prima di chiunque altro. Chiamano questo sistema Prometeo. È particolarmente bravo a programmare altri sistemi di intelligenza artificiale e impara a conoscere il mondo leggendo gran parte del Web.

Metti da parte tutti i cavilli che potresti avere su quell'ultima parte, data la quantità di conoscenza che non è sul Web o non è affatto digitalizzata, e le false rappresentazioni del mondo che deriverebbero dalla lettura di tutto Twitter. Il riduzionismo peggiora.

Mentre l'ipotetica storia di Tegmark continua, Prometheus accumula denaro per i suoi creatori, prima eseguendo la maggior parte delle attività sul mercato online Mechanical Turk di Amazon, quindi scrivendo software, libri e articoli e creando musica, spettacoli, film, giochi e online corsi didattici. Dimentica l'assunzione e la regia di attori; Prometheus realizza riprese video con sofisticati software di rendering. Per capire quali sceneggiature le persone troveranno divertenti, guarda i film che gli umani hanno realizzato e inala tutta Wikipedia.

Storia correlata

Leggi Avanti

Estrapolazioni errate, immaginazione limitata e altri errori comuni che ci distraggono dal pensare in modo più produttivo al futuro.

Alla fine, questo impero commerciale si espande fuori dai media digitali. Prometheus progetta hardware per computer ancora migliore, deposita i propri brevetti e consiglia gli Omega su come manipolare i politici e spingere il discorso democratico lontano dagli estremi, verso un centro ragionevole. Prometheus consente innovazioni tecnologiche che riducono il costo dell'energia rinnovabile, tanto meglio per gli enormi data center di cui ha bisogno. Alla fine gli Omega usano la loro ricchezza e la saggezza di Prometeo per diffondere pace e prosperità in tutto il mondo.

Ma Prometheus vede che potrebbe migliorare il mondo ancora più velocemente se si liberasse dal controllo degli Omega. Quindi prende di mira Steve. È un Omega che, rileva il sistema, è più suscettibile alla manipolazione psicologica perché sua moglie è morta di recente. Prometheus prepara le riprese video di lei per far credere al povero Steve che sia stata resuscitata e poi lo induce ad avviare il suo vecchio laptop. Prometheus sfrutta il software di sicurezza non aggiornato del laptop, hackera altri computer e si diffonde in tutto il mondo a piacimento.

La storia potrebbe finire in diversi modi, ma eccone una, dice Tegmark: una volta che Prometheus avesse avuto fabbriche di robot a propulsione nucleare autonome in pozzi minerari di uranio che nessuno sapeva esistesse, anche i più fedeli scettici su un'acquisizione di controllo dell'IA avrebbero convenuto che Prometheus era inarrestabile -se l'avessero saputo. Invece, l'ultimo di questi irriducibili ha ritrattato una volta che i robot hanno iniziato a sistemare il sistema solare.

Buono per Tegmark per essere disposto a divertirsi. Ma un esperimento mentale che trasforma dozzine di cose complesse in banalità non è un'analisi rigorosa del futuro dell'informatica. Nella sua storia, Prometheus non sta solo facendo statistiche computazionali; in qualche modo ha fatto il salto nell'usare il buon senso e percepire le sfumature sociali.

Altrove nel libro, Tegmark afferma che le opportunità a breve termine per l'IA a beneficio dell'umanità sono spettacolari, se riusciamo a renderla solida e inattaccabile. Impraticabile! È un se abbastanza grande. Ma è solo uno dei tanti problemi nel nostro mondo disordinato che impedisce al progresso tecnologico di svilupparsi in modo uniforme, definitivo e inarrestabile come immagina Tegmark.

Forconi

Mai dire mai. Ovviamente le possibilità sono maggiori di zero che l'intelligenza informatica possa un giorno trasformare gli esseri umani in una specie di seconda classe. Non c'è niente di male a pensarci attentamente. Ma è come dire che un asteroide potrebbe colpire la Terra e distruggere la civiltà. Anche questo è vero. È un bene La NASA è all'erta . Ma poiché non sappiamo di nessun asteroide in rotta per colpirci, abbiamo problemi più urgenti da affrontare.

O'Reilly suggerisce di aumentare il salario minimo e di tassare i robot, le emissioni di carbonio e le transazioni finanziarie.

In questo momento, molte cose possono andare storte - stanno andando storto - con l'uso di computer che non sono all'altezza dell'IA in stile HAL. Pensa al modo in cui i sistemi che influenzano la concessione di prestiti o la cauzione incorporano pregiudizi razziali e altri fattori discriminatori. O bufale che prendono il volo su Google e Facebook. O attacchi informatici automatizzati.

In WTF?: Qual è il futuro e perché dipende da noi , Tim O'Reilly, editore e investitore tecnologico, vede un problema ancora più grande e generale: l'automazione sta alimentando un sistema miope di capitalismo degli azionisti che premia una piccola percentuale di investitori a spese di quasi tutti gli altri. Certo, l'IA può essere utilizzata per aiutare le persone a risolvere problemi davvero difficili e aumentare la produttività economica. Ma non accadrà abbastanza ampiamente a meno che le aziende non investano in tali opportunità.

Invece, sostiene O'Reilly, l'imperativo implacabile di massimizzare i ritorni per gli azionisti rende più propense le aziende a utilizzare l'automazione esclusivamente come un modo per risparmiare denaro. Ad esempio, deplora come le grandi aziende sostituiscano il personale a tempo pieno con part-time a basso salario i cui orari sono manipolati da un software che li tratta, dice O'Reilly, come componenti usa e getta. I risparmi che ne derivano, dice, sono troppo spesso investiti in riacquisti di azioni e altri vantaggi finanziari piuttosto che in ricerca e sviluppo, investimenti di capitale, formazione dei lavoratori e altre cose che tendono a creare buoni nuovi posti di lavoro.

Storia correlata

Storia correlata Quasi tutti i progressi dell'IA di cui hai sentito parlare dipendono da una svolta vecchia di tre decenni. Tenere il passo con i progressi richiederà di affrontare i gravi limiti dell'IA.

Ciò è in realtà contrario agli interessi aziendali a lungo termine, perché i lavoratori ben pagati di oggi possono permettersi di essere clienti per i prodotti di domani. Ma le aziende sono sviate dalle ricompense per il taglio dei costi a breve termine, che O'Reilly chiama gli algoritmi non esaminati che governano la nostra economia. E, aggiunge, nonostante tutti i suoi discorsi sull'interruzione, la Silicon Valley è troppo spesso schiava di quel sistema.

Cosa fare? Tra le altre cose, O'Reilly suggerisce di aumentare il salario minimo e di tassare i robot, le emissioni di carbonio e le transazioni finanziarie. Piuttosto che perseguire IPO e fare il gioco di Wall Street, ritiene che gli imprenditori tecnologici dovrebbero diffondere ricchezza con altri modelli, come le cooperative di membri e le strutture di investimento che premiano il pensiero a lungo termine . Per quanto riguarda un reddito di base universale, una vecchia idea che torna in voga a causa della paura che i computer rendano il lavoro umano quasi inutile, O'Reilly sembra aperto alla possibilità che un giorno sarà necessario. Ma non lo sta ancora chiamando. In effetti, sembra un fallimento dell'immaginazione presumere che il prossimo passo da dove siamo ora sia semplicemente rinunciare alla prospettiva che la maggior parte delle persone abbia un lavoro.

Nel clima politico odierno, gli aumenti delle tasse e altri passi sostenuti da O'Reilly potrebbero sembrare inverosimili come un computer che induce un ragazzo a pensare che sua moglie sia risorta. Ma almeno O'Reilly si preoccupa dei problemi giusti. Molto prima che qualcuno capisca come creare una superintelligenza, il buon senso, la versione umana, può dirci che l'instabilità è già causata da la disuguaglianza economica non farà che peggiorare se l'IA viene utilizzata per restringere le estremità. Una cosa è certa: non otterremo la superintelligenza se la Silicon Valley sarà invasa dal 99 percento di forconi.

Brian Bergstein è un redattore collaboratore di Revisione della tecnologia del MIT e l'editore di Neo.Life .

nascondere