I sette peccati capitali delle previsioni dell'IA

Joost Swarte

Siamo circondati dall'isteria sul futuro dell'intelligenza artificiale e della robotica: isteria su quanto potenti diventeranno, quanto velocemente e cosa faranno al lavoro.

Di recente ho visto una storia in MarketWatch detto ciò i robot occuperanno la metà dei lavori odierni tra 10 e 20 anni . Aveva anche un grafico per dimostrare i numeri.

Questa storia faceva parte del nostro numero di novembre 2017

• Vedi il resto del problema
• sottoscrivi

Le affermazioni sono ridicole. (Cerco di mantenere un linguaggio professionale, ma a volte...) Ad esempio, la storia sembra dire che passeremo da un milione di addetti ai terreni e alla manutenzione negli Stati Uniti a solo 50.000 in 10 o 20 anni, perché i robot si occuperanno di quei lavori . Quanti robot sono attualmente operativi in ​​questi lavori? Zero . Quante dimostrazioni realistiche ci sono state di robot che lavorano in quest'arena? Zero . Storie simili si applicano a tutte le altre categorie in cui si suggerisce che vedremo la fine di oltre il 90 percento dei lavori che attualmente richiedono la presenza fisica in un determinato sito.

Previsioni errate portano a timori di cose che non accadranno, che si tratti della distruzione su larga scala di posti di lavoro, della Singolarità o dell'avvento dell'IA che ha valori diversi dai nostri e potrebbe tentare di distruggerci. Dobbiamo respingere questi errori. Ma perché le persone li producono? Vedo sette ragioni comuni.

Joost Swarte

1. Sopravvalutazione e sottovalutazione

Roy Amara è stato cofondatore dell'Institute for the Future, a Palo Alto, il cuore intellettuale della Silicon Valley. È meglio conosciuto per il suo adagio ora chiamato Legge di Amara:

Tendiamo a sopravvalutare l'effetto di una tecnologia nel breve periodo e a sottovalutare l'effetto a lungo termine.

C'è molto racchiuso in queste 21 parole. Un ottimista può leggerlo in un modo e un pessimista può leggerlo in un altro.

Un ottimo esempio dei due aspetti della legge di Amara è il sistema di posizionamento globale degli Stati Uniti. A partire dal 1978 fu posta in orbita una costellazione di 24 satelliti (ora 31 compresi i ricambi). L'obiettivo del GPS era consentire la consegna precisa di munizioni da parte delle forze armate statunitensi. Ma il programma è stato quasi cancellato più e più volte negli anni '80. Il primo utilizzo operativo per lo scopo previsto è stato nel 1991 durante Desert Storm; ci sono voluti molti altri successi perché i militari accettassero la sua utilità.

Predizioni errate portano a paure di cose che non accadranno.

Oggi il GPS è quello che Amara chiamerebbe a lungo termine e il modo in cui viene utilizzato all'inizio era inimmaginabile. Il mio Apple Watch Series 2 utilizza il GPS mentre corro, registrando la mia posizione con una precisione sufficiente per vedere da quale lato della strada corro. Le piccole dimensioni e il prezzo del ricevitore sarebbero stati incomprensibili per i primi ingegneri GPS. La tecnologia sincronizza gli esperimenti di fisica in tutto il mondo e svolge un ruolo fondamentale nella sincronizzazione della rete elettrica statunitense e nel mantenerla in funzione. Consente anche ai trader ad alta frequenza che controllano davvero il mercato azionario di evitare errori di tempistica disastrosi. Viene utilizzato da tutti i nostri aeroplani, grandi e piccoli, per navigare, e viene utilizzato per rintracciare le persone in libertà vigilata. Determina quale variante di seme verrà piantata in quale parte di molti campi in tutto il mondo. Tiene traccia di flotte di camion e fornisce rapporti sulle prestazioni dei conducenti.

Il GPS è iniziato con un obiettivo, ma è stato difficile farlo funzionare come inizialmente previsto. Ora è penetrato in così tanti aspetti della nostra vita che non saremmo semplicemente persi se se ne andasse; saremmo infreddoliti, affamati e molto probabilmente morti.

Vediamo un modello simile con altre tecnologie negli ultimi 30 anni. Una grande promessa in anticipo, delusione, e poi lentamente crescente fiducia in risultati che superano le aspettative iniziali. Questo è vero per il calcolo, il sequenziamento del genoma, l'energia solare, l'energia eolica e persino la consegna a domicilio di generi alimentari.

L'IA è stata sopravvalutata più e più volte, negli anni '60, '80, e credo di nuovo ora, ma anche le sue prospettive a lungo termine sono probabilmente sottovalutate. La domanda è: Quanto è lungo il lungo termine ? I prossimi sei errori aiutano a spiegare perché la scala temporale viene grossolanamente sottovalutata per il futuro dell'IA.

Joost Swarte

2. Immaginare la magia

Quando ero un adolescente, Arthur C. Clarke era uno dei tre grandi scrittori di fantascienza, insieme a Robert Heinlein e Isaac Asimov. Ma Clarke era anche un inventore, uno scrittore di scienze e un futurista. Tra il 1962 e il 1973 ha formulato tre adagi che sono diventati noti come le tre leggi di Clarke:

Quando uno scienziato illustre ma anziano afferma che qualcosa è possibile, quasi certamente ha ragione. Quando afferma che qualcosa è impossibile, molto probabilmente si sbaglia.

L'unico modo per scoprire i limiti del possibile è avventurarsi un po' oltre, nell'impossibile.

Qualsiasi tecnologia sufficientemente avanzata è indistinguibile dalla magia.

Personalmente, dovrei probabilmente diffidare della seconda frase della sua prima legge, poiché sono molto più conservatore di altri su quanto velocemente l'IA salirà. Ma per ora voglio esporre la Terza Legge di Clarke.

Immagina di avere una macchina del tempo e di poter trasportare Isaac Newton dalla fine del 17° secolo ad oggi, collocandolo in un luogo che gli sarebbe familiare: la Trinity College Chapel dell'Università di Cambridge.

Ora mostra a Newton una mela. Tira fuori un iPhone dalla tasca e accendilo in modo che lo schermo sia luminoso e pieno di icone e consegnaglielo. Newton, che ha rivelato come la luce bianca sia composta da componenti di luce di colore diverso separando la luce solare con un prisma e poi rimettendola insieme, sarebbe senza dubbio sorpreso di un oggetto così piccolo che produce colori così vividi nell'oscurità della cappella . Ora riproduci un film su una scena country inglese e poi un po' di musica da chiesa che avrebbe sentito. E poi mostragli una pagina Web con le sue oltre 500 pagine copia annotata personalmente del suo capolavoro I principi , insegnandogli come usare il gesto di pizzicare per ingrandire i dettagli.

Fai attenzione alle discussioni sulla tecnologia futura che è magica.

Potrebbe Newton iniziare a spiegare come questo piccolo dispositivo ha fatto tutto questo? Sebbene abbia inventato il calcolo e spiegato sia l'ottica che la gravità, non è mai stato in grado di distinguere la chimica dall'alchimia. Quindi penso che sarebbe sconcertato e incapace di trovare anche il più semplice schema coerente di cosa fosse questo dispositivo. Non sarebbe stato diverso per lui da un'incarnazione dell'occulto, qualcosa che gli interessava molto. Sarebbe indistinguibile dalla magia. E ricorda, Newton era un tipo davvero intelligente.

Se qualcosa è magico, è difficile conoscerne i limiti. Supponiamo di mostrare ulteriormente a Newton come il dispositivo può illuminare l'oscurità, come può scattare foto e filmati e registrare suoni, come può essere usato come lente d'ingrandimento e come specchio. Quindi gli mostriamo come può essere utilizzato per eseguire calcoli aritmetici a velocità incredibile e con molte cifre decimali. Lo mostriamo contando i passi che ha fatto mentre lo porta e gli mostriamo che può usarlo per parlare con persone in qualsiasi parte del mondo, immediatamente, da lì nella cappella.

Cos'altro potrebbe congetturare Newton che il dispositivo potrebbe fare? I prismi funzionano per sempre. Potrebbe ipotizzare che l'iPhone funzionerebbe per sempre così com'è, trascurando di capire che ha bisogno di essere ricaricato? Ricordiamo che lo abbiamo catturato da un tempo 100 anni prima della nascita di Michael Faraday, quindi mancava di una comprensione scientifica dell'elettricità. Se l'iPhone può essere una fonte di luce senza fuoco, potrebbe forse trasmutare anche il piombo in oro?

Questo è un problema che tutti abbiamo con la tecnologia immaginata del futuro. Se è abbastanza lontano dalla tecnologia che abbiamo e comprendiamo oggi, allora non ne conosciamo i limiti. E se diventa indistinguibile dalla magia, tutto ciò che se ne dice non è più falsificabile.

Questo è un problema che incontro regolarmente quando cerco di discutere con le persone se dovremmo temere l'intelligenza artificiale generale o l'AGI, l'idea che costruiremo agenti autonomi che operano in modo molto simile agli esseri nel mondo. Mi è stato detto che non capisco quanto sarà potente l'AGI. Non è un argomento. Non abbiamo idea se possa esistere. Mi piacerebbe che esistesse: questa è sempre stata la mia motivazione per lavorare nella robotica e nell'intelligenza artificiale. Ma la ricerca AGI moderna non sta andando affatto bene né per essere generale né per supportare un'entità indipendente con un'esistenza in corso. Sembra per lo più bloccato sugli stessi problemi di ragionamento e buon senso con cui l'IA ha avuto problemi per almeno 50 anni. Tutte le prove che vedo dicono che non abbiamo ancora una vera idea di come costruirne uno. Le sue proprietà sono completamente sconosciute, quindi retoricamente diventa rapidamente magico, potente senza limiti.

Niente nell'universo è illimitato.

Fai attenzione alle discussioni sulla tecnologia futura che è magica. Una tale argomentazione non può mai essere confutata. È un argomento basato sulla fede, non un argomento scientifico.

Joost Swarte

3. Performance contro competenza

Usiamo tutti indicazioni su come le persone svolgono un compito particolare per stimare quanto bene potrebbero svolgere un compito diverso. In una città straniera chiediamo indicazioni a uno sconosciuto per strada, e lei risponde con sicurezza e con indicazioni che sembrano sensate, quindi pensiamo di poterle chiedere anche del sistema locale per pagare quando si vuole prendere un autobus.

Supponiamo ora che una persona ci dica che una particolare foto mostra persone che giocano a frisbee nel parco. Assumiamo naturalmente che questa persona possa rispondere a domande come Qual è la forma di un frisbee? Quanto lontano può una persona lanciare un frisbee? Una persona può mangiare un frisbee? All'incirca quante persone giocano a frisbee in una volta? Una persona di tre mesi può giocare a frisbee? Il tempo di oggi è adatto per giocare a Frisbee?

I computer che possono etichettare le immagini come le persone che giocano a frisbee in un parco non hanno alcuna possibilità di rispondere a queste domande. Oltre al fatto che possono solo etichettare più immagini e non possono rispondere affatto alle domande, non hanno idea di cosa sia una persona, che i parchi sono solitamente all'aperto, che le persone hanno l'età, che il tempo è qualcosa di più di come fa sembrare una foto, eccetera.

Ciò non significa che questi sistemi siano inutili; sono di grande valore per i motori di ricerca. Ma ecco cosa va storto. La gente sente che qualche robot o qualche sistema di intelligenza artificiale ha eseguito qualche compito. Quindi generalizzano da quella prestazione a una competenza che ci si potrebbe aspettare che una persona che esegue lo stesso compito abbia. E applicano quella generalizzazione al robot o al sistema di intelligenza artificiale.

I robot e i sistemi di intelligenza artificiale di oggi sono incredibilmente limitati in ciò che possono fare. Le generalizzazioni in stile umano non si applicano.

Joost Swarte

4. Parole in valigia

Marvin Minsky ha chiamato parole che portano una varietà di significati parole valigia. L'apprendimento è una potente parola valigia; può riferirsi a tanti diversi tipi di esperienza. Imparare a usare le bacchette è un'esperienza molto diversa dall'imparare la melodia di una nuova canzone. E imparare a scrivere codice è un'esperienza molto diversa dall'imparare a orientarsi in una città.

Quando le persone sentono che l'apprendimento automatico sta facendo grandi passi avanti in un nuovo dominio, tendono a utilizzare come modello mentale il modo in cui una persona imparerebbe quel nuovo dominio. Tuttavia, l'apprendimento automatico è molto fragile e richiede molta preparazione da parte di ricercatori o ingegneri umani, codifica per scopi speciali, set di dati di addestramento per scopi speciali e una struttura di apprendimento personalizzata per ogni nuovo dominio del problema. L'apprendimento automatico di oggi non è affatto l'apprendimento spugnoso in cui gli esseri umani si impegnano, facendo rapidi progressi in un nuovo dominio senza dover essere alterati chirurgicamente o costruiti appositamente.

Allo stesso modo, quando le persone sentono che un computer può battere il campione del mondo di scacchi (nel 1997) o uno dei migliori giocatori di Go del mondo (nel 2016), tendono a pensare che stia giocando proprio come farebbe un essere umano. Naturalmente, in realtà quei programmi non avevano idea di cosa fosse effettivamente un gioco, e nemmeno che stessero giocando. Erano anche molto meno adattabili. Quando gli esseri umani giocano, un piccolo cambiamento nelle regole non li elimina. Non così per AlphaGo o Deep Blue.

Le parole della valigia fuorviano le persone sul modo in cui le macchine stanno facendo bene i compiti che le persone possono svolgere. Ciò è in parte dovuto al fatto che i ricercatori di intelligenza artificiale e, peggio ancora, i loro uffici stampa istituzionali, sono ansiosi di rivendicare progressi in un caso di concetto di valigia. La frase importante qui è un esempio. Quel dettaglio si perde presto. I titoli strombazzano la parola valigia e deformano la comprensione generale di dove sia l'IA e quanto sia vicina a ottenere di più.

Joost Swarte

5. Esponenziali

Molte persone soffrono di un grave caso di esponenzialismo.

Tutti hanno un'idea della legge di Moore, che suggerisce che i computer migliorano sempre di più con un programma simile a un orologio. Ciò che Gordon Moore ha effettivamente detto è che il numero di componenti che potrebbero stare su un microchip sarebbe raddoppiato ogni anno. Ciò è rimasto vero per 50 anni, anche se la costante di tempo per il raddoppio si è gradualmente allungata da un anno a oltre due anni e il modello sta volgendo al termine.

Il raddoppio dei componenti su un chip ha fatto raddoppiare continuamente la velocità dei computer. E ha portato a chip di memoria che quadruplicano la capacità ogni due anni. Ha anche portato a fotocamere digitali con una risoluzione sempre migliore e schermi LCD con un numero esponenzialmente maggiore di pixel.

Il motivo per cui la legge di Moore ha funzionato è che si applicava a un'astrazione digitale di una domanda vera o falsa. In un dato circuito, c'è una carica elettrica o una tensione lì o no? La risposta rimane chiara man mano che i componenti del chip diventano sempre più piccoli, fino a quando non interviene un limite fisico e arriviamo a componenti con così pochi elettroni che gli effetti quantistici iniziano a dominare. Ecco dove siamo ora con la nostra tecnologia di chip a base di silicio.

Quando le persone soffrono di esponenzialismo, possono pensare che gli esponenziali che usano per giustificare un argomento continueranno a ritmo sostenuto. Ma la legge di Moore e altre leggi apparentemente esponenziali possono fallire perché in primo luogo non erano veramente esponenziali.

Nella prima parte di questo secolo, quando gestivo il Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT e avevo bisogno di aiutare a raccogliere fondi per oltre 90 diversi gruppi di ricerca, ho cercato di utilizzare l'aumento della memoria sugli iPod per mostrare agli sponsor come le cose continuavano a cambiare molto rapidamente. Ecco i dati su quanta memoria musicale si ha in un iPod per $ 400 o meno:

anno	gigabyte
2002	10
2003	venti
2004	40
2006	80
2007	160

Poi estrapolerei qualche anno fuori e chiederei cosa faremmo con tutto quel ricordo nelle nostre tasche.

Estrapolando fino ad oggi, ci aspetteremmo che un iPod da $ 400 abbia 160.000 gigabyte di memoria. Ma il miglior iPhone di oggi (che costa molto più di $ 400) ha solo 256 gigabyte di memoria, meno del doppio della capacità dell'iPod del 2007. Questo particolare esponenziale è crollato all'improvviso una volta che la quantità di memoria è arrivata al punto in cui era abbastanza grande da contenere la libreria musicale e le app, le foto e i video di qualsiasi persona ragionevole. Gli esponenziali possono crollare quando viene raggiunto un limite fisico o quando non c'è più una logica economica per mantenerli.

Allo stesso modo, abbiamo assistito a un improvviso aumento delle prestazioni dei sistemi di intelligenza artificiale grazie al successo del deep learning. Molte persone sembrano pensare che ciò significhi che continueremo a vedere un aumento delle prestazioni dell'IA di multipli uguali su base regolare. Ma il successo del deep learning ha richiesto 30 anni ed è stato un evento isolato.

Ciò non significa che non ci saranno eventi più isolati, in cui il lavoro proveniente dagli arretrati della ricerca sull'intelligenza artificiale alimenta improvvisamente un rapido aumento delle prestazioni di molte applicazioni di intelligenza artificiale. Ma non esiste una legge che dica quanto spesso accadranno.

Joost Swarte

6. Scenari hollywoodiani

La trama di molti film di fantascienza di Hollywood è che il mondo è proprio come è oggi, tranne che per una nuova svolta.

In Uomo bicentenario , Richard Martin, interpretato da Sam Neill, si siede a fare colazione ed è servito da un robot umanoide che cammina e parla, interpretato da Robin Williams. Richard prende un giornale da leggere a colazione. Un quotidiano! Stampato su carta. Non un tablet, non un podcast proveniente da un dispositivo simile ad Amazon Echo, non una connessione neurale diretta a Internet.

Si scopre che molti ricercatori di intelligenza artificiale ed esperti di intelligenza artificiale, in particolare quei pessimisti che si abbandonano a previsioni sull'intelligenza artificiale che sfugge al controllo e uccidono persone, sono allo stesso modo sfidati dall'immaginazione. Ignorano il fatto che se alla fine saremo in grado di costruire tali dispositivi intelligenti, il mondo sarà cambiato in modo significativo per allora. Non saremo improvvisamente sorpresi dall'esistenza di tali super-intelligenze. Si evolveranno tecnologicamente nel tempo e il nostro mondo verrà popolato da molte altre intelligenze e avremo già molta esperienza. Molto prima che ci siano superintelligenze malvagie che vogliono sbarazzarsi di noi, ci saranno macchine un po' meno intelligenti e meno bellicose. Prima di allora, ci saranno macchine davvero scontrose. Prima di allora, macchine abbastanza fastidiose. E prima di loro, macchine arroganti e sgradevoli. Cambieremo il nostro mondo lungo la strada, adattando sia l'ambiente alle nuove tecnologie che le nuove tecnologie stesse. Non sto dicendo che potrebbero non esserci sfide. Sto dicendo che non saranno improvvisi e inaspettati, come molti pensano.

Joost Swarte

7. Velocità di implementazione

Nuove versioni di software vengono implementate molto frequentemente in alcuni settori. Le nuove funzionalità per piattaforme come Facebook vengono implementate quasi ogni ora. Per molte nuove funzionalità, purché abbiano superato i test di integrazione, c'è uno svantaggio economico minimo se si presenta un problema sul campo e la versione deve essere ritirata. Questo è un ritmo a cui la Silicon Valley e gli sviluppatori di software Web si sono abituati. Funziona perché il costo marginale della nuova distribuzione del codice è molto, molto vicino allo zero.

La distribuzione di nuovo hardware, d'altra parte, ha costi marginali significativi. Lo sappiamo dalla nostra stessa vita. Molte delle auto che compriamo oggi, che non sono a guida autonoma e per lo più non abilitate al software, saranno probabilmente ancora in circolazione nell'anno 2040. Ciò pone un limite intrinseco al tempo in cui tutte le nostre auto saranno autonome -guida. Se costruiamo una nuova casa oggi, possiamo aspettarci che potrebbe esistere per oltre 100 anni. L'edificio in cui vivo è stato costruito nel 1904 e non è neanche lontanamente il più antico del mio quartiere.

I costi di capitale mantengono l'hardware fisico in circolazione per molto tempo, anche quando ci sono aspetti high-tech e anche quando ha una missione esistenziale.

La US Air Force vola ancora con la variante B-52H del bombardiere B-52. Questa versione è stata introdotta nel 1961, rendendola vecchia di 56 anni. L'ultimo fu costruito nel 1962, appena 55 anni fa. Attualmente questi aerei dovrebbero continuare a volare almeno fino al 2040, e forse più a lungo: si parla di estendere la loro vita a 100 anni.

Vedo regolarmente apparecchiature vecchie di decenni nelle fabbriche di tutto il mondo. Vedo anche PC con Windows 3.0, una versione del software rilasciata nel 1990. Il pensiero è che se non è rotto, non aggiustarlo. Quei PC e il loro software hanno eseguito la stessa applicazione eseguendo la stessa attività in modo affidabile per oltre due decenni.

Quasi tutte le innovazioni nella robotica e nell'intelligenza artificiale impiegano molto, molto, più tempo per essere ampiamente implementate di quanto immaginino le persone sul campo e fuori dal campo.

Il principale meccanismo di controllo nelle fabbriche, comprese quelle nuove di zecca negli Stati Uniti, Europa, Giappone, Corea e Cina, si basa su controllori logici programmabili o PLC. Questi sono stati introdotti nel 1968 per sostituire i relè elettromeccanici. La bobina è ancora la principale unità di estrazione utilizzata oggi ei PLC sono programmati come se fossero una rete di relè elettromeccanici a 24 volt. Ancora. Alcuni dei cavi diretti sono stati sostituiti da cavi Ethernet. Ma non fanno parte di una rete aperta. Invece sono cavi singoli, eseguiti punto a punto, che incarnano fisicamente il flusso di controllo, l'ordine in cui i passaggi vengono eseguiti, in questi nuovissimi controller di automazione antichi. Quando si desidera modificare il flusso di informazioni, o controllare il flusso, nella maggior parte delle fabbriche in tutto il mondo, ci vogliono settimane di consulenti per capire cosa c'è, progettare nuove riconfigurazioni e poi team di artigiani per ricablare e riconfigurare l'hardware. Uno dei principali produttori di questa apparecchiatura mi ha recentemente detto che mirano a tre aggiornamenti software ogni 20 anni.

In linea di principio, potrebbe essere fatto diversamente. In pratica non lo è. Ho appena dato un'occhiata a un elenco di lavori e anche oggi, proprio oggi, Tesla Motors sta cercando di assumere tecnici PLC nella sua fabbrica a Fremont, in California. Utilizzeranno l'emulazione del relè elettromagnetico nella produzione dell'automobile più IA che esista.

Molti ricercatori ed esperti di intelligenza artificiale immaginano che il mondo sia già digitale e che la semplice introduzione di nuovi sistemi di intelligenza artificiale porti immediatamente a cambiamenti operativi sul campo, nella catena di approvvigionamento, in fabbrica, nella progettazione dei prodotti.

Nulla potrebbe essere più lontano dalla verità. Quasi tutte le innovazioni nella robotica e nell'intelligenza artificiale impiegano molto, molto, più tempo per essere ampiamente implementate di quanto immaginino le persone sul campo e fuori dal campo.

Rodney Brooks è un ex direttore del Computer Science and Artificial Intelligence Laboratory del MIT e uno dei fondatori di Rethink Robotics e iRobot. Questo saggio è adattato con il permesso di a inviare originariamente apparso su rodneybrooks.com.

nascondere