Gli scacchi sono troppo facili

L'informatica ha due menti sull'intelligenza artificiale (AI). Alcuni informatici credono nella cosiddetta IA forte, che sostiene che tutto il pensiero umano è completamente algoritmico, cioè può essere scomposto in una serie di operazioni matematiche. Ciò che segue logicamente, sostengono, è che gli ingegneri dell'intelligenza artificiale alla fine replicheranno la mente umana e creeranno un robot genuinamente consapevole di sé pieno di sentimenti ed emozioni. Altri abbracciano l'IA debole, l'idea che il pensiero umano possa essere simulato solo in un dispositivo computazionale. Se hanno ragione, i futuri robot potrebbero mostrare gran parte del comportamento del dispositivo. Se hanno ragione, i futuri robot potrebbero esibire gran parte del comportamento delle persone, ma nessuno di questi robot sarà mai una persona; la loro vita interiore sarà vuota come quella di una roccia.

Le previsioni del passato dei sostenitori dell'IA forte e debole hanno fatto ben poco per portare avanti il ​​dibattito. Ad esempio, Herbert Simon, professore di psicologia alla Carnegie Mellon University, forse il primo e più vigoroso sostenitore dell'IA forte, predisse quattro decenni fa che sarebbero state imminenti macchine dotate di mente. Non è mio scopo sorprenderti o scioccarti, disse. Ma il modo più semplice che posso riassumere è dire che ora ci sono nel mondo macchine che pensano, imparano e creano. Inoltre, la loro capacità di fare queste cose aumenterà rapidamente fino a quando, in un futuro visibile, la gamma di problemi che possono gestire sarà pari a quella a cui è stata applicata la mente umana.

Dall'altra parte dell'equazione, Hubert Dreyfus, un professore di filosofia a Berkeley, ha scommesso la fattoria due decenni fa che i computer che macinano simboli non si sarebbero mai nemmeno avvicinati alle capacità di risoluzione dei problemi degli esseri umani, per non parlare della vita interiore. Nel suo libro What Computers Can't Do (HarperCollins 1978), e di nuovo nell'edizione riveduta, What Computers Still Can't Do (MIT Press 1992), sostenne che i formidabili computer che giocavano a scacchi sarebbero rimasti per sempre nel regno dei finzione, e ha sfidato la comunità dell'intelligenza artificiale a dimostrargli che si sbagliava.

La vittoria della scorsa primavera del computer Deep Blue di IBM sul più grande giocatore di scacchi umano del mondo, Gary Kasparov, ha cancellato la previsione di Dreyfus. Ma sostiene anche l'IA forte piuttosto che quella debole? Lo stesso Kasparov sembra pensarla così. Per la gioia dei sostenitori di Strong AI, Kasparov ha dichiarato su Time lo scorso marzo di aver percepito un nuovo tipo di intelligenza che combatteva contro di lui.

Inoltre, il noto filosofo Daniel Dennett della Tufts University non troverebbe iperbolica una simile reazione alla luce del trionfo di Deep Blue. Da sempre arci-difensore dell'IA forte, Dennett crede che la coscienza sia essenzialmente algoritmica e che l'IA stia rapidamente riducendo la coscienza al calcolo.

Ma nella loro esultanza, Kasparov, Dennett e altri che credono che Deep Blue dia credito a Strong AI stanno trascurando un fatto importante: da una prospettiva puramente logica gli scacchi sono straordinariamente facili. Infatti, come è noto da tempo, gli scacchi invincibili possono teoricamente essere giocati da un sistema senza cervello, purché segua un algoritmo che traccia le conseguenze di ogni possibile mossa fino a trovare una posizione di matto o di pareggio.

Naturalmente, mentre questo algoritmo è dolorosamente semplice (gli studenti universitari in informatica lo imparano abitualmente), è computazionalmente complesso. Infatti, se assumiamo una media di circa 32 opzioni per giocata, questo produce un migliaio di opzioni per ogni mossa completa (una mossa è un gioco di una parte seguito da un gioco in risposta). Quindi, guardando avanti cinque mosse si ottengono un quadrilione (1015) di possibilità. Guardando avanti 40 mosse, la lunghezza di un gioco tipico, comporterebbe 10120 possibilità. Deep Blue, che esamina più di 100 milioni di posizioni al secondo, impiegherebbe quasi 10112 secondi, o circa 10104 anni, per esaminare ogni mossa. In confronto, sono trascorsi meno di 1018 secondi dall'inizio dell'universo, e il consenso tra gli esperti di scacchi informatici è che il nostro sole scadrà prima che anche i supercomputer di domani possano effettuare una ricerca così esaustiva.

Ma cosa succede se un computer può guardare molto lontano (alimentato, ad esempio, dall'algoritmo noto come ricerca alfa-beta minimax, la strategia principale di Deep Blue), anziché fino in fondo? E se potesse combinare questa potenza di elaborazione con un pizzico di conoscenza di alcuni principi di base degli scacchi, ad esempio quelli che riguardano la sicurezza del re, che, per inciso, sono stati installati in Deep Blue poco prima della sua partita con Kasparov? La risposta, come ha mostrato clamorosamente Deep Blue, è che una macchina così armata può battere anche il miglior giocatore di scacchi umano.

Creatività Ex Machina?

Ma il tipo di pensiero che va negli scacchi, accatastato contro il pieno potere e la gamma della mente umana, è lontano dall'intera storia. La matematica del diciannovesimo secolo Ada Byron, conosciuta come Lady Lovelace, fu forse la prima a suggerire che la creatività è la differenza essenziale tra mente e macchina, l'essenza che definisce che va oltre ciò che anche l'algoritmo più sofisticato può realizzare. Lovelace sosteneva che le macchine informatiche, come quella escogitata dal suo contemporaneo, Charles Babbage, non possono creare nulla, poiché la creazione richiede, in minima parte, l'origine di qualcosa. I computer non possono originare nulla; possono semplicemente fare ciò che ordiniamo loro, tramite programmi, di fare.

Un secolo dopo Alan Turing, il nonno dell'intelligenza artificiale e dell'informatica, ha risposto all'obiezione di Lady Lovelace inventando l'ormai famoso Test di Turing, che un computer supera se può ingannare un umano facendogli credere di essere un umano. Sfortunatamente, mentre gli scacchi sono troppo facili, il test di Turing è ancora troppo difficile per i computer di oggi. Ad esempio, l'inganno - di cui un potente giocatore di computer nel test di Turing dovrebbe essere sicuramente capace - è un concetto incredibilmente complesso. Spingere una persona ad accettare erroneamente una falsa nozione richiede che il computer capisca non solo che l'idea è falsa, ma anche la miriade di sottili connessioni che esistono tra l'idea e le credenze, gli atteggiamenti e innumerevoli altre idee di quella persona.

Sebbene il test di Turing sia attualmente fuori dalla portata della più intelligente delle nostre macchine, potrebbe esserci un modo più semplice per decidere tra le forme forte e debole di AI-one che mette in evidenza la creatività, che potrebbe essere il vero problema in Strong vs. Scontro debole. Il test che propongo è semplicemente: una macchina può raccontare una storia?

Sebbene la virtù di questo test possa non sembrare ovvia a prima vista, ci sono alcune ragioni interessanti per pensare che sia un buon indice di mentalità. Ad esempio, il test di creatività dominante in uso nella psicologia, i test di tolleranza del pensiero creativo, richiedono ai soggetti di produrre narrazioni.

Né è arbitraria la presenza della narrazione in queste prove; molti scienziati cognitivi sostengono plausibilmente che la narrativa è al centro della cognizione umana. Roger Schank, un noto scienziato cognitivo della Northwestern University, afferma coraggiosamente che praticamente tutta la conoscenza umana si basa su storie. La sua affermazione fondamentale è che quando ricordi il passato, lo ricordi come un insieme di storie e quando comunichi informazioni le trasmetti anche sotto forma di storie.

Ma forse la cosa più significativa per questa discussione, il gioco della storia colpirebbe dritto al cuore della distinzione tra IA forte e debole. Gli umani trovano impossibile produrre letteratura senza adottare i punti di vista dei personaggi, cioè senza sentire cosa vuol dire essere questi personaggi; quindi gli autori umani generano storie capitalizzando il fatto che sono coscienti nel senso più pieno della parola, che è essere coscienti contemporaneamente di se stessi, di un'altra persona e della relazione (o mancanza di essa) tra le due persone.

Storia profonda

Sembra che un gioco di storia sarebbe quindi un test migliore per verificare se i computer possono pensare rispetto ai giochi di scacchi e dama che attualmente predominano nelle conferenze di intelligenza artificiale. Ma come sarebbe il gioco della storia? Nel gioco della storia, daremo sia al computer che a un maestro narratore umano una frase relativamente semplice, diciamo: Gregor si è svegliato e ha scoperto che il suo addome era duro come un guscio, e che dove prima c'era il suo braccio destro, ora si muoveva un tentacolo. Entrambi i giocatori devono quindi creare una storia progettata per essere veramente interessante, tanto più letteraria in termini di caratterizzazione ricca, mancanza di prevedibilità e linguaggio interessante, tanto meglio. Potremmo quindi fare in modo che un umano giudichi le storie in modo che, come nel test di Turing, quando un tale giudice non può dire quale risposta viene dalla musa meccanica e quale dall'umano, diciamo che la macchina ha vinto la partita.

Come se la caveranno le macchine future in un gioco del genere? Penso che la lunghezza della storia sia una variabile chiave. Un gioco di storia che mette a confronto la mente contro la macchina in cui la lunghezza e la complessità della narrazione sono aperte, segnerebbe sicuramente la sconfitta della macchina per i secoli a venire. Sebbene i sostenitori dell'IA forte sostengano che una macchina potrebbe alla fine prevalere in una gara per vedere se la mente o la macchina potrebbero produrre un romanzo migliore, anche loro sarebbero d'accordo sul fatto che provare a costruire una macchina del genere oggi è impensabile. Il compito sarebbe stato così difficile che nessuno saprebbe nemmeno da dove cominciare.

In breve, sebbene il test di Turing sia, come notato, troppo difficile al momento per fornire il formato per la competizione mente-macchina, molte persone pensano di poter immaginare un prossimo futuro in cui una macchina reggerà il confronto in questo test. Quando si tratta del gioco di storia senza restrizioni, tuttavia, un tale futuro semplicemente non può essere concepito. Ovviamente possiamo immaginare un futuro in cui un computer stampi un romanzo, ma non possiamo immaginare gli algoritmi che sarebbero in funzione dietro le quinte.

Quindi, solo per dare ai sostenitori di Strong AI una possibilità di combattere, limiterei la competizione al più breve dei racconti, diciamo, meno di 500 parole di lunghezza. Questa versione del gioco dovrebbe rivelarsi una sfida allettante per gli ingegneri di Strong AI. E, come la versione completa, richiede creatività da chi, mente o macchina, lo interpreterebbe.

In che modo allora le macchine future potrebbero confrontarsi con gli autori umani quando a ciascuno viene data quella frase come punto di partenza per un breve racconto?

Potrei non essere posizionato male per fare previsioni. Con l'aiuto della Fondazione Luce, di Apple Computer, dell'IBM, del Rensselaer Polytechnic Institute (RPI) e della National Science Foundation, ho trascorso gli ultimi sette anni (e circa tre quarti di milione di dollari) a lavorare con un certo numero di ricercatori: in particolare Marie Metereer, scienziata presso Bolt, Beranek e Newman; David Porush, professore all'RPI; e David Ferrucci, uno scienziato senior presso l'IBM T.J. Watson Research Center, per costruire un formidabile autore artificiale di racconti brevi.

Parte di ciò che spinge me e altri ricercatori nella ricerca per creare Proust, Joyces e Kafkas così sintetici è la convinzione che i sistemi di intrattenimento stand-alone genuinamente intelligenti del futuro richiederanno, tra le altre cose, sistemi di intelligenza artificiale che sappiano come creare e storie dirette. Nei mondi virtuali del futuro, pieni di personaggi artificiali, le cose si svolgeranno troppo rapidamente in tempo reale perché un umano possa guidare il processo. L'industria dei giochi attualmente segue una linea sottile tra la rigida prescrizione di un gioco e il lasciare che le cose accadano volenti o nolenti quando gli umani fanno delle scelte. Ciò di cui c'è un disperato bisogno è un'intelligenza artificiale in grado di convogliare gli eventi in un filo narrativo continuo e allo stesso tempo consentire ai giocatori umani di giocare in uno spazio apparentemente infinito di traiettorie della trama.

Il risultato più recente del mio lavoro in questo senso (in collaborazione con Ferrucci e Adam Lally, un ingegnere del software con Legal Knowledge Systems di Troy, NY) è un agente artificiale chiamato Brutus.1, così chiamato perché il concetto letterario in cui è specializzato è tradimento. Sfortunatamente, Brutus.1 non è in grado di giocare al gioco del racconto breve. Ha conoscenza dell'ontologia di docenti universitari, tesi di laurea, studenti, classi e così via; ma sarebbe paralizzato da una domanda al di fuori della sua base di conoscenza. Ad esempio, non sa nulla dell'anatomia degli insetti. Pertanto, la frase che coinvolge Gregor lascerebbe vuoto.

Tuttavia, Brutus.1 è in grado di scrivere racconti brevi, se i racconti sono basati sulla nozione di tradimento (oltre che di autoinganno, malvagità e in una certa misura voyeurismo), che non sono concetti letterari poco promettenti (vedi barra laterale, Tradimento, di Bruto.1-così come Riccardo III, Macbeth, Otello.)

Tali imprese quasi belletristiche sono possibili per Brutus.1 solo perché Ferrucci ed io siamo stati in grado di elaborare una definizione matematica formale di tradimento e dotare Brutus.1 del concetto (vedi la barra laterale, La matematica del tradimento). Ma per adattare Brutus.1 per giocare bene in un gioco di racconti brevi, avrebbe certamente bisogno di comprendere non solo il tradimento, ma altri grandi temi letterari come l'amore non corrisposto, la vendetta, la gelosia, il parricidio e così via.

Per sempre inconscio

Ho ancora tre anni per portare avanti il ​​mio progetto decennale per costruire un formidabile Hemingway in silicio. A questo punto, tuttavia, anche se Brutus.1 è impressionante e anche se la nostra intenzione è creare discendenti di Brutus.1 in grado di comprendere un insieme completo di concetti letterari e altro, sembra abbastanza chiaro che i computer non saranno mai i migliori narratori umani in anche un concorso di racconti.

È chiaro dal nostro lavoro che per raccontare una storia davvero avvincente, una macchina avrebbe bisogno di capire le vite interiori dei suoi personaggi. E per farlo, avrebbe bisogno non solo di pensare meccanicamente nel senso del calcolo rapido (il forte di supercomputer come Deep Blue), avrebbe anche bisogno di pensare in modo esperienziale nel senso di avere una consapevolezza soggettiva o fenomenica. Ad esempio, una persona può pensare sperimentalmente a un viaggio in Europa da bambino, ricordare com'era essere a Parigi in una giornata di sole con un fratello maggiore, distruggere un drive lungo un fairway, sentire il tocco di un amante, sciare sul bordo, o hai bisogno di una buona notte di sonno. Ma qualsiasi esempio del genere, affermo, richiederà capacità che nessuna macchina avrà mai.

I famosi narratori umani comprendono questo concetto. Ad esempio, il drammaturgo Henrik Ibsen ha detto: devo avere in mente il personaggio fino in fondo, devo penetrare nell'ultima ruga della sua anima. Un tale modus operandi è per sempre chiuso a una macchina.

I sostenitori dell'IA forte, se si sforzano di costruire una macchina che sia in grado di prevalere nel gioco di racconti brevi, devono quindi sforzarsi di costruire proprio ciò che distingue l'IA forte da quella debole: una macchina consapevole. Eppure, nella lotta per una macchina del genere, i ricercatori di Strong AI stanno aspettando un culmine che arriverà per sempre, mai presente.

I credenti nell'IA debole, come me, cercheranno di progettare sistemi che, non avendo la capacità di Ibsen di guardare attraverso gli occhi di un altro, creeranno personaggi riccamente disegnati. Ma anche se mi aspetto di fare progressi, mi aspetto che, a differenza del gioco degli scacchi, una narrazione di prim'ordine, anche nell'umile lunghezza dei racconti brevi, sarà sempre l'unica competenza dei maestri umani.

Tuttavia, continuerò con gli ultimi tre anni del mio progetto, soprattutto perché mi aspetto di divertirmi molto, oltre che di poter dire con una certa autorità che le macchine non possono essere creative e consapevoli (visto come Sto utilizzando tecniche allo stato dell'arte), e per produrre sistemi di lavoro che avranno un notevole valore scientifico ed economico.

Senza dubbio Kasparov tornerà presto per un altro giro di scacchi con Deep Blue oi suoi discendenti, e potrebbe benissimo vincere. In effetti, sospetto che passeranno altri 10 anni prima che i giocatori di scacchi automatici sconfiggano i grandi maestri in un torneo dopo l'altro. Ben presto, tuttavia, Kasparov e coloro che prenderanno il suo trono perderanno invariabilmente.
Ma non è così se consideriamo le possibilità di coloro che cercherebbero di umiliare non solo i grandi giocatori di scacchi, ma anche i grandi autori. Non credo che John Updike o i suoi successori si ritroveranno mai nel bel mezzo di un gioco di narrazione, sudando sotto luci luminose e calde come quelle che hanno brillato su Gary Kasparov.

nascondere