Marvin Minsky parla del buon senso e dei computer che fanno emote

I migliori scienziati informatici di tutto il mondo si incontrano oggi al Dartmouth College di Hannover, NH, per celebrare il 50° anniversario dell'intelligenza artificiale. Nel 1956, John McCarthy, allora membro della facoltà di matematica di Dartmouth, inventò il termine per il raduno seminale del campo, il Dartmouth Summer Research Project on Artificial Intelligence. McCarthy e altri quattro partecipanti al progetto del 1956, incluso Marvin Minsky del MIT, stanno partecipando all'incontro di questa settimana, che si concentra sull'intelligenza artificiale prossimi 50 anni .

Marvin Minsky, professore emerito di arti e scienze dei media al MIT, è stato uno dei partecipanti originali al Dartmouth Summer Research Project on Artificial Intelligence nel 1956. Oggi co-aprirà la conferenza commemorativa del 50° anniversario a Dartmouth. (Per gentile concessione di Coveney/MIT.)

Le scoperte matematiche e filosofiche di Alan Turing, John von Neumann, Herbert Simon, Allen Newell e altri giganti dell'informatica hanno reso gli anni '50 un periodo di grande ottimismo riguardo all'intelligenza artificiale. I ricercatori credevano che presto sarebbero stati in grado di programmare i computer per simulare molte forme di ragionamento umano. I sistemi esperti incorporerebbero e manipolerebbero la conoscenza sotto forma di logica simbolica. Le reti neurali artificiali verrebbero addestrate ad evolversi verso risposte corrette.

Questo ottimismo si è diffuso anche nella cultura popolare, dove HAL, il computer intelligente (e profondamente disturbato) nel film di Stanley Kubrick del 1968 2001: Odissea nello spazio , ha messo in ombra gli attori umani.

Ma alla fine degli anni '60 era chiaro che l'approssimazione del ragionamento umano anche infantile in un computer avrebbe richiesto reti molto complesse di equazioni logiche o connessioni neurali. Quindi i ricercatori si sono ridotti. Hanno iniziato a risolvere i problemi, concentrandosi sulla replica di semplici imprese umane come spostare i blocchi dei bambini (l'argomento dell'ormai famoso programma SHRDLU dello scienziato informatico di Stanford Terry Winograd, che utilizzava istruzioni del linguaggio naturale per manipolare un braccio robotico).

Minsky, che aprirà la conferenza di Dartmouth con McCarthy, ha ammirato il lavoro di Winograd. Ma ha a lungo evitato le dimostrazioni riduzionistiche a favore dell'esplorazione dei veri meccanismi alla base del pensiero umano. Lavorando con Seymour Papert nel laboratorio di intelligenza artificiale del MIT, ad esempio, Minsky ha iniziato negli anni '70 a sviluppare la teoria della società della mente, che postula che strati di agenti intenzionali ma privi di mente lavorano insieme per generare coscienza.

Technology Review ha interrotto Minsky l'11 luglio, mentre stava verificando le bozze per il suo libro di prossima uscita, La macchina delle emozioni , che reinterpreta la mente umana come una nuvola di risorse, o mini-macchine che si accendono e si spengono a seconda della situazione e danno origine ai nostri vari stati emotivi e mentali.

Revisione della tecnologia : Riesci a credere che sono passati 50 anni dal primo incontro di Dartmouth AI? Ti sembra che siano passati cinque decenni?

Marvin Minsky : Non ho vissuto molti intervalli di 50 anni, quindi è difficile per me dirlo.

TR: Abbastanza giusto. Quindi, quali sono i tuoi pensieri sullo stato della ricerca sull'intelligenza artificiale oggi, rispetto a dove era nel 1956?

MM: Ciò che mi sorprende è come poche persone abbiano lavorato su teorie di livello superiore su come funziona il pensiero. È stata una grande delusione. Sto solo pubblicando un nuovo grande libro su ciò a cui dovremmo pensare: come fa un bambino di tre o quattro anni a fare il ragionamento di buon senso in cui è così bravo e che nessuna macchina sembra essere in grado di fare? La differenza principale è che se hai difficoltà a capire qualcosa, di solito pensi, cosa c'è che non va in me? o cosa mi fa perdere tempo? o Perché questo modo di pensare non funziona? C'è qualche altro modo di pensare che potrebbe essere migliore?

Ma i tipi di progetti di intelligenza artificiale che sono stati realizzati negli ultimi 30 o 40 anni non hanno avuto quasi alcun pensiero riflessivo. Tutto sta reagendo a una situazione e raccogliendo statistiche. Abbiamo organizzato una conferenza sul pensiero di buon senso circa tre anni fa e siamo riusciti a trovare solo una dozzina di ricercatori in tutto il mondo interessati a questo.

TR: Perché le persone evitano il problema del buon senso?

MM: Penso che le persone si guardino intorno per vedere quale campo sia attualmente popolare e poi sprechino le loro vite su quello. Se è popolare, allora secondo me tu non farlo vuole lavorarci sopra. Ora, la fisica è diversa. Lì, la gente dice che questa teoria popolare funziona abbastanza bene, ma non spiega questo o quello, quindi dovrei dare un'occhiata. Ma quando le persone scrivono articoli sull'intelligenza artificiale, dicono solo cosa ha fatto il loro programma e non come ha fallito o che tipo di problemi non è riuscito a risolvere. Le persone non considerano il problema importante come quello del loro sistema no? risolto. Le persone hanno ottenuto che le reti neurali riconoscano che se stai cercando un taxi, ad esempio, dovresti cercare un oggetto giallo in movimento. Ma non chiedono come mai queste reti non possono rispondere ad altri tipi di domande.

TR: Ma capire il buon senso è un problema molto più difficile, non è vero? Questo non potrebbe spiegare perché così tanti ricercatori di intelligenza artificiale si occupino di altre aree?

MM: È vero. Ai tempi in cui scrivevo La società della mente , abbiamo lavorato per un paio d'anni per far capire a un computer una semplice storia per bambini: Mary è stata invitata alla festa di Jack. Si chiese se gli sarebbe piaciuto un aquilone. Se fai la domanda Perché Mary si è interrogata su un aquilone? tutti conoscono la risposta: probabilmente è una festa di compleanno, e se ci andrà significa che è stata invitata, e tutti coloro che sono invitati devono portare un regalo, e deve essere un regalo per un ragazzino, quindi deve essere qualcosa che piace ai ragazzi, e ai ragazzi piacciono certi tipi di giocattoli come mazze, palle e aquiloni. Devi sapere tutto questo per rispondere alla domanda. Siamo riusciti a creare un piccolo database ea far capire al programma alcune semplici domande. Ma l'abbiamo provato su un'altra storia e non sapeva cosa fare. Alcuni di noi hanno concluso che dovresti conoscerne un paio milioni cose prima che tu possa fare in modo che una macchina pensi al buon senso.

TR: Poiché le persone si sono rese conto di quanto sia difficile far comprendere a un computer anche semplici situazioni di buon senso, diresti che parte dell'ottimismo sulle possibilità dell'IA negli anni '50 e '60 si è dissipato?

MM: Non credo che ottimismo sia la parola giusta. Penso che stessimo facendo buone domande, ma in qualche modo la maggior parte delle persone che lavoravano su quella che chiamavano AI ha iniziato a cercare una di queste soluzioni universali. In fisica, ha funzionato; c'erano le equazioni di Newton e poi quelle di Maxwell e poi la relatività e la teoria dei quanti. La maggior parte delle persone di intelligenza artificiale sta cercando di imitarlo e trovare una teoria generale. Ma gli umani hanno 100 diversi centri cerebrali che funzionano tutti in modi leggermente diversi. Non dovresti lavorare su un'unica soluzione; dovresti lavorare su una serie di gadget.

TR: Gran parte dei finanziamenti per l'IA sono arrivati ​​dalla Defense Advanced Research Projects Agency (DARPA), dove c'è una richiesta abbastanza chiara di risultati pratici. In effetti, sono uno degli sponsor della conferenza AI di Dartmouth. In che modo DARPA ha plasmato la direzione della ricerca sull'IA?

MM: All'inizio, la DARPA sosteneva le persone piuttosto che le proposte. Ci sono stati molti progressi dall'inizio nel 1963; per circa dieci anni il genere di cose di cui sto parlando è fiorito. E poi nei primi anni '70 ci fu una specie di incidente divertente. Il senatore Mike Mansfield, piuttosto liberale, decise che il Dipartimento della Difesa non avrebbe dovuto sostenere la ricerca civile. Quindi era responsabile dell'ARPA che diventava DARPA e si sforzava di non competere con la ricerca industriale e civile. Quindi è diventato molto più difficile per loro supportare i ricercatori visionari.

Allo stesso tempo, la comunità di ricerca aziendale americana ha iniziato a scomparire nei primi anni '70. Bell Labs e RCA e gli altri sono sostanzialmente scomparsi da questo tipo di attività. E accadde un'altra cosa: il bug dell'imprenditore colpì. Negli anni '80, molte persone stavano iniziando a provare a brevettare cose e avviare startup e realizzare prodotti, e questo ha coinciso con la scomparsa generale dei giovani scienziati. Le persone che avrebbero potuto diventare scienziati produttivi ora stanno entrando in diritto e affari.

Quindi non c'è modo di supportare questa ricerca. Se hai una buona idea, è difficile pubblicarla perché la gente dice Dov'è il tuo esperimento? Ma il problema con il pensiero di buon senso è che non puoi sperimentare finché non hai un grande database di buon senso. Ce n'è uno chiamato Cyc, iniziato da Doug Lenat nel 1985. E abbiamo il Mente aperta database, che è pubblicamente disponibile ma non ancora molto ben strutturato. Ma è un intero progetto di ricerca solo per capire come aprire il database Open Mind.

TR: Hai detto che un computer ha bisogno di sapere un paio di milioni di cose per stabilire connessioni di buon senso. Ma Lenat e i suoi colleghi hanno lavorato proprio su questo, passando anni ad alimentare Cyc con conoscenze di buon senso. Perché è necessario un altro database?

MM: Quando Lenat ha fondato Cyc nel 1985, era piuttosto ambizioso e non c'erano altri progetti del genere. Io e i miei colleghi abbiamo detto di aspettare e vedere come funziona. E poi non è successo niente per un po'.

Lenat ha fatto delle cose molto buone. Il problema è che Cyc è molto difficile da usare ed è proprietario, quindi non è molto utilizzato dai ricercatori. E ci sono molti problemi con il suo sistema che non si sono presentati prima perché non c'era concorrenza.

L'hanno reso coerente, quindi in realtà non sa molto. Una balena dovrebbe essere considerata un mammifero o un pesce? Le balene hanno molte caratteristiche simili ai pesci, quindi la maggior parte delle persone rimane sorpresa quando sentono che si tratta di un mammifero. Ma la vera risposta è che dovrebbero essere entrambe le cose. Un database di buon senso non dovrebbe essere necessariamente logicamente coerente. Lenat ha finalmente capito che dovrebbero ristrutturare Cyc prevedendo i diversi contesti in cui può sorgere una domanda. Ma il database è stato originariamente strutturato per rendere le cose molto logiche e il suo linguaggio è il calcolo dei predicati. La nostra speranza è che il sistema Open Mind usi il linguaggio naturale, che è ovviamente pieno di ambiguità, ma le ambiguità sono sia buone che cattive.

TR: Quali sono alcuni dei principali argomenti o consigli di ricerca nel tuo prossimo libro, La macchina delle emozioni ?

MM: L'idea principale del libro è ciò che io chiamo intraprendenza. A meno che tu non capisca qualcosa in molti modi diversi, è probabile che rimani bloccato. Quindi la prima cosa nel libro è che devi avere modi diversi di descrivere le cose. Ho inventato una parola per questo: panologia. Quando rappresenti qualcosa, dovresti rappresentarlo in molti modi diversi, in modo da poter passare dall'uno all'altro senza pensare.

La seconda cosa è che dovresti avere diversi modi di pensare. Il problema con l'intelligenza artificiale è che ogni persona dice che creerà un sistema basato su inferenza statistica o algoritmi genetici, o altro, e ogni sistema va bene per alcuni problemi ma non per la maggior parte degli altri. Il motivo del titolo La macchina delle emozioni è che abbiamo queste cose chiamate emozioni, e la gente le considera come misteriose aggiunte al pensiero razionale. La mia opinione è che uno stato emotivo è un modo diverso di pensare.

Quando sei arrabbiato, rinunci alla tua pianificazione a lungo termine e pensi più velocemente. Stai modificando il set di risorse che attivi. Una macchina avrà bisogno di cento modi di pensare. E ci capita di avere un centinaio di nomi per le emozioni, ma non per i modi di pensare. Quindi il libro discute circa 20 diverse direzioni in cui le persone possono andare nel loro pensiero. Ma hanno bisogno di avere una meta-conoscenza extra su quale modo di pensare è appropriato in ogni situazione.

TR: Stai dicendo che i computer dovrebbero arrabbiarsi?

MM: Se qualcuno è sulla tua strada e non si toglie di mezzo, devi intimidirlo o spaventarlo o fargli avere paura. Questo è un modo perfettamente ragionevole per risolvere il problema se sei di fretta e se succederà qualcosa di brutto se non puoi aggirarli. Propongo che abbiamo bisogno di circa 20 parole diverse per questi modi di pensare. Allora puoi buttare via il razionale.

Minsky's La macchina delle emozioni: pensiero comune, intelligenza artificiale e futuro della mente umana è programmato per essere pubblicato in copertina rigida da Simon & Schuster nel novembre 2006. Minsky ha pubblicato a brutta copia del libro in linea.

nascondere