211service.com
Le macchine ci elimineranno?
Le persone che temono che siamo sulla buona strada per inventare macchine pericolosamente intelligenti stanno fraintendendo lo stato dell'informatica. 29 gennaio 2016
Yoshua Bengio guida uno dei più importanti gruppi di ricerca del mondo che sviluppa una potente tecnica di intelligenza artificiale nota come deep learning. Le sorprendenti capacità che l'apprendimento profondo ha fornito ai computer negli ultimi anni, dal riconoscimento vocale a livello umano e dalla classificazione delle immagini alle abilità di conversazione di base, hanno suscitato avvertimenti sui progressi che l'IA sta compiendo verso la corrispondenza, o forse il superamento, dell'intelligenza umana. Personaggi di spicco come Stephen Hawking ed Elon Musk hanno persino avvertito che l'intelligenza artificiale potrebbe rappresentare una minaccia esistenziale per l'umanità. Musk e altri stanno investendo milioni di dollari nella ricerca dei potenziali pericoli dell'IA e delle possibili soluzioni. Ma le dichiarazioni più terribili suonano esagerate per molte delle persone che stanno effettivamente sviluppando la tecnologia. Bengio, professore di informatica all'Università di Montreal, ha messo le cose in prospettiva in un'intervista con Revisione della tecnologia del MIT Il redattore senior di AI e robotica, Will Knight.
Dovremmo preoccuparci della velocità con cui l'intelligenza artificiale sta avanzando?
Questa storia faceva parte del nostro numero di marzo 2016
- Vedi il resto del problema
- sottoscrivi
Ci sono persone che stanno enormemente sopravvalutando i progressi che sono stati fatti. Ci sono molti, molti anni di piccoli progressi dietro molte di queste cose, comprese cose banali come più dati e potenza del computer. Il clamore non riguarda se le cose che stiamo facendo siano utili o meno, lo è. Ma le persone sottovalutano quanta più scienza debba essere fatta. Ed è difficile separare il clamore dalla realtà perché stiamo vedendo queste grandi cose e anche, ad occhio nudo, sembrano magiche.
C'è il rischio che i ricercatori di IA possano scatenare accidentalmente il demone, come ha detto Musk?
Non è che qualcuno abbia trovato una ricetta magica all'improvviso. Le cose sono molto più complicate della semplice storia che alcune persone vorrebbero raccontare. I giornalisti a volte vorrebbero raccontare la storia che qualcuno nel loro garage avrà questa fantastica idea, e poi abbiamo una svolta e abbiamo l'IA. Allo stesso modo, le aziende vogliono raccontare una piccola storia carina che Oh, abbiamo questa tecnologia rivoluzionaria che cambierà il mondo: l'IA è quasi arrivata e noi siamo l'azienda che la consegnerà. Non è affatto così che funziona.
Ci manca qualcosa di grande. Abbiamo fatto progressi piuttosto rapidi, ma non è ancora al livello in cui diremmo che la macchina capisce. Siamo ancora lontani da questo.
Che dire dell'idea, centrale in queste preoccupazioni, che l'IA potrebbe in qualche modo iniziare a migliorare se stessa e poi diventare difficile da controllare?
Non è così che si costruisce l'IA in questi giorni. L'apprendimento automatico significa che hai un processo lento e meticoloso per acquisire informazioni attraverso milioni di esempi. Una macchina migliora se stessa, sì, ma molto, molto lentamente e in modi molto specializzati. E il tipo di algoritmi con cui giochiamo non sono affatto come piccoli virus che si autoprogrammano. Non è quello che stiamo facendo.
Quali sono alcuni dei grandi problemi irrisolti con l'IA?
L'apprendimento senza supervisione è davvero molto importante. In questo momento, il modo in cui stiamo insegnando alle macchine ad essere intelligenti è che dobbiamo dire al computer che cos'è un'immagine, anche a livello di pixel. Per la guida autonoma, gli esseri umani etichettano un numero enorme di immagini di automobili per mostrare quali parti sono pedoni o strade. Non è affatto il modo in cui gli esseri umani imparano, e non è così che imparano gli animali. Ci manca qualcosa di grande. Questa è una delle cose principali che stiamo facendo nel mio laboratorio, ma non ci sono applicazioni a breve termine: probabilmente non sarà utile costruire un prodotto domani.
Un'altra grande sfida è la comprensione del linguaggio naturale. Negli ultimi anni abbiamo fatto progressi piuttosto rapidi, quindi è molto incoraggiante. Ma non è ancora al livello in cui diremmo che la macchina capisce. Quello sarebbe quando potremmo leggere un paragrafo e poi porre qualsiasi domanda al riguardo, e la macchina sostanzialmente risponderebbe in modo ragionevole, come farebbe un essere umano. Siamo ancora lontani da questo.
Quali approcci oltre al deep learning saranno necessari per creare una vera intelligenza artificiale?
Gli sforzi tradizionali, inclusi il ragionamento e la logica, dobbiamo coniugare queste cose con il deep learning per passare all'IA. Sono una delle poche persone a pensare che le persone con apprendimento automatico, e in particolare le persone con apprendimento profondo, dovrebbero prestare maggiore attenzione alle neuroscienze. I cervelli funzionano e non sappiamo ancora perché in molti modi. Migliorare tale comprensione ha un grande potenziale per aiutare la ricerca sull'IA.
E penso che le persone che si occupano di neuroscienze guadagnerebbero molto tenendo traccia di ciò che facciamo e cercando di adattare ciò che osservano del cervello con il tipo di concetti che stiamo sviluppando nell'apprendimento automatico.
Hai mai pensato di dover spiegare alle persone che l'IA non sta per conquistare il mondo? Dev'essere strano.
È sicuramente una nuova preoccupazione. Per così tanti anni, l'IA è stata una delusione. Come ricercatori lottiamo per rendere la macchina leggermente più intelligente, ma sono ancora così stupidi. Pensavo che non dovremmo chiamare il campo intelligenza artificiale ma stupidità artificiale. Davvero, le nostre macchine sono stupide e stiamo solo cercando di renderle meno stupide.
Ora, grazie a questi progressi che le persone possono vedere con le demo, ora possiamo dire: Oh, cavolo, può effettivamente dire cose in inglese, può capire il contenuto di un'immagine. Bene, ora colleghiamo queste cose con tutta la fantascienza che abbiamo visto ed è come, Oh, temo!
Va bene, ma sicuramente è ancora importante pensare ora alle eventuali conseguenze dell'IA.
Assolutamente. Dovremmo parlare di queste cose. La cosa di cui sono più preoccupato, in un prossimo futuro, non sono i computer che conquistano il mondo. Sono più preoccupato per l'uso improprio dell'IA. Cose come i cattivi usi militari, la manipolazione delle persone attraverso una pubblicità davvero intelligente; anche l'impatto sociale, come molte persone che perdono il lavoro. La società ha bisogno di riunirsi e trovare una risposta collettiva, e non lasciare che sia la legge della giungla a sistemare le cose.