Uno dei padri dell'IA è preoccupato per il suo futuro

Foto di Yoshua Bengio Scuola Politecnica | Flickr

Yoshua Bengio è un grande maestro dell'intelligenza artificiale moderna.

A fianco Geoff Hinton e Yann LeCun , Bengio è famoso per aver sostenuto una tecnica nota come deep learning che negli ultimi anni è passata da una curiosità accademica a una delle tecnologie più potenti del pianeta.

Il deep learning prevede l'alimentazione di dati a grandi reti neurali che simulano grossolanamente il cervello umano e si è dimostrato incredibilmente potente ed efficace per tutti i tipi di attività pratiche, dal riconoscimento vocale e la classificazione delle immagini al controllo delle auto a guida autonoma e all'automazione delle decisioni aziendali.

Bengio ha resistito al richiamo di qualsiasi grande azienda tecnologica. Sebbene Hinton e LeCun si siano uniti rispettivamente a Google e Facebook, rimane professore a tempo pieno all'Università di Montreal. (Tuttavia, ha cofondato Element AI nel 2016 e ha costruito un business di grande successo aiutando le grandi aziende a esplorare le applicazioni commerciali della ricerca sull'IA.)

Bengio ha incontrato di recente il senior editor per l'IA del MIT Technology Review, Will Knight, a un evento del MIT.

Cosa ne pensi dell'idea che ci sia una corsa all'IA tra paesi diversi?

non mi piace. Non credo sia il modo giusto per farlo.

Potremmo partecipare collettivamente a una gara, ma come scienziato e come qualcuno che vuole pensare al bene comune, penso che faremmo meglio a pensare a come costruire macchine più intelligenti e ad assicurarci che l'IA sia usata per il benessere di quante più persone possibile.

Ci sono modi per promuovere una maggiore collaborazione tra i paesi?

Potremmo rendere più facile per le persone provenienti dai paesi in via di sviluppo venire qui. È un grosso problema in questo momento. In Europa, negli Stati Uniti o in Canada è molto difficile per un ricercatore africano ottenere un visto. È una lotteria e molto spesso useranno qualsiasi scusa per rifiutare l'accesso. Questo è totalmente ingiusto. È già difficile per loro fare ricerca con poche risorse, ma in più se non possono avere accesso alla community, penso che sia davvero ingiusto. Per contrastare alcuni di questi problemi, nel 2020 avremo la conferenza ICLR [un'importante conferenza sull'IA] in Africa.

Inclusività deve essere più di una parola che diciamo per avere un bell'aspetto. Il potenziale per l'intelligenza artificiale nel mondo in via di sviluppo è ancora maggiore. Hanno bisogno di migliorare la tecnologia anche più di noi e hanno esigenze diverse.

Sei preoccupato che solo poche aziende di intelligenza artificiale, in Occidente e forse in Cina, dominino il campo dell'IA?

Sì, è un altro motivo per cui abbiamo bisogno di più democrazia nella ricerca sull'IA. È che la ricerca sull'IA di per sé tenderà a portare a concentrazioni di potere, denaro e ricercatori. I migliori studenti vogliono andare nelle migliori aziende. Hanno molti più soldi, hanno molti più dati. E questo non è salutare. Anche in democrazia è pericoloso avere troppo potere concentrato in poche mani.

Ci sono state molte polemiche sugli usi militari dell'IA. Dove ti trovi?

Sono molto fermamente contrario.

Anche usi non letali dell'IA?

Bene, non voglio impedirlo. Penso che dobbiamo rendere immorale avere robot assassini. Abbiamo bisogno di cambiare la cultura, e questo include la modifica di leggi e trattati. Questo può fare molto.

Ovviamente, non lo impedirai mai del tutto e la gente dice: qualche paese canaglia svilupperà queste cose. La mia risposta è che uno, vogliamo farli sentire in colpa per averlo fatto, e due, non c'è nulla che ci impedisca di costruire tecnologia difensiva. C'è una grande differenza tra le armi difensive che uccideranno i droni e le armi offensive che prendono di mira gli umani. Entrambi possono usare l'IA.

Gli esperti di intelligenza artificiale non dovrebbero collaborare con i militari per garantire che ciò accada?

Se avevano i giusti valori morali, bene. Ma non mi fido completamente delle organizzazioni militari, perché tendono a anteporre il dovere alla moralità. Vorrei che fosse diverso.

Cosa ti entusiasma di più in termini di nuova ricerca sull'IA?

Penso che dobbiamo considerare le difficili sfide dell'IA e non accontentarci di progressi incrementali a breve termine. Non sto dicendo che voglio dimenticare il deep learning. Al contrario, voglio costruirci sopra. Ma dobbiamo essere in grado di estenderlo a cose come il ragionamento, l'apprendimento della causalità e l'esplorazione del mondo per apprendere e acquisire informazioni.

Se vogliamo davvero avvicinarci all'IA a livello umano, è un altro gioco con la palla. Abbiamo bisogno di investimenti a lungo termine e penso che il mondo accademico sia il posto migliore per portare quella torcia.

Menzioni la causalità, in altre parole, l'afferrare non solo i modelli nei dati, ma perché qualcosa accade. Perché è così importante e perché è così difficile?

Se hai un buon modello causale del mondo con cui hai a che fare, puoi generalizzare anche in situazioni non familiari. Questo è fondamentale. Noi esseri umani siamo in grado di proiettarci in situazioni molto diverse dalla nostra esperienza quotidiana. Le macchine non lo sono, perché non hanno questi modelli causali.

Possiamo realizzarli a mano, ma non basta. Abbiamo bisogno di macchine in grado di scoprire modelli causali. In un certo senso non sarà mai perfetto. Non abbiamo un modello causale perfetto della realtà; ecco perché commettiamo molti errori. Ma siamo molto più bravi a farlo rispetto ad altri animali.

In questo momento, non disponiamo di buoni algoritmi per questo, ma penso che se un numero sufficiente di persone ci lavora e lo considera importante, faremo dei progressi.

nascondere