211service.com
Le sovvenzioni di Doomsday faranno avanzare importanti ricerche sull'IA
Anche se non temi l'imminente aumento delle macchine superintelligenti, c'è motivo di incoraggiare nuovi finanziamenti per la ricerca sull'argomento, in quanto potrebbe aiutare a rendere l'intelligenza artificiale più pratica a breve termine.
I recenti progressi nell'informatica, in particolare nell'apprendimento automatico, hanno coinciso con alcune speculazioni straordinariamente schiette su dove l'intelligenza artificiale potrebbe portarci. L'anno scorso, l'imprenditore miliardario Elon Musk ha apertamente avvertito che la ricerca sull'IA rischiava di evocare il demone e potrebbe rappresentare la più grande minaccia esistenziale per l'umanità. Anche altre figure di spicco, tra cui Bill Gates e Stephen Hawking, hanno espresso preoccupazione per i potenziali rischi dello sviluppo di macchine veramente intelligenti.
Il Istituto Futuro della Vita , un'organizzazione fondata a Cambridge, nel Massachusetts, per mitigare i potenziali rischi esistenziali posti dall'IA, questa settimana ha annunciato 7 milioni di dollari in sovvenzioni per progetti dedicati a mantenere l'IA solida e vantaggiosa. La sovvenzione è stata finanziata in gran parte da Musk, che ha donato 10 milioni di dollari all'istituto.
Forse ha senso considerare tali risultati indesiderabili, ma siamo ancora lontani dal creare qualcosa che potremmo considerare genuinamente intelligente. Mentre alcuni dei 37 progetti che riceveranno finanziamenti dal Future of Life Institute esplorano scenari piuttosto lontani che coinvolgono un'IA estremamente potente, altri affrontano importanti sforzi per rendere il software più affidabile, responsabile e utile in contesti complessi o ambigui.
Per esempio:
* Fuxin Li , ricercatore presso Georgia Tech, studierà i modi per comprendere e prevedere gli errori nei sistemi di deep learning. Questo è uno sforzo molto utile. Sebbene queste reti neurali avanzate abbiano prodotto risultati spettacolari negli ultimi anni in aree come il riconoscimento di immagini e voce, possono fallire in modi sorprendenti.
* Stefano Ermon , un assistente professore alla Stanford University, studierà i modi per far sì che gli agenti autonomi si comportino razionalmente in situazioni complesse. Alla fine, questo potrebbe, ad esempio, aiutare un'auto automatizzata a valutare i rischi posti da diverse azioni in una situazione complessa, consentendole in definitiva di agire in un modo che troveremmo più responsabile ed eticamente accettabile.
* Seth Mandria , ricercatore presso l'Università del Colorado, cercherà di applicare la ricerca neuroscientifica sul processo decisionale umano agli sforzi per costruire hardware per computer con i cosiddetti sistemi neuromorfici, ispirati dal cervello. Ciò potrebbe fornire importanti spunti sulla progettazione di questi sistemi e indicare alcune nuove applicazioni.
* Manuela Veloso , professore alla Carnegie Mellon University, condurrà uno sforzo per sviluppare modi in cui le macchine spieghino il loro comportamento agli esseri umani. Può essere difficile anche per gli esperti capire perché una macchina si comporta in modo inaspettato. Migliorare questa situazione potrebbe essere particolarmente importante poiché i robot iniziano a lavorare a stretto contatto con gli esseri umani.
Ironia della sorte, questi progetti di ricerca mostrano anche quanto siamo lontani dalla costruzione di qualcosa che potrebbe plausibilmente conquistare il mondo. E mentre forse ha senso considerare i rischi futuri mentre c'è ancora molto tempo, speriamo che l'ansia per scenari futuristici non rappresenti un rischio per un progresso tecnologico significativo.