211service.com
Google diventa pratico sui pericoli dell'IA
Le macchine potrebbero diventare così intelligenti e potenti da rappresentare una minaccia per la vita umana, o anche per l'umanità nel suo insieme?
È una domanda che è diventata di moda in alcune parti della Silicon Valley negli ultimi anni, nonostante sia più o meno inconciliabile con i semplici robot e gli assistenti virtuali glitch di oggi (vedi AI Doomsayer Says His Ideas Are Catching On). Alcuni esperti di intelligenza artificiale ritengono che la speculazione sui pericoli del futuro, il software super intelligente stia danneggiando il campo.
Ora Google, una società fortemente investita nell'intelligenza artificiale, sta cercando di ritagliarsi una via di mezzo. UN nuova carta pubblicato oggi descrive cinque problemi che i ricercatori dovrebbero studiare per contribuire a rendere più sicuro il futuro software intelligente. In un post sul blog sulla carta, il ricercatore di Google Chris Olah afferma che mostrano come il dibattito sulla sicurezza dell'IA possa essere reso più concreto e produttivo.
La maggior parte delle discussioni precedenti è stata molto ipotetica e speculativa, scrive. Riteniamo che sia essenziale fondare le preoccupazioni nella ricerca sull'apprendimento automatico reale e iniziare a sviluppare approcci pratici per la progettazione di sistemi di intelligenza artificiale che funzionino in modo sicuro e affidabile.
Olah usa un robot di pulizia per illustrare alcuni dei suoi cinque punti. Un'area di preoccupazione è impedire ai sistemi di raggiungere i loro obiettivi imbrogliando. Ad esempio, il robot di pulizia potrebbe scoprire che può soddisfare la sua programmazione per pulire le macchie nascondendole invece di rimuoverle effettivamente.
Un altro dei problemi posti è come rendere i robot in grado di esplorare nuovi ambienti in sicurezza. Ad esempio, un robot per la pulizia dovrebbe essere in grado di sperimentare nuovi modi di utilizzare gli strumenti di pulizia, ma non provare a utilizzare uno straccio bagnato su una presa elettrica.
Olah descrive i cinque problemi in un nuovo articolo scritto in collaborazione con il collega di Google Dario Amodei, con contributi di altri a Google, Stanford University, University of California, Berkeley e OpenAI, un istituto di ricerca cofondato e parzialmente finanziato dal CEO di Tesla e imprenditore seriale Elon Muschio.
Musk, che una volta ha paragonato il lavoro sull'intelligenza artificiale all'evocazione del demone, ha reso la creazione di un'IA sicura uno degli obiettivi fondamentali di OpenAI (vedi Cosa ci vorrà per costruire un'IA virtuosa?).
Google ha anche parlato dell'impegno a garantire che il software di intelligenza artificiale non abbia conseguenze indesiderate. L'azienda primo documento di ricerca sull'argomento è stato pubblicato questo mese dal suo gruppo DeepMind a Londra. Il leader di DeepMind, Demis Hassabis, ha anche convocato un comitato etico per considerare i possibili svantaggi dell'IA, sebbene i suoi membri non siano stati divulgati (vedi Come Google Plans to Solve Artificial Intelligence).
Oren Ettizioni, amministratore delegato della Istituto Allen per l'IA , accoglie con favore l'approccio delineato nel nuovo documento di Google. In precedenza ha criticato le discussioni sui pericoli dell'IA in quanto troppo vaghe per consentire a scienziati o ingegneri di impegnarsi in modo produttivo. Ma gli scenari delineati da Google sono abbastanza specifici da consentire una ricerca reale, anche se non è ancora chiaro se tali esperimenti saranno praticamente utili, dice.
Sono le persone giuste che fanno le domande giuste, dice Etzioni. Per quanto riguarda le risposte giuste, il tempo lo dirà.