Un gioco di civiltà può aiutare le persone a comprendere la minaccia esistenziale dell'IA

Categoria: Intelligenza artificiale Inserito 08 gennaio

I ricercatori dell'Università di Cambridge hanno creato un mod di gioco per Civilization che consente alle persone di far crescere e domare una superintelligenza che batte gli umani.

Il gioco: Shahar Avin del Center for the Study of Existential Risk dell'università, afferma il gioco consente ai giocatori di costruire capacità di ricerca e sviluppo AI nel loro mondo virtuale. Il successo è un'intelligenza artificiale più intelligente dell'uomo. Allo stesso tempo, il rischio dell'IA canaglia si sviluppa e viene mitigato solo attraverso la ricerca sulla sicurezza.

L'obiettivo. il gol: Volevamo testare la nostra comprensione dei concetti relativi al rischio esistenziale della superintelligenza artificiale implementandoli in un simulatore del mondo limitato ma ricco, [e anche testare come] i giocatori rispondono ... quando viene data l'opportunità di prendere decisioni sull'IA da soli, mi ha detto Avin.

Paura o accettazione: Il progetto è anche uno strumento di sensibilizzazione, che porta problemi seri a un pubblico più ampio. Avin è consapevole che potrebbe perpetuare i timori sull'IA. Sostiene, tuttavia, che i giocatori vedono il rischio, ma vedono anche la gamma di strumenti a loro disposizione per mitigarlo.