Come creare un'intelligenza artificiale malevola

La possibilità che un'intelligenza artificiale malevola possa rappresentare una seria minaccia per l'umanità è diventata una questione molto dibattuta. Varie persone di alto profilo, dal fisico Stephen Hawking all'imprenditore tecnologico Elon Musk, hanno avvertito del pericolo.

Ecco perché il campo della sicurezza dell'intelligenza artificiale sta emergendo come una disciplina importante. Gli informatici hanno iniziato ad analizzare le conseguenze indesiderate di sistemi di intelligenza artificiale mal progettati, di sistemi di intelligenza artificiale creati con strutture etiche difettose o che non condividono i valori umani.

Ma c'è un'omissione importante in questo campo, affermano i ricercatori indipendenti Federico Pistono e Roman Yampolskiy dell'Università di Louisville nel Kentucky. Nulla, a nostra conoscenza, è stato pubblicato su come progettare una macchina malevola, dicono.

Questo è un problema significativo perché gli specialisti della sicurezza informatica devono capire la bestia che devono affrontare prima di poter sperare di sconfiggerla.

Oggi Pistono e Yampolskiy tentano di rimediare, almeno in parte, e il punto chiave che sottolineano è che è molto probabile che un'IA malvagia emerga solo in determinati ambienti. Quindi hanno stabilito le condizioni in cui potrebbe emergere un sistema di intelligenza artificiale malevolo. E le loro conclusioni renderanno una lettura scomoda per una o due aziende.

Quindi quali segnali di pericolo indicano che potrebbe essere possibile lavorare su un sistema di intelligenza artificiale malevolo? Pistono e Yampolskiy affermano che potrebbero esserci dei chiari segnali.

Uno dei più ovvi sarebbe l'assenza di organi di sorveglianza nello sviluppo dei sistemi di IA. Se un gruppo decidesse di creare un'intelligenza artificiale malevola, ne consegue che impedire la nascita di un comitato del consiglio di sorveglianza globale aumenterebbe le sue probabilità di successo, dicono.

Un tale gruppo lo fa sminuendo il significato del suo lavoro e i pericoli che rappresenta e persino facendo circolare informazioni confuse. La strategia consiste nel diffondere informazioni contrastanti che creerebbero dubbi nell'immaginazione del pubblico sui pericoli e le opportunità della ricerca sull'intelligenza artificiale generale, affermano.

Un altro segno importante sarebbe l'esistenza di codice closed-source dietro il sistema di intelligenza artificiale. È risaputo tra gli esperti di crittografia e sicurezza informatica che il software e gli algoritmi closed-source sono meno sicuri della loro controparte gratuita e open-source, affermano Pistono e Yampolskiy. L'esistenza stessa di software e hardware non liberi mette l'umanità a maggior rischio.

Invece, affermano che l'intelligenza artificiale potrebbe essere sviluppata utilizzando software open source, anche se non è chiaro se questo sarebbe più sicuro. Il processo open source consente a più persone di cercare e correggere i difetti. Ma dà anche accesso a criminali, terroristi e simili, che potrebbero utilizzare il software per scopi nefasti.

L'intelligenza artificiale è attualmente in fase di sviluppo in entrambi i modi.

I sistemi closed-source hanno avuto successi ben pubblicizzati. Il sistema di intelligenza artificiale di Google ha recentemente trionfato sull'umanità nell'antico gioco di Go, ad esempio. Facebook ha anche un gruppo di ricerca sull'intelligenza artificiale di alto profilo, sebbene abbia avuto meno successo pubblico.

Nessuna delle due società è stata chiara sul modo in cui è governata la sua ricerca. La sussidiaria DeepMind di Google, ad esempio, afferma di avere un comitato etico per l'IA, ma si è costantemente rifiutata di rivelare chi vi siede. Facebook dice semplicemente che i timori sull'IA sono stati esagerati.

Lo sviluppo dell'intelligenza artificiale open source è meno avanzato. Ma ha recentemente iniziato a prendere slancio, spinto almeno in parte dai timori sui rivali commerciali.

Il profilo più alto di questi sforzi è OpenAI, un'organizzazione di intelligenza artificiale senza scopo di lucro fondata nel 2015 con l'obiettivo di far progredire l'intelligenza digitale nel modo che è più probabile che avvantaggi l'umanità nel suo insieme, non vincolata dalla necessità di generare un ritorno finanziario.

È supportato da impegni fino a 1 miliardo di dollari di finanziamenti, tra gli altri, dall'imprenditore tecnologico Elon Musk, che ha ripetutamente messo in guardia sui pericoli dell'IA. (Musk ha anche finanziato in parte il lavoro di uno degli autori di questo studio, Roman Yampolskiy.)

Non è chiaro se OpenAI aumenterà o ridurrà le possibilità che emerga un sistema di intelligenza artificiale malevolo. Ma l'obiettivo almeno è garantire che qualunque cosa accada avvenga in piena vista del pubblico.

Una lacuna in tutto questo è che la pratica della sicurezza informatica per i sistemi di intelligenza artificiale è molto meno sviluppata rispetto al software ordinario.

Gli esperti di sicurezza informatica hanno da tempo riconosciuto che il software dannoso rappresenta una minaccia significativa per la società moderna. Molte applicazioni critiche per la sicurezza - centrali nucleari, controllo del traffico aereo, sistemi di supporto vitale e così via - sono poco più che un grave difetto di progettazione lontano da un disastro. La situazione è esacerbata dai progettisti di software intenzionalmente dannosi (virus, trojan e simili) che danno la caccia e sfruttano questi difetti.

Per combattere questo, gli esperti di sicurezza hanno sviluppato un potente ecosistema che identifica i difetti e li corregge prima che possano essere sfruttati. Studiano il software dannoso e cercano modi per neutralizzarlo.

Hanno anche un sistema di comunicazione per diffondere queste informazioni all'interno della loro comunità ma non oltre. Ciò consente di correggere rapidamente eventuali difetti prima che la loro conoscenza si diffonda.

Ma un sistema simile non funziona ancora efficacemente nel mondo della ricerca sull'IA.

Ciò potrebbe non avere importanza mentre i sistemi di intelligenza artificiale sono relativamente benigni. La maggior parte dell'IA di oggi si concentra su argomenti come l'elaborazione del linguaggio naturale, il riconoscimento di oggetti e attività come la guida.

Ma, dato il ritmo di sviluppo degli ultimi anni, è probabile che questo cambi rapidamente. Una domanda importante è come gli esseri umani potrebbero combattere un'intelligenza artificiale malevola che potrebbe avere conseguenze disastrose per l'umanità. È una domanda che vale la pena considerare in dettaglio ora.

Rif: arxiv.org/abs/1605.02817 : Ricerca non etica: come creare un'intelligenza artificiale malevola

nascondere