Robot militari: armati, ma quanto pericolosi?

Un lettera aperta la richiesta di vietare le armi letali controllate da macchine artificialmente intelligenti è stata firmata la scorsa settimana da migliaia di scienziati e tecnologi, riflettendo la crescente preoccupazione che i rapidi progressi dell'intelligenza artificiale possano essere sfruttati per rendere le macchine assassine più efficienti e meno responsabili, sia sul campo di battaglia e via. Ma gli esperti sono più divisi sulla questione delle macchine per uccidere robot di quanto ci si possa aspettare.

La lettera, presentata al Conferenza internazionale congiunta sull'intelligenza artificiale a Buenos Aires, in Argentina, è stato firmato da molti importanti ricercatori di intelligenza artificiale, nonché eminenti scienziati e imprenditori tra cui Elon Musk, Stephen Hawking e Steve Wozniak. La lettera afferma:

La tecnologia dell'Intelligenza Artificiale (AI) ha raggiunto un punto in cui il dispiegamento di tali sistemi è, praticamente se non legalmente, fattibile entro anni e non decenni, e la posta in gioco è alta: le armi autonome sono state descritte come la terza rivoluzione nella guerra, dopo la polvere da sparo e armi nucleari.

In effetti, negli ultimi anni sono stati fatti rapidi progressi nell'intelligenza artificiale, specialmente nel campo dell'apprendimento automatico, che implica insegnare ai computer a riconoscere schemi spesso complessi o sottili in grandi quantità di dati. E questo sta portando a domande etiche sulle applicazioni della tecnologia nel mondo reale (vedi Come far prendere decisioni etiche alle auto a guida autonoma).

Nel frattempo, la tecnologia militare è avanzata per consentire di intraprendere azioni a distanza, ad esempio utilizzando droni o robot per l'eliminazione delle bombe, aumentando la prospettiva che tali azioni possano essere automatizzate.

La questione dell'automazione delle armi letali è stata per qualche tempo una preoccupazione per scienziati, esperti militari e politici. Nel 2012, il Dipartimento della Difesa degli Stati Uniti ha emesso a direttiva vietando per 10 anni lo sviluppo e l'uso di armi autonome e semiautonome. All'inizio di quest'anno le Nazioni Unite hanno tenuto una riunione per discutere la questione delle armi letali automatizzate e la possibilità di un tale divieto.

Ma mentre i droni o i robot militari potrebbero diventare più automatizzati, alcuni dicono che l'idea di macchine completamente indipendenti in grado di svolgere missioni letali senza l'assistenza umana è più fantasiosa. Con molte sfide fondamentali che rimangono ancora nel campo dell'intelligenza artificiale, tuttavia, non è affatto chiaro quando la tecnologia necessaria per armi completamente autonome potrebbe effettivamente arrivare.

Stiamo spingendo nuove frontiere nell'intelligenza artificiale, afferma Patrizio Lin , professore di filosofia alla California Polytechnic State University. E molte persone sono giustamente scettiche sul fatto che possa mai avanzare al punto in cui ha qualcosa chiamato piena autonomia. Nessuno è davvero un esperto nel prevedere il futuro.

Lin, che ha testimoniato alla recente riunione delle Nazioni Unite, aggiunge che la lettera non tocca il complesso dibattito etico dietro l'uso dell'automazione nei sistemi d'arma. La lettera è utile per aumentare la consapevolezza, dice, ma non è tanto invitante al dibattito; sta cercando di porre fine al dibattito, dicendo 'L'abbiamo capito e tutti voi dovete andare d'accordo'.

Stuart Russell , uno dei principali ricercatori di intelligenza artificiale e professore all'Università della California, Berkeley, respinge questa idea. Semplicemente non è vero che non c'è stato alcun dibattito, dice. Ma è vero che le comunità di intelligenza artificiale e robotica sono state per lo più beatamente ignoranti di questo problema, forse perché le loro società professionali lo hanno ignorato.

Una questione di dibattito, che la lettera riconosce, è che le armi automatizzate potrebbero plausibilmente aiutare a ridurre le vittime indesiderate in alcune situazioni, poiché sarebbero meno soggette a errori, stanchezza o emozioni rispetto ai combattenti umani.

Quelli dietro la lettera hanno poco tempo per questo argomento, tuttavia.

Max Tegmark , fisico del MIT e membro fondatore del Istituto Futuro della Vita , che ha coordinato la firma della lettera, afferma che l'idea di armi automatizzate etiche è una falsa pista. Penso che sia piuttosto irrilevante, francamente, dice. Manca il grande punto su cosa porterà questo se si inizia questa corsa agli armamenti dell'IA. Se assumi che solo gli Stati Uniti costruiranno queste armi e il numero di conflitti rimarrà esattamente lo stesso, allora sarebbe rilevante.

Il Future of Life Institute ha emesso un avvertimento più generale sui rischi a lungo termine posti dall'IA libera, avvertendo che potrebbe rappresentare seri pericoli in futuro.

Questo è un problema completamente diverso, dice Russell. Sebbene ci sia una connessione, in quanto se uno è preoccupato di perdere il controllo sui sistemi di intelligenza artificiale man mano che diventano più intelligenti, forse non è una buona idea consegnargli i nostri sistemi di difesa.

Mentre molti esperti di intelligenza artificiale sembrano condividere questa preoccupazione generale, alcuni la vedono come un po' fuori luogo. Per esempio, Gary Marco , uno scienziato cognitivo e ricercatore di intelligenza artificiale presso la New York University, ha discusso che i computer non hanno bisogno di diventare artificialmente intelligenti per porre molti altri gravi rischi, ad esempio per i mercati finanziari o per i sistemi di traffico aereo.

Lin afferma che mentre il concetto di robot killer non controllati è ovviamente preoccupante, la questione delle armi automatizzate merita una discussione più sfumata. Emotivamente, è un caso piuttosto semplice, dice Lin. Intellettualmente penso che debbano fare più lavoro.

nascondere