Perché i ricercatori di IA non dovrebbero voltare le spalle ai militari

Esercito degli Stati Uniti

Più di 2.400 ricercatori di intelligenza artificiale hanno recentemente firmato a impegno promettendo di non costruire le cosiddette armi autonome, sistemi che deciderebbero da soli chi uccidere. Ciò fa seguito alla decisione di Google di non rinnovare un contratto per fornire al Pentagono l'intelligenza artificiale per l'analisi dei filmati dei droni dopo che l'azienda è stata sottoposta alle pressioni di molti dipendenti contrari al suo lavoro su un progetto noto come Maven.

Paul Scharre, l'autore di un nuovo libro, Army of None: armi autonome e futuro della guerra , ritiene che i ricercatori di IA debbano fare di più che rinunciare se vogliono apportare un cambiamento.

Paul Scharre. Vinci McNamee/Getty Images

Scharre, un ranger dell'esercito in Iraq e Afghanistan e ora ricercatore presso il Center for a New American Security, sostiene che gli esperti di intelligenza artificiale dovrebbero interagire con i responsabili politici e i professionisti militari per spiegare perché i ricercatori sono interessati e aiutarli a capire il limitazioni dei sistemi di IA.

Scharre ha parlato con CON Revisione della tecnologia il redattore senior Will Knight sul modo migliore per fermare una corsa agli armamenti dell'IA potenzialmente pericolosa.

paulscharre.com

Quanto è desideroso l'esercito americano di sviluppare armi di intelligenza artificiale?

I leader della difesa degli Stati Uniti hanno ripetutamente ha dichiarato che il loro Intenzione è mantenere un essere umano nel giro e responsabile delle decisioni di forza letale. Ora, l'avvertenza è che hanno anche riconosciuto che se altri paesi costruiscono armi autonome, potrebbero essere costretti a seguire l'esempio. E questo è il vero rischio: se un paese supera questa linea, altri potrebbero sentire di dover rispondere in modo simile solo per rimanere competitivi.

Si possono davvero fidare di queste promesse, però?

Penso che gli alti funzionari della difesa degli Stati Uniti siano sinceri nel volere che gli umani rimangano responsabili dell'uso della forza letale. I professionisti militari di certo non vogliono che le loro armi vadano fuori controllo. Detto questo, rimane una questione aperta su come tradurre un concetto ampio come la responsabilità umana sulla forza letale in una guida ingegneristica specifica su quali tipi di armi sono consentite. La definizione di ciò che costituisce un'arma autonoma è già contestata, quindi potrebbero esserci opinioni divergenti su come mettere in pratica tali principi.

Perché è necessario coinvolgere i tecnologi?

I ricercatori dell'IA devono prendere parte a queste conversazioni, poiché la loro esperienza tecnica è vitale per plasmare le scelte politiche. Dobbiamo tenere conto del pregiudizio dell'IA, della trasparenza, della spiegabilità, della sicurezza e di altre preoccupazioni. La tecnologia AI ha oggi queste caratteristiche gemelle: è potente ma presenta anche molte vulnerabilità, proprio come i computer e i rischi informatici. Sfortunatamente, i governi sembrano aver ricevuto la prima parte di quel messaggio (l'IA è potente) ma non la seconda (comporta dei rischi). I ricercatori dell'IA possono aiutare i governi e le forze armate a capire meglio perché sono così preoccupati per le conseguenze dell'armamento di questa tecnologia. Per realizzare questo caso in modo efficace, i ricercatori di IA devono essere parte di un dialogo costruttivo.

Cosa ne pensi del recente impegno contro le armi autonome, organizzato dal Future of Life Institute?

Non è il primo invito all'azione degli scienziati dell'IA; si basa su precedenti lettere aperte sulle armi autonome in 2015 e 2017 . Ma queste lettere sono un gesto simbolico e probabilmente hanno rendimenti decrescenti nella loro efficacia. I paesi discutono anche di armi autonome alle Nazioni Unite dal 2014 e la pressione degli scienziati dell'IA aggiunge una dimensione importante alla conversazione, ma deve ancora influenzare le principali potenze militari per sostenere un divieto globale. Sarebbe più efficace avere più ricercatori di IA che partecipassero alle riunioni delle Nazioni Unite e aiutassero i responsabili politici a capire perché gli scienziati di IA sono così preoccupati.

Che dire della decisione di Google di non rinnovare il contratto con il Pentagono?

È stato un po' sorprendente perché Maven in realtà non prevedeva armi autonome o targeting e sembrava essere conforme con Google rilasciato di recente Principi dell'IA . Ma la competizione per i migliori talenti dell'IA è agguerrita e sospetto che Google non possa rischiare che alcuni dei suoi migliori ingegneri si dimettano per protesta.

Pensi che tali gesti aiuteranno a rallentare lo sviluppo di armi autonome?

Quando si tratta di Maven, Google non è stato coinvolto nella costruzione nemmeno di armi controllate dall'uomo, tanto meno armi autonome, quindi non c'è una connessione diretta lì. La lettera di impegno è ovviamente diretta direttamente alle armi autonome. Ma non credo che sia probabile che nessuno dei due abbia un effetto importante sul modo in cui le forze armate incorporano l'intelligenza artificiale e l'autonomia nelle loro armi, dal momento che è probabile che le armi vengano costruite da appaltatori della difesa. Se le principali aziende tecnologiche come Google rinunciassero a lavorare con le forze armate, ciò potrebbe rallentare l'incorporazione della tecnologia AI in funzioni di supporto vitali come l'analisi dei dati, cosa che stava facendo Maven. Ma alla fine altre aziende interverranno per colmare il divario. Già, abbiamo visto Altro aziende dire abbastanza pubblicamente che vogliono lavorare con i militari.

Questi sforzi potrebbero avere anche conseguenze indesiderate?

Dipingere molti usi legittimi dell'IA come inaccettabili potrebbe ulteriormente creare un cuneo tra le comunità tecniche e politiche e rendere più difficile il discorso ragionevole. Gli ingegneri dovrebbero assolutamente astenersi dal lavorare su progetti che non possono sostenere, ma quando quelle motivazioni personali si spostano per esercitare pressioni su altri dal lavorare su importanti e legittime applicazioni di sicurezza nazionale, danneggiano la sicurezza pubblica e ledono i diritti di altri ingegneri di perseguire la propria coscienza. I paesi democratici dovranno utilizzare la tecnologia dell'IA per una varietà di cose importanti e legali sicurezza nazionale scopi: intelligence, antiterrorismo, sicurezza delle frontiere, sicurezza informatica e difesa.

Gli Stati Uniti sono già impegnati in una corsa agli armamenti basata sull'IA con la Cina?

La Cina ha pubblicamente dichiarato la sua intenzione di diventare il leader mondiale nell'intelligenza artificiale entro il 2030 e sta aumentando la sua ricerca e reclutando i migliori talenti da tutto il mondo. Il modello cinese di fusione militare-civile significa anche che la ricerca sull'IA fluirà prontamente dalle aziende tecnologiche alle forze armate senza il tipo di barriere che alcuni dipendenti di Google mirano a erigere negli Stati Uniti. La Cina ha già iniziato per gettare le basi per uno stato di tecno-sorveglianza basato sull'intelligenza artificiale.

Se le tattiche dei ricercatori di intelligenza artificiale riusciranno solo a rallentare l'adozione di strumenti di intelligenza artificiale in società aperte e democratiche che apprezzano il comportamento etico, il loro lavoro potrebbe contribuire a inaugurare un futuro in cui la tecnologia più potente è nelle mani di regimi che meno si preoccupano dell'etica e lo stato di diritto.

Nel tuo libro, fai notare che definire l'autonomia può essere complicato. Questo non complicherà la discussione sugli usi militari dell'IA?

Gli autori del recente impegno contro le armi autonome si oppongono alle armi autonome che ucciderebbero una persona, ma riconoscono che sarebbero necessari alcuni tipi di sistemi autonomi per difendersi da altre armi simili. È l'area grigia in cui potrebbe essere necessaria l'autonomia per difendersi dalle armi e una persona è ancora a bordo, come nel prendere di mira un jet da combattimento o un sottomarino, dove sta la vera sfida. Bilanciare obiettivi concorrenti non è semplice e i responsabili politici dovranno affrontare scelte reali quando adotteranno questa tecnologia.

Gli ingegneri dell'IA avranno il maggiore impatto nel plasmare queste scelte se si impegnano in un dialogo costruttivo e continuo con i responsabili politici, piuttosto che rinunciare. I ricercatori di intelligenza artificiale che si preoccupano di come viene utilizzata la tecnologia saranno più efficaci se andranno oltre le campagne di pressione e inizieranno ad aiutare a educare i responsabili politici sulla tecnologia dell'IA oggi e sui suoi limiti.

nascondere