Perché i ricercatori di IA dovrebbero riconsiderare la protesta contro il coinvolgimento in progetti militari

Porto di Jeremy

Secondo un consigliere del Dipartimento della Difesa, i lavoratori dell'industria tecnologica che hanno protestato contro i contratti con i militari dovrebbero riconsiderare la loro posizione.

Brendan McCord, un esperto di intelligenza artificiale che è stato coinvolto nel Progetto Maven, il programma del Dipartimento della Difesa per accelerare l'intelligenza artificiale e l'apprendimento automatico per usi militari, ha affermato che un impegno costruttivo con le forze armate era necessario per evitare decisioni sbagliate.

A giugno, Google disse non funzionerebbe più con Project Maven dopo più di 4.000 dipendenti firmato una lettera che accusava la compagnia di essere nel business della guerra.

Ma parlando alla conferenza sull'intelligenza artificiale di EmTech Digital, MIT Technology Review, McCord ha affermato che sarebbe meglio per la società nel suo insieme vedere continuare tali collaborazioni e per quei dipendenti dissenzienti coinvolti nei progetti di intelligenza artificiale riesaminare la loro posizione.

La maggior parte dei presenti oggi sarebbe d'accordo sul fatto che le forze armate e il loro ruolo nella deterrenza, nell'offesa e nella difesa fanno parte del mondo e lo saranno per il prossimo futuro, ha affermato. Una strategia di impegno costruttivo rispetto a una di rinuncia è molto più ottimale.

Lavorare sull'IA per la difesa non ti rende meno di principio, ha aggiunto.

La natura segreta del Progetto Maven, che si diceva fosse incentrato sul miglioramento dell'analisi dei filmati catturati dai droni militari, aveva causato preoccupazione in un ampio gruppo di ricercatori di intelligenza artificiale. Ma le forze armate statunitensi rimangono una forza potente per promuovere la pace e la stabilità nel mondo, ha affermato McCord, riflettendo le argomentazioni secondo cui i ricercatori di IA che rifiutano l'esercito per principio stanno effettivamente cedendo il vantaggio a coloro con standard etici meno rigorosi, comprese altre nazioni.

Mentre McCord ha detto che non si aspetterebbe che i pacifisti contro la guerra cambiassero idea, ha chiesto ai ricercatori di considerare cosa accadrebbe se altri paesi facessero i propri progressi nei campi emergenti. Un atteggiamento più positivo nei confronti dell'esercito è stato particolarmente importante, ha aggiunto, poiché i governi ora svolgono un ruolo minore nello sviluppo di nuove scoperte tecnologiche rispetto a un tempo.

Alla fine della Guerra Fredda il luogo dell'innovazione si è spostato nel settore privato, ha affermato. Il mondo è cambiato. La capacità di governo e il ruolo del governo sono stati ridotti al punto da non essere mai stati così bassi secondo me. L'effetto netto è che le grandi aziende tecnologiche hanno assunto il ruolo, che lo volessero o meno, di essere gli arbitri. Spesso si autoregolano.

Molti importanti sviluppi tecnologici, tra cui Internet, GPS e assistenti virtuali, sono il risultato di investimenti del Dipartimento della Difesa. Ma dalla fine della Guerra Fredda, la spesa per ricerca e sviluppo del Dipartimento della Difesa è diminuita. A metà degli anni '80, i budget di ricerca e sviluppo del governo e dei privati ​​erano più o meno uguali: circa 55 miliardi di dollari all'anno. Da allora il governo ha raddoppiato i propri investimenti, mentre le aziende private, tra cui Google, Microsoft, Facebook e Amazon, hanno aumentato drasticamente i budget privati ​​a oltre 350 miliardi di dollari all'anno.

NSF, National Center for Science and Engineering Statistics, National Patterns of R&D Resources (serie annuale)

Tuttavia, mentre le grandi aziende tecnologiche potrebbero non essere trasparenti sul loro lavoro, il governo è stato criticato a sua volta. Lo ha riferito l'Intercept all'inizio di questa settimana che il Pentagono ha respinto le richieste di Freedom of Information per i dati sul Progetto Maven , sostenendo che i suoi documenti sono esenti da controllo pubblico.

McCord mantiene un ruolo consultivo presso il Dipartimento della Difesa, ma di recente ha lasciato il suo lavoro a tempo pieno per entrare nel settore privato. Ora ha una posizione senior presso Tulco Labs, una nuova società focalizzata sull'innovazione sul lavoro fondata dal miliardario dell'intrattenimento Thomas Tull.

Ha concluso dicendo che è imperativo per i dipendenti del settore aiutare a tenere sotto controllo i propri datori di lavoro, citando il biologo e teorico E.O. Wilson.

Il vero problema dell'umanità, ha detto, è che abbiamo emozioni paleolitiche, istituzioni medievali e tecnologia divina.

nascondere