211service.com
Perché l'IA è una minaccia per la democrazia e cosa possiamo fare per fermarla
La futurista e professoressa della New York University Amy Webb su un'imminente catastrofe dell'intelligenza artificiale e perché c'è ancora speranza che possa essere evitata. 26 febbraio 2019
Amy Webb, futurista e professoressa della New York University Elena Seibert
Amy Webb, futurista, professoressa della New York University e autrice pluripremiata, ha trascorso gran parte dell'ultimo decennio a fare ricerche, discutere e incontrare persone e organizzazioni sull'intelligenza artificiale. Abbiamo raggiunto un culmine febbrile in tutto ciò che riguarda l'IA, dice. Ora è il momento di fare un passo indietro per vedere dove sta andando.
Questo è il compito del suo nuovo libro, The Big Nine: come i Tech Titans e le loro macchine pensanti potrebbero deformare l'umanità , dove ha una visione a volo d'uccello delle tendenze che, avverte, hanno messo lo sviluppo della tecnologia su una strada pericolosa. Negli Stati Uniti, Google, Microsoft, Amazon, Facebook, IBM e Apple (la G-MAFIA) sono ostacolati dalle incessanti richieste a breve termine di un mercato capitalistico, rendendo impossibile una pianificazione ponderata e a lungo termine per l'IA. In Cina, Tencent, Alibaba e Baidu stanno consolidando ed estraendo enormi quantità di dati per alimentare le ambizioni autoritarie del governo.
Se non cambiamo questa traiettoria, sostiene Webb, potremmo essere diretti verso la catastrofe. Ma c'è ancora tempo per agire e un ruolo che tutti possono svolgere. Il MIT Technology Review si è seduto con lei per parlare del motivo per cui è preoccupata e cosa pensa che possiamo fare al riguardo.
Le seguenti domande e risposte sono state condensate e modificate per chiarezza.
Lei afferma che al momento stiamo assistendo a una convergenza di preoccupanti tendenze tecnologiche, politiche ed economiche. Puoi approfondire quali sono le tendenze tecnologiche?
Quando parli con un ricercatore che lavora nel campo, ti dirà che passerà molto tempo prima di vedere molte delle promesse fatte sull'IA: cose come la piena automazione nei veicoli, il riconoscimento assoluto o intelligenza artificiale generale - AGI - sistemi capaci di cognizione e pensiero più simile a quello umano.
Dal mio punto di vista, guardando all'orizzonte per il giorno abbiamo una specie di macchina che cammina, parla o una macchina con una voce disincarnata che prende decisioni autonome, in qualche modo sfugge il punto. Stiamo già assistendo a miliardi di piccoli progressi che avranno un effetto combinato nel tempo e porteranno a sistemi in grado di prendere autonomamente molte decisioni contemporaneamente.
Il team di DeepMind, ad esempio, ha lavorato duramente per insegnare alle macchine come battere gli umani durante i giochi. Hanno fatto notevoli progressi in aree come l'apprendimento per rinforzo gerarchico e l'apprendimento multitasking. L'ultima versione del suo algoritmo AlphaGo, AlphaZero, è in grado di imparare a giocare a tre giochi contemporaneamente senza un essere umano nel loop. Questo è un salto abbastanza grande. C'è anche il nuovissimo campo delle reti generative contraddittorio, dove con un corpus di immagini di dimensioni decenti, ora puoi generare volti umani che sembravano molto, molto realistici.
Questi progressi non sono così sexy o eccitanti come quello che ci è stato detto su AGI. Ma se sei in grado di prendere la visuale di 40.000 piedi, puoi vedere che ci stiamo dirigendo verso una situazione in cui i sistemi faranno delle scelte per noi. E dobbiamo fermarci a chiederci cosa succede quando quei sistemi mettono da parte la strategia umana a favore di qualcosa a noi totalmente sconosciuto.
E le tendenze politiche ed economiche? Puoi descrivere quelli che ti preoccupano di più?
Negli Stati Uniti, il libero flusso di idee può diffondersi senza ostacoli. Così è stata fondata la Silicon Valley. Ha generato sia concorrenza che innovazione, ed è così che siamo arrivati al punto in cui siamo ora con l'IA, tra gli altri tipi di tecnologie.
The Big Nine: come i Tech Titans e le loro macchine pensanti potrebbero deformare l'umanità di Amy Webb
Tuttavia, negli Stati Uniti, soffriamo anche di una tragica mancanza di lungimiranza. Piuttosto che creare una grande strategia per l'IA o per il nostro futuro a lungo termine, il governo federale ha privato i fondi della ricerca scientifica e tecnologica. Quindi i soldi devono provenire dal settore privato. Ma gli investitori si aspettano anche una sorta di ritorno. Questo é un problema. Non puoi programmare le tue scoperte di ricerca e sviluppo quando lavori su tecnologia e ricerca fondamentali. Sarebbe fantastico se le grandi aziende tecnologiche avessero il lusso di lavorare sodo senza dover produrre una conferenza annuale per mostrare la loro ultima e più grande cosa strepitosa. Invece, ora abbiamo innumerevoli esempi di decisioni sbagliate che qualcuno nella G-MAFIA ha preso, probabilmente perché stavano lavorando velocemente. Stiamo iniziando a vedere gli effetti negativi della tensione tra fare ricerche nel miglior interesse dell'umanità e rendere felici gli investitori.
Ora sarebbe già abbastanza brutto così com'è, giusto? Ma tutto questo sta accadendo nello stesso momento in cui c'è un'enorme quantità di potere che si sta consolidando in Cina. La Cina ha un fondo sovrano dedicato alla ricerca di base fondamentale nell'IA. Stanno lanciando enormi quantità di denaro all'IA. E hanno un'idea completamente diversa rispetto agli Stati Uniti quando si tratta di privacy e dati. Ciò significa che hanno molti più dati che possono essere estratti e perfezionati. Con un'autorità centrale, è semplicissimo per il governo testare e creare servizi di intelligenza artificiale che incorporano i dati di 1,3 miliardi di persone. E questo è solo all'interno del loro paese.
Poi c'è la Belt and Road Initiative, che sembra un programma infrastrutturale tradizionale ma è in parte anche digitale. Non si tratta solo di costruire strade e ponti; si tratta anche di costruire reti 5G e posare la fibra, e di estrarre e raffinare i dati all'estero. L'implementazione di queste tecnologie è un rischio per le persone che si preoccupano di cose come la libertà di parola e gli ideali democratici occidentali.
Perché dovremmo lottare per gli ideali democratici occidentali?
È un'ottima domanda. Ho vissuto in Cina, in Giappone e, ovviamente, negli Stati Uniti. E potresti guardare lo stato del nostro paese in questo momento e cosa sta succedendo in Cina e chiederti, è davvero la cosa peggiore? Il sistema cinese di punteggio del credito sociale, tra l'altro, suona strano e terribile per gli americani, ma ciò che molte persone non si rendono conto è che l'auto-segnalazione e il monitoraggio del comportamento all'interno dei villaggi e delle comunità sono parte della cultura cinese da sempre. Il punteggio di credito sociale in qualche modo lo automatizza. Quindi sì, è una domanda fantastica.
Immagino che quello che direi è che se dovessi guardare alla versione idealizzata del comunismo cinese e alla versione idealizzata della democrazia occidentale, sceglierei la democrazia occidentale perché penso che ci sia una migliore opportunità per il libero flusso di idee e per la vita quotidiana. persone per avere successo. Penso che dare alle persone incentivi per la realizzazione individuale e personale sia un ottimo modo per elevare una società, ci aiuti a raggiungere il nostro potenziale individuale.
Con la direzione in cui il mondo sta andando con l'IA oggi, è un confronto equo? Dovremmo confrontare le versioni idealizzate del comunismo cinese con la democrazia occidentale, o le peggiori versioni delle due?
Questa è un'ottima domanda perché potresti sostenere che pezzi dell'ecosistema dell'IA stanno già influenzando i nostri ideali democratici occidentali in un modo davvero negativo. Ovviamente, tutto ciò che è successo con Facebook serve da esempio. Ma guarda anche cosa sta succedendo con la comunità anti-vaxxer. Stanno diffondendo informazioni totalmente errate sui vaccini e sulla scienza di base. Le nostre tradizioni americane diranno libertà di parola, le piattaforme sono piattaforme, dobbiamo lasciare che le persone si esprimano. Bene, la sfida è che gli algoritmi stanno facendo scelte sui contenuti editoriali che stanno portando le persone a prendere decisioni molto sbagliate e di conseguenza ad ammalare i bambini.
Il problema è che la nostra tecnologia è diventata sempre più sofisticata, ma il nostro modo di pensare su cosa sia la libertà di parola e che aspetto abbia un'economia di libero mercato non è diventato così sofisticato. Tendiamo a ricorrere a interpretazioni molto semplici: libertà di parola significa che tutta la parola è libera a meno che non si opponga alla legge sulla diffamazione, e questa è la fine della storia. Non è la fine della storia. Dobbiamo iniziare ad avere una conversazione più sofisticata e intelligente sulle nostre leggi attuali, sulla nostra tecnologia emergente e su come possiamo far incontrare quei due nel mezzo.
In altre parole, hai fiducia che ci evolveremo da dove siamo ora a una versione più idealizzata della democrazia occidentale. E lo preferiresti di gran lunga al comunismo cinese idealizzato.
Sì, ho fiducia che sia possibile. La mia grande preoccupazione è che tutti stiano aspettando, che stiamo trascinando i tacchi e ci vorrà una vera catastrofe per far agire le persone, come se il luogo in cui siamo arrivati non fosse catastrofico. Ma il fatto che il morbillo sia tornato nello stato di Washington per me è un risultato catastrofico. Così è quello che è successo sulla scia delle elezioni. Indipendentemente da quale parte dello spettro politico ti trovi, non riesco a immaginare che nessuno oggi pensi che l'attuale clima politico sia positivo per il nostro futuro.
Quindi credo assolutamente che ci sia un percorso da seguire. Ma dobbiamo stare insieme e colmare il divario tra la Silicon Valley e la DC in modo da poter guidare tutti la barca nella stessa direzione.
Cosa consigliate di fare al governo, alle aziende, alle università e ai singoli consumatori?
Il percorso evolutivo dell'IA è un problema e ognuno di noi ha un interesse. Tu, io, mio padre, il mio vicino di casa, il ragazzo dello Starbucks che sto passando davanti in questo momento. Quindi cosa dovrebbero fare le persone comuni? Sii più consapevole di chi sta usando i tuoi dati e come. Prenditi qualche minuto per leggere il lavoro scritto da persone intelligenti e dedica un paio di minuti per capire di cosa stiamo parlando. Prima di firmare la tua vita e iniziare a condividere le foto dei tuoi figli, fallo in modo informato. Se sei d'accordo con ciò che implica e cosa potrebbe significare in seguito, va bene, ma almeno acquisisci prima quella conoscenza.
Le aziende e gli investitori non possono aspettarsi di affrettare un prodotto più e più volte. Ci sta preparando a problemi lungo la strada. Così possono fare cose come sostenere i loro processi di assunzione, aumentare significativamente i loro sforzi per migliorare l'inclusività e assicurarsi che il loro personale sia più rappresentativo di come appare il mondo reale. Possono anche mettere dei freni. Qualsiasi investimento fatto in una società o progetto di intelligenza artificiale o qualunque cosa possa essere dovrebbe includere anche finanziamenti e tempo per controllare cose come rischio e pregiudizi.
Le università devono creare spazio nei loro programmi per lauree ibride. Dovrebbero incentivare gli studenti CS a studiare letteratura comparata, religioni del mondo, microeconomia, antropologia culturale e corsi simili in altri dipartimenti. Dovrebbero sostenere programmi di doppia laurea in informatica e relazioni internazionali, teologia, scienze politiche, filosofia, salute pubblica, istruzione e simili. L'etica non dovrebbe essere insegnata come una classe a sé stante, qualcosa da spuntare semplicemente da un elenco. Le scuole devono incentivare anche i professori di ruolo a tessere discussioni complicate su pregiudizi, rischio, filosofia, religione, genere ed etica nei loro corsi.
Una delle mie più grandi raccomandazioni è la formazione di GAIA, quella che chiamo Global Alliance on Intelligence Augmentation. Al momento le persone in tutto il mondo hanno atteggiamenti e approcci molto diversi quando si tratta di raccolta e condivisione dei dati, cosa può e dovrebbe essere automatizzato e come potrebbe essere un futuro con sistemi più generalmente intelligenti. Quindi penso che dovremmo creare una sorta di organizzazione centrale in grado di sviluppare norme e standard globali, una sorta di guardrail per infondere non solo gli ideali americani o cinesi all'interno dei sistemi di intelligenza artificiale, ma anche visioni del mondo che sono molto più rappresentative di tutti.
Soprattutto, dobbiamo essere disposti a pensare a questo a lungo termine, non solo tra cinque anni. Dobbiamo smettere di dire, beh, non possiamo predire il futuro, quindi non preoccupiamocene adesso. È vero, non possiamo prevedere il futuro. Ma possiamo certamente fare un lavoro migliore di pianificazione per questo.
Una versione ridotta di questa storia è apparsa originariamente nella nostra newsletter AI The Algorithm. Per riceverlo direttamente nella tua casella di posta, registrati qui gratuitamente.