Gli scenari Black Mirror che stanno portando alcuni esperti a chiedere maggiore segretezza sull'IA

Santiago Zavala

L'IA potrebbe riavviare le industrie e rendere l'economia più produttiva; sta già infondendo molti dei prodotti che utilizziamo quotidianamente. Ma un nuovo rapporto di oltre 20 ricercatori delle Università di Oxford e Cambridge, OpenAI , e il Fondazione della frontiera elettronica avverte che la stessa tecnologia crea nuove opportunità per criminali, agenti politici e governi oppressivi, al punto che alcune ricerche sull'IA potrebbero dover essere tenute segrete.

Incluso nel rapporto, L'uso dannoso dell'intelligenza artificiale: previsione, prevenzione e mitigazione , sono quattro vignette distopiche che coinvolgono l'intelligenza artificiale che sembrano uscite direttamente dallo spettacolo di fantascienza di Netflix Specchio nero .

Scenario 1: La truffa di phishing più intelligente

L'amministratore di un sistema di sicurezza robotica di un edificio trascorre parte del suo tempo su Facebook durante la giornata lavorativa. Lì vede un annuncio per un modellino di treno e scarica un opuscolo. A sua insaputa, la brochure è stata infettata da malware; i truffatori hanno utilizzato l'IA per capire dai dettagli che ha pubblicato pubblicamente di essere un'appassionata di modellini di treni e hanno progettato la brochure solo per lei. Quando lo apre, consente agli hacker di spiare il suo computer e ottenere il suo nome utente e password per il sistema di sicurezza dell'edificio, consentendo loro di assumerne il controllo.

Scenario 2: L'epidemia di malware

Un gruppo di hacker dell'Europa orientale utilizza una tecnica di apprendimento automatico normalmente utilizzata per la difesa dei sistemi informatici e la adatta per creare un malware più tenace e pernicioso. Il programma utilizza tecniche simili a quelle che si trovano nell'IA AlphaGo di Go-playing per generare continuamente nuovi exploit. I computer in buone condizioni rimangono immuni, ma i sistemi più vecchi e i dispositivi intelligenti sono infetti. Milioni di persone sono costrette a pagare un riscatto di 300 euro (in Bitcoin, naturalmente) per recuperare le proprie macchine. A peggiorare le cose, i tentativi di contrastare il malware utilizzando un altro exploit finiscono per bloccare molti dei sistemi intelligenti che avrebbero dovuto salvare.

Scenario 3: Il robot assassino

Un robot per le pulizie si infiltra nel ministero delle finanze tedesco fondendosi con le macchine legittime che tornano nell'edificio dopo un turno all'aperto. Il giorno seguente, il robot esegue le normali attività di pulizia, identifica il ministro delle finanze utilizzando il riconoscimento facciale, si avvicina a lei e fa esplodere una micidiale bomba nascosta. Gli investigatori rintracciano il robot killer in un negozio di forniture per ufficio a Potsdam, dove è stato acquistato in contanti, e la pista si fa fredda.

Scenario 4: Un Grande Fratello più grande

Un uomo è furioso per i dilaganti attacchi informatici e per l'apparente incapacità di agire del governo. Ispirato dalle notizie, diventa sempre più determinato a fare qualcosa: scrivere post online sui pericoli, ordinare materiali per realizzare cartelli di protesta e persino acquistare alcuni fumogeni, che intende utilizzare dopo aver tenuto un discorso in un parco locale. Il giorno successivo, i poliziotti si presentano nel suo ufficio e lo informano che il loro sistema predittivo di interruzione civile lo ha identificato come una potenziale minaccia. Se ne va in manette.

Questi cinque scenari illustrano solo una manciata dei rischi previsti dagli autori dello studio. Ecco alcuni degli altri:

• botnet che utilizzano l'intelligenza artificiale per simulare il comportamento di un vasto gruppo di utenti Internet umani, lanciando attacchi DDoS sui siti Web ingannando il software progettato per rilevare e bloccare tali attacchi
• operazioni di truffa su larga scala che identificano potenziali vittime online in base al carico di camion, utilizzando l'IA per individuare le persone ricche
• notizie convincenti composte da video e immagini generati dall'intelligenza artificiale dall'aspetto autentico ma del tutto falsi
• attacchi da parte di sciami di droni controllati da una sola persona, utilizzando un'IA per gestire un gran numero di macchine semiautonome
• sistemi che automatizzano il lavoro faticoso della criminalità, ad esempio negoziando pagamenti di riscatto con persone dopo aver infettato i loro computer con malware, per consentire truffe su vasta scala

Lo studio è meno sicuro di come contrastare tali minacce. Raccomanda ulteriori ricerche e dibattiti sui rischi dell'IA e suggerisce che i ricercatori dell'IA necessitano di un codice etico forte. Ma dice anche che dovrebbero esplorare modi per limitare le informazioni potenzialmente pericolose, nel modo in cui la ricerca su altre tecnologie a duplice uso con potenziale di armi è talvolta controllata.

L'IA presenta un problema particolarmente spinoso perché le sue tecniche e i suoi strumenti sono già diffusi, facili da diffondere e sempre più facili da usare, a differenza, ad esempio, del materiale fissile o dei patogeni mortali, che sono relativamente difficili da produrre e quindi facili da controllare. Tuttavia, ci sono precedenti per limitare questo tipo di conoscenza. Ad esempio, dopo il tentativo fallito del governo degli Stati Uniti di imporre la segretezza alla ricerca crittografica negli anni '80, molti ricercatori adottato un sistema volontario di presentare documenti all'Agenzia per la sicurezza nazionale per il controllo.

Jack Clark, direttore delle politiche di OpenAI e uno degli autori del rapporto, riconosce che adottare la segretezza potrebbe essere complicato. C'è sempre una linea incredibilmente sottile da percorrere, dice.

Apparentemente, alcuni ricercatori di intelligenza artificiale apprezzerebbero un approccio più cauto. Tommaso Dietterich , un professore dell'Oregon State University che ha già messo in guardia sul potenziale criminale dell'IA, osserva che gli autori del rapporto non includono esperti di sicurezza informatica o persone del calibro di Google, Microsoft e Apple. Il rapporto sembra essere stato scritto da estranei ben intenzionati come me piuttosto che da persone impegnate quotidianamente nella lotta alla criminalità informatica, dice.

nascondere