211service.com
Gli hacker sono il vero ostacolo per i veicoli a guida autonoma
Espen Friberg
Prima che camion e taxi autonomi si mettano in strada, i produttori dovranno risolvere problemi molto più complessi della prevenzione delle collisioni e della navigazione (vedi 10 Breakthrough Technologies 2017: Self-Driving Trucks).
Questi veicoli dovranno anticipare e difendersi da uno spettro completo di aggressori dannosi che brandiscono sia attacchi informatici tradizionali sia una nuova generazione di attacchi basati sul cosiddetto apprendimento automatico contraddittorio (vedi AI Fight Club potrebbe aiutarci a salvarci da un futuro di attacchi informatici super intelligenti ). Man mano che cresce il consenso sul fatto che i veicoli autonomi siano a pochi anni di distanza dall'essere schierati nelle città come taxi robotici e sulle autostrade per alleviare la noia stordente dei trasporti a lungo raggio, questo rischio di attacco è stato in gran parte scomparso dalla copertura senza fiato.
Mi ricorda numerosi articoli che promuovevano la posta elettronica nei primi anni '90, prima che il mondo ritrovato delle comunicazioni elettroniche fosse inondato di spam indesiderato. All'epoca, la promessa dell'apprendimento automatico era vista come una soluzione ai problemi di spam del mondo. E infatti, oggi il problema dello spam è in gran parte risolto, ma ci sono voluti decenni per arrivare qui.
Finora non ci sono state segnalazioni di hacker ostili che prendono di mira veicoli a guida autonoma. Ironia della sorte, però, questo è un problema. Non c'erano attaccanti dannosi nemmeno quando le startup dot-com negli anni '90 svilupparono le prime piattaforme di e-commerce. Dopo il primo grande giro di hack dell'e-commerce, Bill Gates ha scritto una nota a Microsoft chiedendo che l'azienda prenda sul serio la sicurezza . Il risultato: oggi Windows è uno dei sistemi operativi più sicuri e Microsoft spende più di un miliardo di dollari all'anno per la sicurezza informatica . Tuttavia, gli hacker continuano a riscontrare problemi con i sistemi operativi Windows, i browser Web e le applicazioni.
È probabile che le case automobilistiche attraversino una progressione simile. Dopo essere stati ampiamente imbarazzati dalla loro incapacità di considerare la sicurezza - il bus CAN, progettato negli anni '80, non ha alcun concetto di autenticazione - ora sembrano prestare attenzione. Quando gli hacker hanno dimostrato che i veicoli sulle strade erano vulnerabili a diverse minacce alla sicurezza specifiche, le case automobilistiche hanno risposto richiamando e aggiornando il firmware di milioni di automobili. Lo scorso luglio, l'amministratore delegato di GM Mary Barra ha affermato che proteggere le auto da un incidente di sicurezza informatica è una questione di sicurezza pubblica.
Ma gli sforzi compiuti fino ad oggi potrebbero mancare il prossimo trend di sicurezza. I sistemi di visione artificiale e di prevenzione delle collisioni in fase di sviluppo per i veicoli autonomi si basano su complessi algoritmi di apprendimento automatico che non sono ben compresi, nemmeno dalle aziende che si affidano a loro (vedi The Dark Secret at the Heart of AI).
Ricercatori dell'anno scorso al CMU lo ha dimostrato gli algoritmi di riconoscimento facciale all'avanguardia potrebbero essere sconfitti indossando un paio di occhiali trasparenti con un motivo originale stampato sulle montature. Qualcosa nel modello ha ribaltato l'algoritmo nel modo giusto e ha pensato di vedere cosa non c'era. Abbiamo dimostrato che gli aggressori possono eludere algoritmi di riconoscimento facciale all'avanguardia basati su reti neurali allo scopo di impersonare una persona bersaglio o semplicemente di essere identificati in modo errato, ha scritto in una e-mail il ricercatore capo Mahmood Sharif.
Sempre l'anno scorso, i ricercatori dell'Università della Carolina del Sud, dell'Università cinese di Zhejiang e della società di sicurezza cinese Qihoo 360 lo ha dimostrato potrebbero bloccare vari sensori su una Tesla S, rendendo gli oggetti invisibili al suo sistema di navigazione.
Molti articoli recenti sulla guida autonoma minimizzano o addirittura ignorano l'idea che potrebbero esserci avversari attivi, adattivi e maliziosi che cercano di far schiantare i veicoli. In un'intervista a Revisione della tecnologia del MIT , il presidente del National Transportation Safety Board, Christopher Hart, si è detto molto ottimista sul fatto che le auto a guida autonoma avrebbero ridotto il numero di incidenti sulle strade della nazione. Discutendo di problemi di sicurezza, Hart si è concentrato sulla necessità di programmare i veicoli per prendere decisioni etiche, ad esempio quando un camion da 80.000 libbre blocca improvvisamente la strada a un'auto.
Perché qualcuno dovrebbe voler hackerare un'auto a guida autonoma, sapendo che potrebbe provocare la morte? Uno dei motivi è che il dispiegamento diffuso di veicoli autonomi provocherà molti disoccupati e alcuni di loro si arrabbieranno.
Nell'agosto 2016, l'amministratore delegato di Ford Mark Fields detto questo prevedeva di disporre di veicoli completamente autonomi che operassero come taxi urbani entro il 2021. Google, Nissan e altri prevedevano di avere auto a guida autonoma simili sulle strade non appena nel 2020. Quei taxi automatizzati o veicoli per le consegne potrebbero essere vulnerabili a essere abbagliati maliziosamente con un alto -puntatore laser di potenza di un Teamster disoccupato, un ex guidatore di Uber che deve ancora pagare l'auto o semplicemente un branco di adolescenti annoiati.
Alla domanda sui suoi piani per affrontare la minaccia dell'apprendimento automatico contraddittorio, Sarah Abboud, portavoce di Uber, ha risposto: Il nostro team di esperti di sicurezza esplora costantemente nuove difese per il futuro dei veicoli autonomi, tra cui l'integrità dei dati e il rilevamento degli abusi. Tuttavia, con l'evoluzione della tecnologia autonoma, si evolve anche il modello di minaccia, il che significa che alcuni dei problemi di sicurezza odierni probabilmente differiranno da quelli affrontati in un ambiente veramente autonomo.
Ci vorranno solo pochi incidenti per fermare il dispiegamento di veicoli senza conducente. Questo probabilmente non ostacolerà i sistemi di pilota automatico avanzati, ma è probabile che rappresenti un deterrente considerevole per il dispiegamento di veicoli completamente autonomi.
Simon Garfinkel è uno scrittore di scienze che vive ad Arlington, in Virginia. Sta lavorando a un nuovo libro sulla storia dell'informatica.