Gli hacker possono indurre una Tesla ad accelerare di 50 miglia orarie

Tesla Model S alla guida nella Bay Area della California Tesla

Non credere agli occhi bugiardi della tua auto.

Gli hacker hanno manipolato più auto Tesla per accelerare di 50 miglia all'ora. I ricercatori hanno ingannato il sistema di telecamere Mobileye EyeQ3 dell'auto alterando sottilmente un segnale di limite di velocità sul lato di una strada in un modo che una persona che passa quasi non se ne accorgerebbe quasi mai.

Questo dimostrazione dell'azienda di sicurezza informatica McAfee è l'ultima indicazione che l'apprendimento automatico contraddittorio può potenzialmente distruggere i sistemi di guida autonoma, presentando una sfida alla sicurezza per coloro che sperano di commercializzare la tecnologia.

I sistemi di telecamere Mobileye EyeQ3 leggono i segnali dei limiti di velocità e inseriscono tali informazioni in funzioni di guida autonoma come il controllo automatico della velocità di crociera di Tesla, hanno affermato Steve Povolny e Shivangee Trivedi del team Advanced Threat Research di McAfee.

I ricercatori hanno incollato un adesivo minuscolo e quasi impercettibile su un segnale di limite di velocità. La telecamera ha letto il segno come 85 invece di 35 e, durante i test, sia la Tesla Model X del 2016 che la Model S di quell'anno hanno accelerato a 50 miglia orarie.

Il segnale del limite di velocità modificato si legge come 85 sul display head-up della Tesla. Un portavoce di Mobileye ha minimizzato la ricerca suggerendo che questo segno indurrebbe anche un essere umano a leggere 85. McAfee

Questa è l'ultima di una montagna crescente di ricerche che mostrano come i sistemi di apprendimento automatico possono essere attaccati e ingannati in situazioni pericolose per la vita.

In un processo di ricerca di 18 mesi, Trivedi e Povolny hanno replicato e ampliato una serie di attacchi contraddittori di apprendimento automatico, incluso uno studio della professoressa della UC Berkeley Dawn Song che utilizzava adesivi per ingannare un'auto a guida autonoma facendogli credere che un segnale di stop fosse un segnale di limite di velocità di 45 miglia orarie. L'anno scorso, gli hacker hanno indotto una Tesla a virare nella corsia sbagliata nel traffico applicando adesivi sulla strada in un attacco contraddittorio inteso a manipolare gli algoritmi di apprendimento automatico dell'auto.

Il motivo per cui lo stiamo studiando in anticipo è perché hai sistemi intelligenti che ad un certo punto in futuro svolgeranno compiti che ora sono gestiti dagli umani, ha detto Povolny. Se non siamo molto preveggenti su quali siano gli attacchi e siamo molto attenti a come sono progettati i sistemi, allora hai una flotta mobile di computer interconnessi che sono una delle superfici di attacco più impattanti e allettanti là fuori.

Con la proliferazione dei sistemi autonomi, il problema si estende agli algoritmi di apprendimento automatico ben oltre i veicoli: un marzo 2019 studia ha mostrato che i sistemi medici di apprendimento automatico sono stati ingannati nel fornire diagnosi sbagliate.

La ricerca McAfee è stata divulgata sia a Tesla che a Mobileye EyeQ3 l'anno scorso. Tesla non ha risposto a una richiesta di commento dal MIT Technology Review, ma ha riconosciuto i risultati di McAfee e ha affermato che i problemi non sarebbero stati risolti in quella generazione di hardware. Un portavoce di Mobileye ha minimizzato la ricerca suggerendo che il segno modificato indurrebbe anche un essere umano a leggere 85 invece di 35. La società non considera l'inganno della telecamera un attacco e, nonostante il ruolo svolto dalla telecamera nel cruise control di Tesla, non è stato progettato per la guida autonoma.

La tecnologia dei veicoli autonomi non si baserà solo sul rilevamento, ma sarà anche supportata da varie altre tecnologie e dati, come la mappatura in crowdsourcing, per garantire l'affidabilità delle informazioni ricevute dai sensori della fotocamera e offrire ridondanze e sicurezza più robuste, il portavoce di Mobileye detto in una dichiarazione.

Da allora Tesla è passata a fotocamere proprietarie sui modelli più recenti e Mobileye EyeQ3 ha rilasciato diverse nuove versioni delle sue fotocamere che nei test preliminari non erano suscettibili a questo attacco esatto.

C'è ancora un numero considerevole di auto Tesla che funzionano con l'hardware vulnerabile, ha detto Povolny. Ha sottolineato che le Tesla con la prima versione dell'hardware non possono essere aggiornate a un hardware più recente.

Quello che stiamo cercando di fare è che stiamo davvero cercando di sensibilizzare sia i consumatori che i venditori sui tipi di difetti possibili, ha detto Povolny Non stiamo cercando di diffondere la paura e dire che se guidi questa macchina, lo farà accelerare attraverso una barriera, o per sensazionalizzarla.

nascondere