Gli hacker inducono una Tesla a virare nella corsia sbagliata

Categoria: Intelligenza artificiale Inserito 01 aprile

Gli hacker hanno dimostrato alcuni modi preoccupanti per manipolare e confondere i vari sistemi su una Tesla Model S. La loro impresa più drammatica: mandare l'auto a sbandare nella corsia di marcia in arrivo applicando una serie di piccoli adesivi sulla strada.

Vettore di attacco: Questo è un esempio di attacco contraddittorio, un modo per manipolare un modello di apprendimento automatico alimentando un input appositamente predisposto. Gli attacchi contraddittori potrebbero diventare più comuni man mano che l'apprendimento automatico viene utilizzato più ampiamente, specialmente in aree come la sicurezza della rete.

Linee sfocate: Il pilota automatico di Tesla è vulnerabile perché riconosce le corsie utilizzando la visione artificiale. In altre parole, il sistema si basa sui dati della telecamera, analizzati da una rete neurale, per dire al veicolo come mantenersi centrato all'interno della propria corsia.

Ingorgo: Questo non è il primo attacco del contraddittorio a un sistema di guida autonoma. Dawn Song, una professoressa alla UC Berkeley, ha usato adesivi dall'aspetto innocuo per indurre un'auto a guida autonoma a pensare che un segnale di stop fosse un limite di velocità di 45 miglia orarie. Altro studia , pubblicato a marzo, ha dimostrato come i sistemi medici di apprendimento automatico possono essere indotti con l'inganno a fornire diagnosi sbagliate.

Correzioni di bug: I ricercatori dietro l'hack di riconoscimento della corsia, dal Esperto laboratorio di sicurezza del gigante tecnologico cinese Tencent, ha utilizzato un attacco simile per interrompere i tergicristalli automatici del veicolo. Hanno anche dirottato il volante dell'auto usando un altro metodo. Un portavoce di Tesla detto a Forbes che quest'ultima vulnerabilità è stata risolta nel suo aggiornamento software più recente. Il portavoce ha affermato che l'attacco del contraddittorio non era realistico dato che un conducente può facilmente scavalcare il pilota automatico in qualsiasi momento.