Il principale funzionario della sicurezza non si fida delle case automobilistiche per insegnare l'etica alle auto a guida autonoma

I rapidi progressi nella guida autonoma hanno suscitato preoccupazioni sul fatto che i veicoli futuri dovranno fare scelte etiche, ad esempio se sterzare per evitare un incidente se ciò causerebbe gravi danni alle persone all'esterno del veicolo.

Christopher Hart, presidente del National Transportation Safety Board, è uno di loro. Disse Revisione della tecnologia del MIT che i regolamenti federali saranno tenuti a stabilire la morale di base dei veicoli autonomi, nonché gli standard di sicurezza per quanto devono essere affidabili.

Hart ha affermato che la National Highway Traffic Safety Administration (NHTSA) richiederà probabilmente ai progettisti di auto a guida autonoma di costruire dispositivi di sicurezza per i componenti critici dei loro veicoli, in modo simile a come fanno i produttori di aeromobili.

Un prototipo di auto a guida autonoma Mercedes-Benz.

Il governo dovrà entrare in gioco e dire: 'Devi mostrarmi una probabilità di fallimento inferiore a X, o devi mostrarmi un dispositivo di sicurezza che assicuri che questo fallimento non uccida le persone', ha detto Hart .

Hart ha anche affermato che dovrebbero esserci regole su come le prerogative etiche vengono codificate nel software. Ha fatto l'esempio di un'auto a guida autonoma di fronte alla decisione tra una collisione potenzialmente fatale con un camion fuori controllo o salire sul marciapiede e colpire i pedoni. Questo per me richiederà una risposta del governo federale da affrontare, ha detto Hart. Questo tipo di scelte etiche sarà inevitabile.

Che NHTSA ha valutato come regolerà le auto senza conducente negli ultimi otto mesi e rilascerà linee guida nel prossimo futuro. L'agenzia non ha finora discusso le preoccupazioni etiche sulla guida automatizzata.

La regolamentazione esistente per le auto a guida autonoma proviene da stati come la California e si rivolge ai veicoli prototipo testati da aziende come Alphabet e Uber. La California richiede che un autista di sicurezza sia sempre pronto a subentrare e che un fascicolo aziendale riporti in dettaglio gli incidenti in cui un essere umano doveva intervenire.

Ryan Calò , un esperto di diritto della robotica presso l'Università di Washington, è scettico sul fatto che sia possibile tradurre le discussioni etiche teoriche fino ad ora in regole pratiche o progetti di sistema. Non pensa che le auto a guida autonoma siano abbastanza sofisticate per comprendere i diversi fattori che un essere umano farebbe in una situazione di vita reale.

Calo crede che il vero dilemma sia se siamo disposti a schierare veicoli che prevengano molti incidenti ma commettano anche occasionali errori mortali che nessun essere umano farebbe. Se incontra un carrello della spesa e un passeggino allo stesso tempo, non sarà in grado di prendere una decisione morale sul fatto che la spesa sia meno importante delle persone, afferma Calo. Ma cosa succede se nel complesso salva decine di migliaia di vite perché è più sicuro delle persone?

Patrizio Lin , un professore di filosofia alla Cal Poly State University, San Luis Obispo, che ha studiato etica e guida autonoma con il ramo no-profit di Daimler-Benz, afferma che l'idea delle auto che fanno deliberazioni etiche non dovrebbe essere respinta così rapidamente. I progressi nei sensori, nell'intelligenza artificiale e nel software di riconoscimento facciale porteranno probabilmente a macchine in grado di decidere di salvare una vita e sacrificarne un'altra, dice.

È meglio se proviamo in modo proattivo ad anticipare e gestire il problema prima di arrivarci effettivamente, dice Lin. Questo è il tipo di cosa che creerà una causa che potrebbe distruggere un'azienda o lasciare un enorme segno nero nel settore.

Gli standard federali in materia di etica o altri aspetti della sicurezza potrebbero anche portare una certa trasparenza sul modo in cui le auto senza conducente prendono le decisioni. Lin afferma che le case automobilistiche generalmente vogliono mantenere segreto il funzionamento interno del software dei loro veicoli da hacker e concorrenti. Le case automobilistiche sono notoriamente riservate riguardo alla loro programmazione e al loro modo di pensare all'ottimizzazione degli incidenti, dice.

nascondere