211service.com
Le auto completamente autonome sono improbabili, afferma il principale funzionario americano per la sicurezza dei trasporti
Cristoforo Hart
Gli incidenti automobilistici uccidono più di 33.000 americani ogni anno, più degli omicidi o delle overdose da farmaci. Le aziende che lavorano su auto a guida autonoma, come Alphabet e Ford, affermano che la loro tecnologia può ridurre quel numero rimuovendo le responsabilità umane come messaggi di testo, ubriachezza e stanchezza. Ma Cristoforo Hart , presidente del National Transportation Safety Board, afferma che l'esperienza della sua agenzia nelle indagini sugli incidenti che coinvolgono i sistemi di pilota automatico utilizzati nei treni e negli aerei suggerisce che gli esseri umani non possono essere completamente rimossi dal controllo. Disse Revisione della tecnologia del MIT che le future auto saranno molto più sicure, ma che alcune avranno ancora bisogno di umani come copiloti. Quella che segue è una trascrizione condensata.
Quanto sei ottimista sul fatto che le auto a guida autonoma taglieranno il bilancio delle vittime degli incidenti automobilistici?
Sono molto ottimista. Per decenni abbiamo cercato modi per mitigare gli infortuni in caso di incidente. Abbiamo le cinture di sicurezza, abbiamo gli airbag, abbiamo strutture [carrozzerie auto] più robuste. In questo momento, abbiamo l'opportunità di prevenire del tutto l'incidente. E questo salverà decine di migliaia di vite. Questo è il punto finale ideale: nessun arresto anomalo.
I sistemi di pilota automatico possono anche creare nuovi pericoli. L'NTSB ha affermato che l'eccessiva dipendenza dei piloti dall'automazione ha causato arresti anomali . Temi che questo fenomeno sia un problema anche per le auto?
Lo scenario ideale di cui ho parlato, salvare decine di migliaia di vite all'anno, presuppone la completa automazione senza alcun coinvolgimento umano. Non sono sicuro che lo faremo sempre raggiungere quel punto. Non vedo l'ideale dell'automazione completa in arrivo a breve.
Ad alcune persone piace solo guidare. Alcune persone non si fidano dell'automazione, quindi vorranno guidare. [E] non c'è nessun progettista di software al mondo che sarà mai abbastanza intelligente da anticipare tutte le potenziali circostanze che questo software incontrerà. Il cane che corre in strada, la persona che corre per strada, il ciclista, il poliziotto o l'operaio edile. O il ponte crolla in un'alluvione. Non c'è modo che tu possa progettare un sistema in grado di gestirlo.
La sfida è quando si dispone di un'automazione non così completa, con un coinvolgimento umano ancora significativo, è allora che l'autocompiacimento diventa un problema. È allora che la mancanza di competenze diventa il problema. Quindi la nostra sfida è: come gestiamo quello che probabilmente sarà uno scenario a lungo termine con ancora un coinvolgimento umano in questo sistema ampiamente automatizzato?
La recente fatalità di un conducente che utilizza la funzione Autopilot di Tesla potrebbe essere un fallimento dell'automazione. Perché l'NTSB sta indagando su quell'incidente?
Non indaghiamo sulla maggior parte degli incidenti stradali. Ciò che portiamo su questo tavolo è l'esperienza [con] scenari di introduzione dell'automazione in sistemi complessi e incentrati sull'uomo, cosa che questo è sicuramente. Stiamo indagando su questo incidente perché vediamo che l'automazione sta arrivando nelle auto e vorremmo cercare di aiutare a informare quel processo con la nostra esperienza con altri tipi di automazione.
Tipo cosa?
Bene, abbiamo indagato su un incidente di people mover in un aeroporto. Si è scontrato con un altro people mover. E la nostra indagine ha rilevato che il problema era un problema di manutenzione. Anche se elimini l'operatore, hai comunque un errore umano da parte di chi lo ha progettato, di chi lo ha costruito, di chi lo mantiene.
Alcune persone affermano che le auto a guida autonoma dovranno prendere decisioni etiche, ad esempio decidere a chi fare del male quando una collisione è inevitabile. È un vero problema?
Posso darti un esempio che ho visto menzionato in diversi posti. La mia auto automatizzata si trova di fronte a un camion da 80.000 libbre nella mia corsia. Ora l'auto deve decidere se imbattersi in questo camion e uccidere me, l'autista, o salire sul marciapiede e uccidere 15 pedoni. Questo [dovrebbe] essere inserito nel sistema. Proteggere gli occupanti o proteggere altre persone? Questo per me richiederà una risposta del governo federale da affrontare. Questo tipo di scelte etiche sarà inevitabile.
Oltre alle sole scelte etiche, cosa succede se il sistema fallisce? Il sistema fallirà in un modo che riduca al minimo [danno] al pubblico, ad altre automobili, ai ciclisti? Il governo federale sarà coinvolto.
Come potrebbe essere quel processo?
La Federal Aviation Administration ha uno schema in base al quale se è meno probabile che accada qualcosa su un miliardo non è necessario disporre di un percorso di carico alternativo [una struttura di fallback per sostenere il peso dell'aereo]. Più probabile di così e hai bisogno di un fail-safe. A meno che tu non possa dimostrare che il longherone alare che si guasta - l'ala che si stacca - è meno di uno su un miliardo, è probabile che accada. Allora devi avere un piano B.
Lo stesso processo dovrà verificarsi con le auto. Penso che il governo dovrà entrare in gioco e dire: devi mostrarmi una probabilità di fallimento inferiore a X, o devi mostrarmi un dispositivo di sicurezza che assicuri che questo fallimento non uccida le persone. Stabilire il limite è qualcosa che penso rientrerà nel dominio del governo federale, non del governo statale. Non voglio 50 limiti.