211service.com
Cosa fare quando un robot è il colpevole
Il governo dovrebbe regolamentare l'intelligenza artificiale? Questa era la domanda centrale del primo laboratorio della Casa Bianca sulle implicazioni legali e di governance dell'IA, tenutasi martedì a Seattle.
Stiamo osservando problemi relativi all'intelligenza artificiale e all'apprendimento automatico che emergono in tutto il governo, ha affermato Ed Felten, vicedirettore capo della tecnologia della Casa Bianca. Non siamo affatto vicini al punto di regolamentare ampiamente l'IA... ma la sfida è come garantire che l'IA rimanga sicura, controllabile e prevedibile man mano che diventa più intelligente.
Uno degli obiettivi chiave del seminario, ha affermato uno dei suoi organizzatori, professore di diritto dell'Università di Washington Ryan Calò , era quello di aiutare il pubblico a capire dove si trova ora la tecnologia e dove è diretta. L'idea non è che il governo intervenga e regoli l'IA, ma piuttosto utilizzi le sue molte altre leve, come il coordinamento tra le agenzie e il potere di approvvigionamento, ha affermato. I partecipanti includevano imprenditori tecnologici, accademici e membri del pubblico.
In un discorso programmatico, Oren Etzioni, CEO dell'Allen Institute for Artificial Intelligence, ha osservato che siamo ancora nell'età buia dell'apprendimento automatico, con sistemi di intelligenza artificiale che generalmente funzionano bene solo su problemi ben strutturati come i giochi da tavolo e la guida in autostrada. Ha sostenuto un approccio collaborativo in cui l'IA può aiutare gli esseri umani a diventare più sicuri ed efficienti. Gli errori ospedalieri sono la terza causa di morte negli Stati Uniti, ha affermato. L'IA può aiutare qui. Ogni anno, le persone muoiono perché non utilizziamo correttamente l'IA negli ospedali.
Oren Etzioni, CEO dell'Allen Institute for Artificial Intelligence, a sinistra, parla con i partecipanti al workshop della Casa Bianca sull'intelligenza artificiale.
Tuttavia, Etzioni considera troppo presto per parlare di regolamentazione dell'IA: il deep learning è ancora per il 99% lavoro umano e ingegno umano. 'L'ha fatto il mio robot' non è una scusa. Dobbiamo assumerci la responsabilità di ciò che fanno i nostri robot, l'IA e gli algoritmi.
Un panel sulla saggezza artificiale incentrato su quando queste interazioni uomo-IA vanno male, come nel caso di an algoritmo progettato per prevedere futuri criminali che sembra essere razzialmente parziale. Il problema non riguarda gli agenti dell'IA in sé, ma gli esseri umani che usano strumenti tecnologici per opprimere altri umani nella finanza, nella giustizia penale e nell'istruzione, ha affermato Jack Balkin della Yale Law School.
Diversi accademici hanno sostenuto l'idea di un fiduciario dell'informazione: dare alle persone che raccolgono big data e utilizzano l'IA i doveri legali di buona fede e affidabilità. Ad esempio, i tecnologi potrebbero essere ritenuti responsabili se utilizzano dati di scarsa qualità per addestrare i sistemi di intelligenza artificiale o fossilizzano pregiudizi basati su razza, età o genere negli algoritmi che progettano.
Poiché le istituzioni governative fanno sempre più affidamento sui sistemi di intelligenza artificiale per il processo decisionale, tali istituzioni avranno bisogno di personale che comprenda i limiti e i pregiudizi inerenti ai dati e alla tecnologia di intelligenza artificiale, ha osservato Kate Crawford , uno scienziato sociale presso Microsoft Research. Ha suggerito che agli studenti venga insegnata l'etica insieme alle abilità di programmazione.
Bryant Walker Smith dell'Università della Carolina del Sud ha proposto flessibilità normativa per tecnologie in rapida evoluzione, come le auto senza conducente. Le singole aziende dovrebbero presentare una causa pubblica per la sicurezza dei loro veicoli autonomi, ha affermato. Dovrebbero stabilire misure e quindi monitorarle per tutta la vita dei loro sistemi. Abbiamo bisogno di una varietà di approcci per informare il dibattito pubblico.
Questo è stato il primo dei quattro workshop previsti per i prossimi mesi. Due affronteranno l'IA per il bene sociale e le questioni relative alla sicurezza e al controllo, mentre l'ultimo approfondirà le implicazioni sociali ed economiche della tecnologia. Felten ha anche annunciato che la Casa Bianca avrebbe a breve emesso una richiesta di informazioni per dare al grande pubblico l'opportunità di pesare sul futuro dell'IA.
L'elefante nella stanza, ovviamente, sono state le elezioni presidenziali di novembre. In un post sul blog All'inizio di questo mese, Felten ha presentato una nuova sottocommissione del Consiglio nazionale per la scienza e la tecnologia sull'apprendimento automatico e l'intelligenza artificiale, incentrata sull'utilizzo dell'IA per migliorare i servizi del governo da qui alla fine dell'amministrazione.