Il Congresso vuole proteggerti da algoritmi distorti, deepfake e altre cattive IA

Simone Nironha

Mercoledì scorso, i legislatori statunitensi hanno introdotto a nuova fattura che rappresenta uno dei primi grandi sforzi del paese per regolamentare l'IA. È probabile che ne verranno altri.

Allude a un drammatico cambiamento nella posizione di Washington verso una delle tecnologie più potenti di questo secolo. Solo pochi anni fa, i responsabili politici avevano poca propensione a regolamentare l'IA. Ora, poiché le conseguenze di non farlo diventano sempre più tangibili, un piccolo contingente al Congresso sta portando avanti una strategia più ampia per tenere a freno la tecnologia.

Sebbene gli Stati Uniti non siano i soli in questa impresa: il Regno Unito, Francia , Australia e altri hanno recentemente redatto o approvato una legislazione per ritenere le aziende tecnologiche responsabili dei loro algoritmi: il paese ha un'opportunità unica per plasmare l'impatto globale dell'IA come sede della Silicon Valley. Un problema in Europa è che non siamo all'avanguardia nello sviluppo dell'IA, afferma Bendert Zevenbergen, ex consulente per le politiche tecnologiche al Parlamento europeo e ora ricercatore all'Università di Princeton. Siamo una specie di destinatari della tecnologia AI in molti modi. Siamo sicuramente il secondo livello. Il primo livello sono gli Stati Uniti e la Cina.

Il nuovo disegno di legge, chiamato Algorithmic Accountability Act, richiederebbe alle grandi aziende di controllare i propri sistemi di apprendimento automatico per individuare eventuali pregiudizi e discriminazioni e intraprendere azioni correttive in modo tempestivo se tali problemi fossero identificati. Richiederebbe inoltre a tali aziende di controllare non solo l'apprendimento automatico, ma tutti i processi che coinvolgono dati sensibili, comprese le informazioni di identificazione personale, biometriche e genetiche, per i rischi per la privacy e la sicurezza. Se dovesse passare, il disegno di legge porrebbe il potere di regolamentazione nelle mani della Federal Trade Commission degli Stati Uniti, l'agenzia responsabile della protezione dei consumatori e della regolamentazione antitrust.

Il progetto di legge è il primo prodotto di molti mesi di discussione tra legislatori, ricercatori e altri esperti per proteggere i consumatori dagli impatti negativi dell'IA, afferma Mutale Nkonde, ricercatore presso il Data & Society Research Institute che è stato coinvolto nel processo. Viene in risposta a diverse rivelazioni di alto profilo nell'ultimo anno che hanno mostrato il danno di vasta portata che il pregiudizio algoritmico può avere in molti contesti. Questi includono Amazon strumento di assunzione interna che ha penalizzato le candidate donne; piattaforme commerciali di analisi e riconoscimento facciale che sono molto meno accurate per le donne dalla pelle più scura rispetto agli uomini dalla pelle più chiara; e, per lo più di recente, un algoritmo di raccomandazione degli annunci di Facebook che probabilmente perpetua la discriminazione sul lavoro e sull'alloggio indipendentemente dal pubblico di destinazione specificato dall'inserzionista.

Storia correlata

Storia correlata I pregiudizi possono insinuarsi in molte fasi del processo di deep learning e le pratiche standard in informatica non sono progettate per rilevarlo.

Il disegno di legge è già stato elogiato dai membri della comunità di ricerca e etica dell'IA come un passo importante e ponderato verso la protezione delle persone da impatti così disparati non intenzionali. Ottimo primo passo, ha scritto Andrew Selbst, studioso di tecnologia e diritto presso Data & Society, su Twitter . Richiederebbe documentazione, valutazione e tentativi di affrontare gli impatti previsti. È nuovo, eccitante e incredibilmente necessario.

Inoltre, non sarà l'unico passo. La proposta, afferma Nkonde, fa parte di una strategia più ampia per portare in futuro il controllo normativo su qualsiasi processo e prodotto di IA. Probabilmente presto ci sarà un altro disegno di legge per affrontare la diffusione della disinformazione, compresi i deepfake, come minaccia alla sicurezza nazionale, dice. Un altro conto introdotto martedì vieterebbe le pratiche di progettazione manipolativa che i giganti della tecnologia a volte usano per convincere i consumatori a rinunciare ai propri dati. È un attacco su più fronti, dice Nkonde.

Ogni fattura è volutamente espansiva e comprende diversi prodotti di intelligenza artificiale e processi di dati in una varietà di domini. Una delle sfide con cui Washington ha affrontato è che una tecnologia come il riconoscimento facciale può essere utilizzata per scopi drasticamente diversi tra i vari settori , come le forze dell'ordine, il settore automobilistico e persino la vendita al dettaglio. Dal punto di vista normativo, i nostri prodotti sono specifici del settore, afferma Nkonde. I regolatori che guardano alle automobili non sono gli stessi regolatori che guardano agli appalti del settore pubblico, che non sono gli stessi regolatori che guardano agli elettrodomestici.

Il Congresso sta cercando di riflettere su come rielaborare il tradizionale quadro normativo per accogliere questa nuova realtà. Ma sarà difficile farlo senza imporre una soluzione unica per tutti i diversi contesti. Poiché il riconoscimento facciale viene utilizzato per così tante cose diverse, sarà difficile dire: 'Queste sono le regole per il riconoscimento facciale', afferma Zevenbergen.

Nkonde prevede che questo movimento normativo alla fine darà vita a un nuovo ufficio o agenzia specificamente focalizzata sulle tecnologie avanzate. Ci saranno, tuttavia, grossi ostacoli lungo il percorso. Mentre le protezioni contro la disinformazione e la raccolta manipolativa dei dati hanno raccolto il sostegno bipartisan, il disegno di legge sulla responsabilità algoritmica è sponsorizzato da tre democratici, il che rende meno probabile che venga approvato da un Senato controllato dai repubblicani e firmato dal presidente Trump. Inoltre, attualmente solo una manciata di membri del Congresso ha una conoscenza tecnica sufficientemente profonda dei dati e dell'apprendimento automatico per affrontare la regolamentazione in modo adeguatamente sfumato. Queste idee e proposte sono una specie di nicchia in questo momento, dice Nkonde. Hai questi tre o quattro membri che li capiscono.

Ma lei rimane ottimista. Parte della strategia che va avanti include educare più membri sui problemi e coinvolgerli. Man mano che li istruisci su cosa includono queste bollette e man mano che le bollette ottengono co-sponsor, si sposteranno sempre più al centro fino a quando la regolamentazione del settore tecnologico non sarà un gioco da ragazzi, dice.

Questa storia è apparsa originariamente nella nostra newsletter AI nominata da Webby The Algorithm. Per riceverlo direttamente nella tua casella di posta, registrati qui gratuitamente.

nascondere