Preoccupato per l'etica dell'IA della tua azienda? Queste startup sono qui per aiutarti.

Getty

Il lavoro di Rumman Chowdhury richiedeva molte traduzioni. In qualità di responsabile dell'intelligenza artificiale presso la società di consulenza Accenture, avrebbe lavorato con i clienti che lottavano per comprendere i loro modelli di intelligenza artificiale. Come facevano a sapere se i modelli stavano facendo quello che avrebbero dovuto? La confusione spesso derivava in parte dal fatto che i data scientist, gli avvocati e i dirigenti dell'azienda sembravano parlare lingue diverse. La sua squadra avrebbe agito da intermediario in modo che tutte le parti potessero mettersi d'accordo. Era a dir poco inefficiente: l'auditing di un singolo modello poteva richiedere mesi.

Quindi, alla fine del 2020, Chowdhury ha lasciato il suo incarico per avviare la propria impresa. Chiamato Parità AI , offre ai clienti una serie di strumenti che cercano di ridurre il processo a poche settimane. In primo luogo li aiuta a identificare come vogliono controllare il loro modello (è per pregiudizi o per conformità legale?) e poi fornisce consigli per affrontare il problema.

La parità è tra un numero crescente di startup che promettono alle organizzazioni modi per sviluppare, monitorare e correggere i propri modelli di intelligenza artificiale. Offrono una gamma di prodotti e servizi, dagli strumenti di mitigazione dei pregiudizi alle piattaforme di spiegabilità. Inizialmente la maggior parte dei loro clienti proveniva da settori fortemente regolamentati come la finanza e l'assistenza sanitaria. Ma una maggiore ricerca e l'attenzione dei media su problemi di parzialità , privacy e trasparenza hanno spostato il focus della conversazione. I nuovi clienti sono spesso semplicemente preoccupati di essere responsabili, mentre altri vogliono essere a prova di futuro in previsione della regolamentazione.

Così tante aziende stanno davvero affrontando questo problema per la prima volta, afferma Chowdhury. Quasi tutti in realtà chiedono aiuto.

Dal rischio all'impatto

Quando lavora con nuovi clienti, Chowdhury evita di usare il termine responsabilità. La parola è troppo morbida e mal definita; lascia troppo spazio a problemi di comunicazione. Inizia invece con un gergo aziendale più familiare: l'idea di rischio. Molte aziende hanno armi di rischio e conformità e processi stabiliti per la mitigazione del rischio.

La mitigazione del rischio dell'IA non è diversa. Un'azienda dovrebbe iniziare considerando le diverse cose di cui si preoccupa. Questi possono includere il rischio legale, la possibilità di infrangere la legge; rischio organizzativo, possibilità di perdere dipendenti; o rischio reputazionale, la possibilità di subire un disastro PR. Da lì, può lavorare a ritroso per decidere come controllare i suoi sistemi di intelligenza artificiale. Una società finanziaria, che opera secondo le leggi sul prestito equo negli Stati Uniti, vorrebbe controllare i suoi modelli di prestito per individuare eventuali pregiudizi per mitigare il rischio legale. Una società di telemedicina, i cui sistemi si addestrano su dati medici sensibili, potrebbe eseguire audit sulla privacy per mitigare il rischio reputazionale.

Parity include una libreria di domande suggerite per aiutare le aziende a valutare il rischio dei loro modelli di IA.

PARITÀ

La parità aiuta a organizzare questo processo. La piattaforma chiede innanzitutto a un'azienda di creare una valutazione d'impatto interna, in sostanza, una serie di domande di indagine a risposta aperta su come funzionano la sua attività e i suoi sistemi di intelligenza artificiale. Può scegliere di scrivere domande personalizzate o selezionarle dalla libreria di Parity, che ha più di 1.000 suggerimenti adattati dalle linee guida etiche dell'IA e dalla legislazione pertinente di tutto il mondo. Una volta che la valutazione è stata costruita, i dipendenti dell'azienda sono incoraggiati a compilarla in base alla loro funzione lavorativa e alle loro conoscenze. La piattaforma esegue quindi le risposte a testo libero attraverso un modello di elaborazione in linguaggio naturale e le traduce tenendo conto delle principali aree di rischio dell'azienda. La parità, in altre parole, funge da nuovo intermediario per mettere d'accordo data scientist e avvocati.

Successivamente, la piattaforma raccomanda una serie corrispondente di azioni di mitigazione del rischio. Questi potrebbero includere la creazione di un dashboard per monitorare continuamente l'accuratezza di un modello o l'implementazione di nuove procedure di documentazione per tenere traccia di come un modello è stato addestrato e messo a punto in ogni fase del suo sviluppo. Offre anche una raccolta di framework e strumenti open source che potrebbero aiutare, come quelli di IBM Equità dell'IA 360 per il monitoraggio della distorsione o Schede modello di Google per la documentazione.

Chowdhury spera che, se le aziende possono ridurre il tempo necessario per l'audit dei propri modelli, diventeranno più disciplinate nel farlo regolarmente e spesso. Nel tempo, spera, questo potrebbe anche aprirli a pensare oltre la mitigazione del rischio. Il mio obiettivo subdolo è in realtà quello di convincere più aziende a pensare all'impatto e non solo al rischio, dice. Il rischio è il linguaggio che le persone capiscono oggi ed è un linguaggio molto prezioso, ma il rischio è spesso reattivo e reattivo. L'impatto è più proattivo e questo è in realtà il modo migliore per inquadrare ciò che dovremmo fare.

Un ecosistema di responsabilità

Mentre Parity si concentra sulla gestione del rischio, un'altra startup, Violinista , si concentra sulla spiegabilità. Il CEO Krishna Gade ha iniziato a pensare alla necessità di una maggiore trasparenza nel modo in cui i modelli di intelligenza artificiale prendono le decisioni mentre prestava servizio come responsabile tecnico del team del feed di notizie di Facebook. Dopo le elezioni presidenziali del 2016, l'azienda ha fatto una grande spinta interna per capire meglio come i suoi algoritmi stavano classificando i contenuti. Il team di Gade ha sviluppato uno strumento interno che in seguito è diventato la base del Perchè io sto vedendo questo? caratteristica .

Storia correlata

Cinque modi per rendere l'IA una maggiore forza positiva nel 2021 C'è più attenzione che mai sull'influenza dell'IA. Facciamolo contare.

Gade ha lanciato Fiddler poco dopo, nell'ottobre 2018. Aiuta i team di data science a tenere traccia delle prestazioni in evoluzione dei loro modelli e crea report di alto livello per i dirigenti aziendali in base ai risultati. Se l'accuratezza di un modello si deteriora nel tempo o mostra comportamenti distorti, Fiddler aiuta a eseguire il debug del motivo per cui ciò potrebbe accadere. Gade vede il monitoraggio dei modelli e il miglioramento della spiegazione come i primi passi per sviluppare e implementare l'IA in modo più intenzionale.

Artù , fondata nel 2019, e Pesi e pregiudizi , fondata nel 2017, sono altre due società che offrono piattaforme di monitoraggio. Come Fiddler, Arthur enfatizza la spiegabilità e la mitigazione dei pregiudizi, mentre Weights & Biases tiene traccia degli esperimenti di apprendimento automatico per migliorare la ricerca riproducibilità . Tutte e tre le società hanno osservato un graduale spostamento delle principali preoccupazioni delle aziende, dalla conformità legale o dalle prestazioni del modello all'etica e alla responsabilità.

La parte cinica di me all'inizio era preoccupata che avremmo visto i clienti entrare e pensare che avrebbero potuto semplicemente selezionare una casella associando il loro marchio a qualcun altro che si occupava di IA responsabile, afferma Liz O'Sullivan, vicepresidente dell'IA responsabile di Arthur, che funge anche da direttore tecnologico del Surveillance Technology Oversight Project, un'organizzazione attivista. Ma molti dei clienti di Arthur hanno cercato di pensare al di là delle semplici correzioni tecniche alle loro strutture di governance e agli approcci al design inclusivo. È stato così emozionante vedere che sono davvero coinvolti nel fare la cosa giusta, dice.

Anche O'Sullivan e Chowdhury sono entrambi entusiasti di vedere più startup come la loro online. Non c'è solo uno strumento o una cosa che devi fare per fare un'IA responsabile, dice O'Sullivan. Chowdury è d'accordo: sarà un ecosistema.

nascondere