L''IA affidabile' è un framework per aiutare a gestire il rischio unico

'Affidabile AI' è un framework per aiutare a gestire il rischio unico

Fornito da L'Istituto di intelligenza artificiale Deloitte

La tecnologia dell'intelligenza artificiale (AI) continua a fare passi da gigante e sta rapidamente diventando un potenziale disgregatore e un abilitatore essenziale per quasi tutte le aziende in ogni settore. In questa fase, uno degli ostacoli alla diffusione dell'IA su larga scala non è più la tecnologia stessa; piuttosto, è un insieme di sfide che ironicamente sono molto più umane: etica, governance e valori umani.

Irfan Saif è responsabile di Deloitte Risk and Financial Advisory. Beena Ammanath è amministratore delegato di Deloitte Consulting LLP.

Man mano che l'IA si espande in quasi ogni aspetto della vita moderna, i rischi di un comportamento scorretto dell'IA aumentano in modo esponenziale, al punto che quei rischi possono letteralmente diventare una questione di vita o di morte. Esempi nel mondo reale di IA andata storta includono sistemi che discriminano le persone in base alla loro razza, età o sesso e sistemi di social media che diffondono inavvertitamente voci, disinformazione e altro ancora.

Ancora peggio, questi esempi sono solo la punta dell'iceberg. Man mano che l'IA viene implementata su scala più ampia, i rischi associati aumenteranno probabilmente, con conseguenze potenzialmente gravi per la società in generale e conseguenze ancora maggiori per le aziende responsabili. Dal punto di vista aziendale, queste potenziali conseguenze includono qualsiasi cosa, da azioni legali, multe normative e clienti arrabbiati a imbarazzo, danni alla reputazione e distruzione del valore per gli azionisti.

Tuttavia, con l'intelligenza artificiale che sta diventando una capacità aziendale richiesta, non solo piacevole da avere, le aziende non hanno più la possibilità di evitare i rischi unici dell'IA semplicemente evitando del tutto l'IA. Invece, devono imparare a identificare e gestire i rischi dell'IA in modo efficace. Per sfruttare il potenziale della collaborazione tra uomo e macchina, le organizzazioni devono comunicare un piano per l'IA che venga adottato e comunicato dalla sala posta alla sala del consiglio. Disponendo di un quadro etico in atto, le organizzazioni creano un linguaggio comune attraverso il quale articolare la fiducia e contribuire a garantire l'integrità dei dati tra tutti i loro stakeholder interni ed esterni. Avere una struttura e un obiettivo comuni per applicare la governance e la gestione dei rischi associati all'IA in modo coerente in tutta l'azienda può consentire un'adozione più rapida e coerente dell'IA.

Il quadro di intelligenza artificiale affidabile

Per affrontare meglio le sfide relative all'etica e alla governance dell'IA, aiuta a sfruttare un framework. Il framework Trustworthy AI di Deloitte introduce sei dimensioni chiave che, se considerate collettivamente nelle fasi di progettazione, sviluppo, implementazione e operative dell'implementazione del sistema di intelligenza artificiale, possono aiutare a salvaguardare l'etica e costruire una strategia di intelligenza artificiale affidabile.

Il framework Trustworthy AI è progettato per aiutare le aziende a identificare e mitigare i potenziali rischi legati all'etica dell'IA in ogni fase del ciclo di vita dell'IA. Ecco uno sguardo più da vicino a ciascuna delle sei dimensioni del framework.

Il quadro di intelligenza artificiale affidabile

1. Giusto, non di parte

Un'IA affidabile deve essere progettata e formata per seguire un processo equo e coerente e prendere decisioni eque. Deve includere anche controlli interni ed esterni per ridurre i pregiudizi discriminatori.

Il pregiudizio è una sfida continua per gli esseri umani e la società, non solo per l'IA. Tuttavia, la sfida è ancora più grande per l'IA perché manca di una comprensione sfumata degli standard sociali, per non parlare della straordinaria intelligenza generale richiesta per raggiungere il buon senso, che potenzialmente porta a decisioni tecnicamente corrette ma socialmente inaccettabili. L'intelligenza artificiale apprende dai set di dati utilizzati per addestrarlo e, se tali set di dati contengono bias del mondo reale, i sistemi di intelligenza artificiale possono apprendere, amplificare e propagare tale bias a velocità e scala digitale.

Ad esempio, un sistema di intelligenza artificiale che decide al volo dove inserire annunci di lavoro online potrebbe indirizzare ingiustamente annunci per lavori più remunerati ai visitatori maschi di un sito Web perché i dati del mondo reale mostrano che gli uomini in genere guadagnano più delle donne. Allo stesso modo, una società di servizi finanziari che utilizza l'IA per esaminare le domande di mutuo potrebbe scoprire che il suo algoritmo discrimina ingiustamente le persone in base a fattori socialmente non accettabili, come razza, sesso o età. In entrambi i casi, la società responsabile dell'IA potrebbe subire conseguenze significative, comprese sanzioni normative e danni alla reputazione.

Per evitare problemi legati all'equità e al pregiudizio, le aziende devono prima determinare cosa costituisce equo. Questo può essere molto più difficile di quanto sembri poiché per ogni dato problema generalmente non esiste un'unica definizione di equità su cui tutte le persone siano d'accordo. Le aziende devono anche cercare attivamente le distorsioni all'interno dei loro algoritmi e dati, apportando le modifiche necessarie e implementando i controlli per garantire che ulteriori distorsioni non si manifestino inaspettatamente. Quando viene rilevata una distorsione, è necessario comprenderla e quindi mitigarla attraverso processi consolidati per risolvere il problema e ricostruire la fiducia dei clienti.

L'IA non può più essere trattata come una scatola nera che riceve input e genera output senza una chiara comprensione di ciò che sta accadendo all'interno.

2. Trasparente e spiegabile

Affinché l'IA sia affidabile, tutti i partecipanti hanno il diritto di capire come vengono utilizzati i loro dati e come l'IA prende le decisioni. Gli algoritmi, gli attributi e le correlazioni dell'IA devono essere aperti all'ispezione e le sue decisioni devono essere completamente spiegabili.

Poiché le decisioni e i processi che si basano sull'IA aumentano sia in numero che in importanza, l'IA non può più essere trattata come una scatola nera che riceve input e genera output senza una chiara comprensione di ciò che sta accadendo all'interno.

Ad esempio, i rivenditori online che utilizzano l'intelligenza artificiale per fornire consigli sui prodotti ai clienti sono sotto pressione per spiegare i suoi algoritmi e come vengono prese le decisioni sui consigli. Allo stesso modo, il sistema giudiziario degli Stati Uniti deve affrontare continue controversie sull'uso di sistemi di intelligenza artificiale opachi per informare le decisioni penali.

Tra le questioni importanti da considerare in questo settore figurano l'identificazione dei casi d'uso dell'IA per i quali la trasparenza e la spiegabilità sono particolarmente importanti e quindi la comprensione di quali dati vengono utilizzati e come vengono prese le decisioni per tali casi d'uso. Inoltre, per quanto riguarda la trasparenza, vi è una crescente pressione a informare esplicitamente le persone quando interagiscono con l'IA, invece di avere l'IA mascherata da persona reale.

3. Responsabile e responsabile

I sistemi di intelligenza artificiale affidabili devono includere politiche che stabiliscano chiaramente chi è responsabile e responsabile del proprio output. Incolpare la tecnologia stessa per decisioni sbagliate ed errori di calcolo non è abbastanza, non per le persone che vengono danneggiate e certamente non per i regolatori del governo. Questo è un problema chiave che probabilmente diventerà sempre più importante man mano che l'IA viene utilizzata per una gamma in espansione di applicazioni sempre più critiche come la diagnosi delle malattie, la gestione patrimoniale e la guida autonoma.

Ad esempio, se un veicolo senza conducente provoca una collisione, chi è responsabile e responsabile del danno? L'autista? Il proprietario del veicolo? Il produttore? I programmatori di intelligenza artificiale? L'amministratore delegato?

Allo stesso modo, si consideri l'esempio di un'impresa di investimento che utilizza una piattaforma automatizzata basata sull'IA per operare per conto dei propri clienti. Se un cliente investe i risparmi di una vita attraverso l'azienda e poi perde tutto a causa di algoritmi scadenti, dovrebbe esserci un meccanismo in atto per identificare chi è responsabile del problema e chi è responsabile di sistemare le cose.

I fattori chiave da considerare includono quali leggi e regolamenti potrebbero determinare la responsabilità legale e se i sistemi di IA sono verificabili e coperti dalle leggi esistenti sugli informatori. Inoltre, come verranno comunicati i problemi al pubblico e alle autorità di regolamentazione e quali conseguenze dovranno affrontare le parti responsabili?

4. Robusto e affidabile

Affinché l'IA possa ottenere un'adozione diffusa, deve essere robusta e affidabile almeno quanto i sistemi, i processi e le persone tradizionali che sta aumentando o sostituendo.

Affinché l'IA sia considerata affidabile, deve essere disponibile quando dovrebbe essere disponibile e deve generare output coerenti e affidabili, eseguendo attività correttamente in condizioni non ideali e quando si incontrano situazioni e dati imprevisti. Un'IA affidabile deve crescere bene, rimanendo solida e affidabile man mano che il suo impatto si espande e cresce. E se fallisce, deve fallire in un modo prevedibile e previsto.

Si consideri l'esempio di un'azienda sanitaria che utilizza l'IA per identificare anomalie nelle scansioni cerebrali e prescrivere un trattamento appropriato. Per essere affidabili, è assolutamente essenziale che gli algoritmi Al producano risultati coerenti e affidabili poiché potrebbero essere in gioco vite umane.

Le aziende devono considerare e affrontare tutti i tipi di rischi, esterni, fisici, digitali, e quindi comunicare tali rischi agli utenti.

Per ottenere un'intelligenza artificiale solida e affidabile, le aziende devono garantire che i loro algoritmi di intelligenza artificiale producano i risultati giusti per ogni nuovo set di dati. Hanno anche bisogno di processi consolidati per la gestione di problemi e incoerenze se e quando si presentano. Il fattore umano è un elemento critico qui: capire come l'input umano influenzi l'affidabilità; determinare chi sono le persone giuste per fornire input; e garantire che tali persone siano adeguatamente attrezzate e formate, in particolare per quanto riguarda i pregiudizi e l'etica.

5. Rispettoso della privacy

La privacy è una questione critica per tutti i tipi di sistemi di dati, ma è particolarmente critica per l'IA poiché le sofisticate informazioni generate dai sistemi di intelligenza artificiale spesso derivano da dati più dettagliati e personali. Un'IA affidabile deve rispettare le normative sui dati e utilizzare i dati solo per gli scopi dichiarati e concordati.

Il problema della privacy dell'IA spesso si estende oltre le mura di un'azienda. Ad esempio, la privacy dei dati audio acquisiti dagli assistenti dell'IA ha fatto notizia di recente, con controversie sorte sulla misura in cui i fornitori e i partner di un'azienda hanno accesso ai dati e se i dati debbano essere condivisi con le forze dell'ordine.

Le aziende devono sapere quali dati dei clienti vengono raccolti e perché, e se i dati vengono utilizzati nel modo in cui i clienti hanno compreso e concordato. Inoltre, ai clienti dovrebbe essere fornito il livello richiesto di controllo sui propri dati, inclusa la possibilità di farlo acconsenti o decidere di uscire di avere i propri dati condivisi. E se i clienti hanno dubbi sulla privacy dei dati, hanno bisogno di una strada per esprimere tali preoccupazioni.

6. Sicuro e protetto

Per essere affidabile, l'IA deve essere protetta dai rischi per la sicurezza informatica che potrebbero causare danni fisici e/o digitali. Sebbene la sicurezza e la protezione siano chiaramente importanti per tutti i sistemi informatici, sono particolarmente cruciali per l'IA a causa del ruolo e dell'impatto ampio e crescente dell'IA sulle attività del mondo reale.

Ad esempio, se un sistema finanziario basato sull'intelligenza artificiale viene violato, il risultato potrebbe essere un danno alla reputazione e la perdita di denaro o dati. Queste sono gravi conseguenze, ovviamente. Tuttavia, non sono così gravi come le potenziali conseguenze dell'hacking di un veicolo guidato dall'intelligenza artificiale, che potrebbe mettere a rischio la vita delle persone.

Un altro esempio di rischio per la sicurezza informatica dell'IA è una recente violazione dei dati che ha coinvolto milioni di persone impronte digitali e record di riconoscimento facciale . Questa violazione è stata particolarmente grave perché ha coinvolto i dati biometrici delle persone, che sono permanenti e non possono essere modificati (a differenza di una password rubata o di altri tipi di dati standard che possono essere modificati rapidamente e facilmente per limitare i danni).

Per contribuire a garantire la sicurezza e la protezione dei loro sistemi di intelligenza artificiale, le aziende devono considerare e affrontare a fondo tutti i tipi di rischi, esterni, fisici e digitali tra molti altri, e quindi comunicare tali rischi agli utenti. Sebbene i rischi esterni tendano ad ottenere la massima attenzione, i rischi interni come le frodi possono essere altrettanto gravi. Per ogni caso d'uso dell'IA, le aziende devono valutare se i potenziali benefici superano sufficientemente i rischi associati.

IA di cui ti puoi fidare

L'etica dell'IA sta emergendo come la sfida più grande per il continuo progresso dell'IA e l'implementazione diffusa, ed è una sfida che le aziende non possono più ignorare ora che l'IA sta diventando una capacità aziendale essenziale. Il framework Trustworthy AI offre un modo strutturato e completo di pensare all'etica dell'IA, aiutando le aziende a progettare, sviluppare, implementare e far funzionare i sistemi di IA che può fidarsi.

Per maggiori informazioni visita www.deloitte.com/us/trustai .

nascondere