211service.com
Oltre il ciclo di clamore dell'IA: fiducia e futuro dell'IA
Fornito da Sfumatura
Non mancano le promesse quando si tratta di AI. Alcuni dicono che risolverà tutti i problemi, mentre altri avvertono che porterà alla fine del mondo come lo conosciamo. Entrambe le posizioni si svolgono regolarmente nelle trame di Hollywood come Westworld, nerofumo, Rapporto di minoranza, Sua, e Ex machina . Queste storie sono avvincenti perché richiedono a noi creatori e consumatori della tecnologia di intelligenza artificiale di decidere se ci fidiamo di un sistema di intelligenza artificiale o, più precisamente, ci fidiamo di ciò che il sistema sta facendo con le informazioni che gli sono state fornite.
Questo contenuto è stato prodotto da Nuance. Non è stato scritto dalla redazione del MIT Technology Review.
Joe Petro è CTO di Nuance.
Queste storie forniscono anche una lezione importante per quelli di noi che trascorrono le nostre giornate a progettare e realizzare applicazioni di intelligenza artificiale: la fiducia è un fattore critico per determinare il successo di un'applicazione di intelligenza artificiale. Chi vuole interagire con un sistema di cui non si fida?
La scatola nera e la comprensione delle incognite
Anche essendo una tecnologia nascente, l'IA è incredibilmente complessa e potente, offrendo vantaggi eseguendo calcoli e rilevando schemi in enormi set di dati con velocità ed efficienza. Ma quel potere, combinato con la percezione della scatola nera dell'IA e il suo appetito per i dati degli utenti, introduce molte variabili, incognite e possibili conseguenze non intenzionali. Nascosto nelle applicazioni pratiche dell'IA c'è il fatto che la fiducia può avere un profondo effetto sulla percezione del sistema da parte dell'utente, nonché sulle società associate, sui fornitori e sui marchi che portano queste applicazioni sul mercato.
I progressi come il cloud onnipresente e la potenza di calcolo edge rendono l'IA più capace ed efficace, rendendo più facile e veloce la creazione e la distribuzione di applicazioni. Storicamente, l'attenzione si è concentrata sullo sviluppo del software e sulla progettazione dell'esperienza utente. Ma non si tratta più semplicemente di progettare un sistema che risolva X . È nostra responsabilità creare un'esperienza coinvolgente, personalizzata, senza attriti e affidabile per ogni utente.
L'intelligenza artificiale è affamata di dati: scopri cosa le stai alimentando
La capacità di farlo con successo dipende in gran parte dai dati dell'utente. Le prestazioni del sistema, l'affidabilità e la fiducia dell'utente nell'output del modello AI sono influenzate tanto dalla qualità della progettazione del modello quanto dai dati che vi entrano. I dati sono il carburante che alimenta il motore di intelligenza artificiale che converte virtualmente l'energia potenziale dei dati dell'utente in energia cinetica sotto forma di informazioni fruibili e output intelligente. Proprio come riempire un'auto da corsa di Formula 1 con carburante scadente o contaminato ridurrebbe le prestazioni e la capacità del pilota di competere, un sistema di intelligenza artificiale addestrato con dati errati o inadeguati può produrre risultati imprecisi o imprevedibili che infrangono la fiducia degli utenti. Una volta spezzata, la fiducia è difficile da riconquistare. Ecco perché le rigorose pratiche di gestione dei dati da parte di sviluppatori e fornitori di intelligenza artificiale sono fondamentali per creare modelli di intelligenza artificiale efficaci e creare accettazione, soddisfazione e fidelizzazione dei clienti.
La gestione responsabile dei dati stabilisce una catena di fiducia che si estende dai consumatori alle aziende che raccolgono i dati degli utenti e a quelle di noi che costruiscono sistemi basati sull'intelligenza artificiale. È nostra responsabilità conoscere e comprendere le leggi e le politiche sulla privacy e considerare la sicurezza e la conformità durante la fase di progettazione primaria. Dobbiamo avere una profonda comprensione di come vengono utilizzati i dati e di chi vi ha accesso. Abbiamo anche bisogno di rilevare ed eliminare le distorsioni nascoste nei dati attraverso test completi.
Trattamento dei dati dell'utente come 'codice sorgente' proprietario
Tratta i dati degli utenti come proprietà intellettuale sensibile (IP). È il codice sorgente proprietario utilizzato per costruire modelli di intelligenza artificiale che risolvono problemi specifici, creano esperienze su misura e ottengono i risultati desiderati mirati. Questi dati derivano dalle interazioni personali dell'utente, come le conversazioni tra consumatori e agenti di chiamata, medici e pazienti, banche e clienti. È sensibile perché crea profili utente digitali intimi e altamente dettagliati basati su informazioni private finanziarie, sanitarie, biometriche e di altro tipo.
I dati degli utenti devono essere protetti e utilizzati con la stessa attenzione di qualsiasi altro IP, in particolare per i sistemi di intelligenza artificiale in settori altamente regolamentati come l'assistenza sanitaria e i servizi finanziari. I medici utilizzano il parlato AI, la comprensione del linguaggio naturale e gli agenti virtuali conversazionali creati con i dati sulla salute dei pazienti per documentare la cura e l'accesso guida diagnostica in tempo reale . Nei servizi bancari e finanziari, i sistemi di intelligenza artificiale elaborano milioni di transazioni dei clienti e utilizzano l'impronta vocale biometrica, il movimento degli occhi e i dati comportamentali (ad esempio, la velocità di digitazione, le parole che usi, con quale mano scorri) per rilevare possibili frodi o autenticare le identità degli utenti .
Sia gli operatori sanitari che le aziende stanno creando la propria porta d'ingresso digitale con il proprio marchio che offre esperienze utente efficienti e personalizzate tramite SMS, Web, telefono, video, app e altri canali. I consumatori stanno anche optando per interazioni digitali in tempo reale che fanno risparmiare tempo. Le organizzazioni sanitarie e commerciali vogliono giustamente controllare e salvaguardare le relazioni e i dati dei loro pazienti e clienti in ogni metodo di coinvolgimento digitale per creare consapevolezza del marchio, interazioni personalizzate e fedeltà.
Ogni fornitore e sviluppatore di IA non solo deve essere consapevole della natura intrinsecamente sensibile dei dati degli utenti, ma anche della necessità di operare con standard etici elevati per costruire e mantenere la catena di fiducia richiesta.
Ecco le domande chiave da considerare:
Chi ha accesso ai dati? Avere una politica chiara e trasparente che includa protezioni rigorose come la limitazione dell'accesso a determinati tipi di dati e il divieto di rivendita o condivisione di terze parti. Le stesse politiche dovrebbero applicarsi ai fornitori di servizi cloud o ad altri partner di sviluppo.
Dove vengono archiviati i dati e per quanto tempo? Chiedi dove risiedono i dati (cloud, edge, dispositivo) e per quanto tempo verranno conservati. L'attuazione del regolamento generale sulla protezione dei dati dell'Unione europea, il California Consumer Privacy Act e la prospettiva di ulteriori protezioni della privacy statali e federali dovrebbero rendere le pratiche di conservazione e conservazione dei dati al primo posto durante lo sviluppo dell'IA.
Come vengono definiti e condivisi i benefici? Le applicazioni di intelligenza artificiale devono anche essere testate con set di dati diversi per riflettere le applicazioni del mondo reale previste, eliminare le distorsioni non intenzionali e garantire risultati affidabili.
Come si manifestano i dati all'interno del sistema? Comprendere come i dati fluiranno attraverso il sistema. I dati sensibili sono accessibili ed essenzialmente elaborati da una rete neurale come una serie di 0 e 1 o sono archiviati nella loro forma originale con informazioni mediche o di identificazione personale? Stabilire e seguire politiche di conservazione ed eliminazione dei dati appropriate per ciascun tipo di dati sensibili.
Chi può realizzare valore commerciale dai dati degli utenti? Considera le potenziali conseguenze della condivisione dei dati per scopi al di fuori dell'ambito o della fonte originale dei dati. Tieni conto di possibili fusioni e acquisizioni, possibili prodotti successivi e altri fattori.
Il sistema è sicuro e conforme? Progetta e costruisci per la privacy e la sicurezza prima di tutto. Considera in che modo la trasparenza, il consenso dell'utente e le prestazioni del sistema potrebbero essere influenzati durante il ciclo di vita del prodotto o del servizio.
La realtà dell'IA in azione
Le applicazioni biometriche aiutano a prevenire le frodi e a semplificare l'autenticazione. Il sistema di biometria vocale VoiceID di HSBC ha ha impedito con successo il furto di quasi 400 milioni di sterline (circa $ 493 milioni) da truffatori telefonici nel Regno Unito. Confronta l'impronta vocale di una persona con migliaia di caratteristiche vocali individuali in un record vocale stabilito per confermare l'identità di un utente. Altre aziende utilizzano la biometria vocale per convalidare le identità dei dipendenti dei call center remoti prima che possano accedere a sistemi e dati proprietari. La necessità di tali misure sta crescendo man mano che i consumatori conducono più interazioni digitali e telefoniche.
Le applicazioni intelligenti offrono un servizio clienti sicuro, personalizzato e digital first. Un'azienda globale di telecomunicazioni utilizza l'IA conversazionale per creare esperienze cliente coerenti, sicure e personalizzate in tutto il suo portafoglio di marchi ampio e diversificato. Con i clienti sempre più coinvolti attraverso i canali digitali, l'azienda si è rivolta ai partner tecnologici per espandere la propria esperienza interna, assicurandosi al contempo di mantenere il controllo dei propri dati nell'implementazione di un assistente virtuale per il servizio clienti.
Uno dei primi tre rivenditori utilizza la tecnologia dell'assistente virtuale a comando vocale per consentire agli acquirenti di caricare le foto degli articoli che hanno visto offline, quindi presenta loro gli articoli da prendere in considerazione per l'acquisto in base a tali immagini.
Le applicazioni cliniche basate sull'intelligenza artificiale migliorano le esperienze di assistenza sanitaria mentre alleviano il burnout del medico. EmergeOrtho nella Carolina del Nord utilizza Nuance Esperienza ambientale Dragon (DAX) per trasformare il modo in cui le sue pratiche ortopediche in tutto lo stato possono interagire con i pazienti e documentare la cura. L'applicazione di telemedicina dell'intelligenza clinica ambientale acquisisce accuratamente ogni interazione medico-paziente nella sala d'esame o durante una chiamata di telemedicina, quindi aggiorna automaticamente la cartella clinica del paziente. I pazienti hanno la piena attenzione del medico mentre snelliscono le scartoffie elettroniche che i medici devono completare per essere pagati per fornire cure.
I sistemi di imaging diagnostico basati sull'intelligenza artificiale assicurano che i pazienti ricevano le cure di follow-up necessarie. I radiologi di più ospedali utilizzano l'intelligenza artificiale e l'elaborazione del linguaggio naturale per identificare ed estrarre automaticamente raccomandazioni per esami di follow-up per sospetti tumori e altre malattie osservate nei raggi X e in altre immagini. La stessa tecnologia può aiutare a gestire un'ondata di immagini arretrate e di follow-up man mano che le restrizioni covid-19 si allentano, consentendo ai fornitori di pianificare le procedure, iniziare il recupero dei ricavi e mantenere l'assistenza ai pazienti.
Con l'accelerazione della trasformazione digitale, dobbiamo risolvere le sfide che dobbiamo affrontare oggi mentre ci prepariamo per un'abbondanza di opportunità future. Al centro di questo sforzo c'è l'impegno a creare fiducia e gestione dei dati nei nostri progetti e organizzazioni di sviluppo dell'IA.