211service.com
L'IA è reale ora: una conversazione con Sophie Vandebroek
Perché non ci sarà mai un altro inverno AI e cosa IBM e MIT stanno facendo insieme per assicurarlo.
28 febbraio 2019
Sponsorizzato da Traccia oscura
Più volte di quasi ogni altro campo dell'innovazione, l'intelligenza artificiale ha resistito a cicli ricorrenti di speranza eccessiva, seguiti da delusione, pessimismo e tagli ai finanziamenti. Ma Sophie Vandebroek, vicepresidente IBM per le partnership tecnologiche emergenti, pensa che gli inverni dell'IA siano davvero un ricordo del passato, grazie all'enorme quantità di potenza di calcolo e dati ora disponibili per addestrare le reti neurali.
In questo episodio Vandebroek condivide esempi di applicazioni del mondo reale abilitate da questo cambiamento, dal riconoscimento delle immagini ai chatbot. E descrive la missione del nuovo MIT-IBM Watson AI Lab, una collaborazione decennale da 240 milioni di dollari tra ricercatori IBM, docenti e studenti del MIT per concentrarsi sui progressi fondamentali che renderanno l'IA più utile e affidabile in tutti i settori, dall'assistenza sanitaria a finanza alla sicurezza.
Questo episodio è stato presentato da Darktrace, il leader mondiale nella tecnologia AI per la difesa informatica. Darktrace ha sede a San Francisco e Cambridge, nel Regno Unito, e conta quasi 2.500 clienti in tutto il mondo che utilizzano il suo software per rilevare e rispondere alle minacce informatiche alle loro aziende, utenti e dispositivi. Darktrace ha sviluppato un'innovativa tecnologia di apprendimento automatico in grado di individuare attività insolite utilizzando un approccio modellato sul sistema immunitario umano. Nella seconda metà dello spettacolo, Nicole Eagan, CEO di Darktrace, spiega come funziona la tecnologia di Darktrace e perché le aziende devono apportare nuove difese all'odierna corsa agli armamenti informatici.
MOSTRA NOTE E LINK
TRASCRIZIONE COMPLETA
Elizabeth Bramson-Boudreau: Da MIT Technology Review, sono Elizabeth Bramson-Boudreau, e questo è Business Lab, lo spettacolo che aiuta i leader aziendali a dare un senso alle nuove tecnologie che escono dal laboratorio e nel mercato. Questo episodio è stato presentato da Darktrace, il leader mondiale nella tecnologia AI per la difesa informatica. Più avanti nel programma parlerò con il CEO di Darktrace, Nicole Eagan. Ci mostrerà come i progressi nell'intelligenza artificiale e nell'apprendimento automatico ci stanno offrendo una nuova serie di modi per difenderci da hacker e criminali informatici.
Elisabetta: Ma il nostro primo ospite proviene da uno dei centri più recenti per la ricerca sull'intelligenza artificiale, il MIT-IBM Watson AI .Lab, a solo un paio di isolati dai nostri uffici qui a Cambridge, nel Massachusetts. È il luogo di oltre 50 nuovi progetti che coinvolgono ricercatori IBM e docenti del MIT, tutti volti a far avanzare le tecnologie fondamentali alla base dell'intelligenza artificiale. E qui a parlare con noi c'è uno degli artefici di questo sforzo, la dottoressa Sophie Vandebroek.
Elisabetta: Sophie è attualmente vicepresidente IBM per le partnership tecnologiche emergenti ed è nota nel settore informatico per la sua illustre storia che ha portato avanti l'innovazione, non solo in IBM ma anche in Xerox, dove ha trascorso oltre un decennio come chief technology officer di Xerox. Era la direttrice di PARC Inc., il famoso laboratorio precedentemente noto come Xerox PARC. Nel 2011 è stata inserita nella Women in Technology Hall of Fame. In linea con i temi del laboratorio di intelligenza artificiale del MIT IBM Watson, abbiamo iniziato parlando di come l'IA si sta evolvendo e perché sta trasformando le aziende in modi che la maggior parte dei dirigenti sta solo iniziando a capire.
Elisabetta: Sophie, grazie per essere venuta qui per parlare con noi e dare il benvenuto.
Sophie Vandebroek: Oh, è un grande piacere essere qui. Sono stato un avido lettore del tuo diario, quindi sono molto felice di partecipare al podcast.
Elisabetta : Spero che tu possa parlare non solo con me, ma anche con le persone che stanno ascoltando questo podcast su dove sta andando l'IA e la fase in cui ci troviamo nello sviluppo dell'IA. So che molte persone parlano di come l'IA sia stata sul punto di trasformare il lavoro, solo per far svanire queste speranze. Potremmo forse trovarci in un'altra di queste situazioni in cui si esaurisce, o è diverso ora?
Sophie: È molto diverso ora che l'IA è reale. E sì, la parola intelligenza artificiale è stata coniata quasi 70 anni fa. Sono passati così tanti decenni. Allora, cos'è successo? Perché non era reale allora, e perché è reale adesso? Ci sono due ragioni principali per cui ora è reale. Ed è sia a causa delle leggi esponenziali. La prima è la legge di Moore che tutti conosciamo e amiamo molto bene. Il transistor, il transistor di base è stato inventato negli anni '50. Nel 1975 c'erano 1000 transistor su un chip di un centimetro quadrato. Oggi ci sono 10 miliardi di transistor su un chip di un centimetro quadrato che IBM sviluppa oggi, e quella potenza di calcolo ha prodotto i dispositivi mobili che abbiamo in tasca, l'ultimo computer ad alte prestazioni, il Summit, sai, quel computer IBM che Oak Ridge National Lab acquistato di recente. Fa 200 petaflop, ovvero 200 mila trilioni di calcoli al secondo. Voglio dire, super veloce.
Sophie: Quindi abbiamo un volume, intendo un'enorme quantità di potenza di calcolo, che è fondamentale affinché l'IA sia reale. Inoltre la seconda legge, che è la legge di Metcalfe. Bob Metcalfe, che ha fatto parte della comunità di Boston per molto tempo, era allo Xerox PARC e, come sapete, prima di entrare in IBM ho lavorato per alcuni decenni in Xerox lavorando a stretto contatto con il team PARC, quando ha inventato Ethernet. E l'Ethernet connesso...il valore dell'Ethernet, il valore di una rete è proporzionale a 2 all'ennesimo con n, il numero di dispositivi sulla rete. E quindi si chiama Metcalfe's Law, e non si riferiva solo all'Ethernet ma ovviamente al World Wide Web, ai social network, e ha creato molte aziende di grande valore che tutti conosciamo oggi.
Sophie: Ma in aggiunta ha creato questo enorme volume di dati, giusto? E così i dati sul web insieme ai dati digitali strutturati che molte aziende hanno oggi, molte aziende hanno iniziato a digitalizzare tutti i loro processi di lavoro insieme a tutti i dati provengono da sensori con l'Internet delle cose e sensori e produzione e telecamere, onnipresenti fotocamere, ecc. C'è un'enorme quantità di dati, infatti è aumentata esponenzialmente nell'ultimo decennio o più adesso. E così sono accaduti gli 'inverni dell'IA' perché in effetti non c'era la potenza di calcolo e non c'erano i dati per addestrare queste reti neurali. E oggi abbiamo la potenza di calcolo. Abbiamo i dati. E negli ultimi cinque anni sono stati fatti enormi progressi nelle reti neurali, dal momento che, per la prima volta nel 2012, si trattava di una rete neurale di apprendimento profondo che girava su un'unità di elaborazione grafica, una GPU, quella per il per la prima volta ha vinto un concorso per il riconoscimento delle immagini. E infatti è in queste aree ristrette che l'IA ha qualità sovrumane e super velocità. E quindi per questi motivi, questi due esponenziali, l'IA è reale. E in effetti direi che l'intelligenza artificiale stessa è ora all'inizio di una curva esponenziale, che stiamo creando nuove intuizioni esponenzialmente veloci che gli individui, indipendentemente dal settore in cui ti trovi, possono utilizzare per prendere decisioni rapide e in tempo reale. Inoltre, può accelerare il processo di scoperta nella ricerca e nello sviluppo delle scienze della vita in generale. Quindi viene utilizzato. E ha davvero la capacità di influenzare più campi.
Elisabetta: Quindi questa è un'ottima spiegazione di ciò che ha davvero consentito questo cambiamento e perché l'IA è un argomento così onnipresente per i leader aziendali di oggi. Cosa consente, cosa consente l'IA alle aziende di fare che sarebbe stato difficile o addirittura impossibile da fare dieci anni fa?
Sophie: Sì, così è stato, consente alle aziende di aumentare la propria efficacia ed efficienza dal punto di vista dei profitti, dal punto di vista della redditività. Ma consente loro anche di creare modelli di business completamente nuovi e nuove opportunità di guadagno. Faccio un esempio del primo. Ad esempio, gli agenti virtuali che rientrano in questa categoria di IA ristretta che abbiamo appena superato quella fase, siamo nella fase di IA ampia oggi e possiamo parlarne prima di arrivare all'intelligenza artificiale generale. Ma gli agenti virtuali o i chatbot che molti di noi conoscono e con cui interagiscono oggi come parte dei server dei clienti, semplicemente non esistevano dieci anni fa. Tutto è stato fatto da agenti di call center che hanno dovuto sfruttare grandi database per fornirti le risposte alle tue domande, ecc. Ebbene, oggi, la maggior parte di questo, gli agenti virtuali possono fare un modo molto efficace ed efficiente. In effetti, alcuni di questi agenti virtuali oggi valuteranno molto rapidamente se sei un estroverso o un introverso e regoleranno il loro linguaggio in base al tuo stile.
Sophie: Anche automazione. ad esempio, se guidi la tua auto attraverso un casello oggi, è il riconoscimento delle targhe e la lettura delle targhe totalmente automatiche in modo tale che all'interno dei processi di back-end, ti venga effettivamente addebitato la guida attraverso i caselli. Anche in questo caso la maggior parte di questi processi sono stati tutti eseguiti manualmente in passato. Verrebbero scattate foto di targhe, sarebbero state inviate in India per essere elaborate e quindi quattro persone su cinque, se la tua targa fosse inserita nel sistema, ti verrebbero addebitati. Questi sono tutti questi processi transazionali, di routine, molto ristretti e molto specifici che sono automatizzati oggi.
Elisabetta: Sembra tutto fantastico. E come leader aziendale posso pensare che tu sappia perché non dovrei voler vedere maggiori efficienze. Ma ci sono cose a cui forse devo pensare riguardo ai rischi degli strumenti basati sull'apprendimento automatico?
Sophie: Sì, sicuramente ci sono dei rischi. E per molte aziende: in IBM è al primo posto. Stiamo creando gli strumenti e le funzionalità come parte di IBM OpenScale o abbiamo altri toolkit che evidenzierò. Uno di questi è aiutare le imprese ad affrontare il rischio. Sta anche iniziando a diventare la priorità dei consigli di amministrazione e dei direttori di società, per assicurarsi che questi rischi legati all'implementazione e all'adozione dell'intelligenza artificiale come parte dell'organizzazione vengano affrontati. Permettetemi di evidenziarne solo alcuni. Il numero uno è assicurarsi che gli algoritmi, gli algoritmi di intelligenza artificiale, siano equi, che il risultato dell'algoritmo di intelligenza artificiale, poiché l'IA aiuta gli esseri umani a prendere decisioni, che le decisioni siano eque ed etiche e non di parte. Quindi abbiamo appena lanciato l'open source, chiunque può aiutarci a migliorarlo, quindi la ricerca IBM ha reso open source l'AI Fairness 360 Toolkit, dove puoi inserire il tuo algoritmo e quindi viene controllato per tutti i tipi di pregiudizi. Oggi controlliamo la presenza di pregiudizi di genere, di età, di razza, cose come la distorsione del codice postale. Alcuni dei motivi del pregiudizio sono che il set di dati con cui viene addestrato l'argomento, e specialmente nelle imprese, le imprese non hanno enormi volumi di dati come nel mondo dei consumatori, giusto, dove potrebbe esserci un'enorme quantità di immagini di gatti per addestrare un algoritmo di immagine per riconoscere un gatto. Le imprese in cui un'azienda, diciamo un ospedale, una scuola o un'impresa, ha una quantità limitata di dati per addestrare gli algoritmi, quindi i dati potrebbero non avere una quantità sufficiente di diversità e inclusione all'interno del set di dati, così che di fatto gli algoritmi diventano parziale.
Sophie: Un esempio, ad esempio, è che i dipartimenti delle risorse umane stanno iniziando a utilizzare l'IA per aiutare a trovare nuovi dipendenti. E quindi se la tua fonte per gli sviluppatori di software sfrutta un algoritmo di intelligenza artificiale che potrebbe essere addestrato sui tuoi dati, l'algoritmo imparerà che la maggior parte degli sviluppatori di software sono uomini, perché è quello che hai assunto in passato. Quindi il rischio è che gli algoritmi possano quindi consigliare la tua prossima assunzione, guardando tutti i curricula, potrebbero proporzionalmente raccomandare più maschi che femmine per lavori di ingegneria del software. Sappiamo tutti che il genere è irrilevante per un ingegnere del software. Accade solo che i dati storici siano stati distorti all'interno dei dati. Quindi gli strumenti consiglieranno quindi di avere un set di dati più diversificato.
Elisabetta: Ok, quindi quali sono alcuni degli altri rischi?
Sophie: Bene. Gli altri rischi sono che gli algoritmi odierni, in particolare il deep learning e le reti neurali, sono come scatole nere, giusto. Quindi il rischio è che l'algoritmo ti darà una risposta. Sì, ottieni un prestito, o no, non ricevi un prestito, o sì, hai il cancro della pelle perché l'IA restringe meglio degli umani per identificare il cancro della pelle. Ma non può spiegare. Non spiega perché o come sia arrivato a quella risposta. E quindi la spiegazione è molto importante. Quindi è un rischio, che nella tua azienda non sarai in grado di spiegare come sono state ottenute determinate risposte. E infatti nell'Unione Europea, con il GDPR, il Regolamento Generale sulla Protezione dei Dati, è un obbligo. Le aziende non possono nemmeno utilizzare l'IA se non riesce a spiegarsi. Tutto deve poter essere spiegato.
Elisabetta: Quindi parlaci un po' del MIT-IBM Watson Lab e della sua missione.
Sophie: Sì. Grazie per la domanda. Questa è una partnership molto entusiasmante tra la ricerca IBM e il MIT che abbiamo stabilito poco più di un anno fa. E quindi è un impegno di 240 milioni di dollari da parte di IBM in 10 anni ed è un laboratorio unico al mondo, un laboratorio di collaborazione tra università e industrie. Non esiste nessun altro di questo tipo. In effetti, io e il preside di ingegneria del MIT, Anantha [Chandrakasan], abbiamo iniziato a fare brainstorming nell'estate del 2017, credo che fosse...
Sophie: Mi hai detto che è successo tutto piuttosto in fretta.
Elisabetta: È successo in tre settimane. Forse quattro settimane se avessi incluso il pranzo che io e Anantha abbiamo fatto prima che il nostro vicepresidente senior parlasse con il presidente del MIT un lunedì mattina e tre settimane dopo, un venerdì, il contratto fosse firmato. Ed è proprio così, la visione era quella di creare questo laboratorio congiunto di circa 100 ricercatori, e i ricercatori includevano ricercatori IBM, professori del MIT e studenti, e abbiamo celebrato il primo anniversario a settembre. Lo scorso settembre 2018. E in effetti abbiamo 49 progetti congiunti attivi oggi, con circa 100 persone o l'equivalente di 100 persone su quei progetti. E lo sono davvero, sono progetti di ricerca e non tecnologia applicata. Volevamo davvero assicurarci che quei 50 progetti affrontassero i problemi più difficili dell'IA. E stanno facendo esattamente questo.
Sophie: Quindi ci sono quattro pilastri. Abbiamo definito quattro pilastri. Uno riguarda gli algoritmi di base dell'IA ed è esattamente dove stiamo affrontando questi problemi difficili come l'IA che può spiegarsi da sola. O imparare da piccoli dati, diverse metodologie per imparare da piccoli dati, come gli ospedali hanno un piccolo insieme di pazienti ma un piccolo insieme di dati.
Elisabetta: Per affrontare il problema che hai menzionato prima su come sul lato aziendale non ci sia, spesso non ci sono dati sufficienti per addestrare davvero gli algoritmi.
Sophie: Non nel modo in cui è stato fatto in passato a destra nella fase di IA ristretta. Ora siamo in questa fase di ampia IA in cui i sistemi dovranno imparare da piccoli dati. Quindi anche molti dei progetti nel laboratorio di intelligenza artificiale MIT-IBM Watson sono associati a questo.
Sophie: Il secondo pilastro è l'applicazione dell'IA alle industrie. E oggi guardiamo a tre settori: sanità e scienze della vita, perché la business unit Watson Health di IBM ha sede proprio qui a Cambridge, nel Massachusetts. L'IA applicata all'industria è anche sicurezza, applicata alle attività di sicurezza. E, naturalmente, la sicurezza è importante per tutti i settori. E poi il terzo settore su cui ci concentriamo sono i servizi finanziari, quindi la finanza e l'economia. Quindi questo è un secondo pilastro. Ci sono quattro pilastri nel MIT-IBM Watson AI Lab.
Sophie: La terza è che la chiamiamo la fisica dell'IA. Quali sono le sfide hardware per eseguire una formazione efficiente ed efficace nei cloud e all'edge. E poi la quarta categoria, di cui sono molto entusiasta, è una categoria che chiamiamo prosperità abilitata dall'IA o prosperità condivisa abilitata dall'IA. Sta ancora esaminando queste sfide su come creare sistemi di intelligenza artificiale e che hanno valori veramente morali che possono prendere decisioni etiche. Qual è il futuro del lavoro, ad esempio, è un progetto che abbiamo in quella categoria. E quindi sì, questi sono i quattro pilastri: gli algoritmi di base dell'IA, la fisica dell'IA, l'IA per le industrie e la prosperità consentita dall'IA. E ora che abbiamo celebrato il nostro primo anniversario, abbiamo appena concordato tra MIT e IBM che apriremo le nostre porte ad altre grandi imprese che sono veramente interessate a essere all'avanguardia nella ricerca nell'intelligenza artificiale per unirsi al nostro laboratorio. Quindi questo è ciò su cui stiamo lavorando dopo.
Elisabetta: Due aree su cui noi di MIT Technology Review stiamo dedicando molto tempo a riferire sono le criptovalute o blockchain e l'informatica quantistica. Mi piacerebbe davvero sentire cosa state facendo in quelle aree. E forse possiamo iniziare con le criptovalute. E immagino che la domanda che avrei è: come possiamo pensare alla blockchain come qualcosa di più di una curiosità e in realtà qualcosa che è affidabile e stabile e può in qualche modo migliorare il contesto aziendale in cui viene utilizzata?
Sophie: Sì, hai detto la parola giusta lì. Quindi è tutta una questione di fiducia. Quando in IBM si parla di blockchain, in effetti blockchain, molte ricerche sulla blockchain sono state fatte per diversi anni nei laboratori di ricerca, e IBM ha creato un business ora circa due anni e mezzo fa, una business unit blockchain. Vedo tre tipi di aree in cui la blockchain viene utilizzata oggi o dove ci sono molti prototipi in sperimentazione. Uno è davvero in criptovalute come Bitcoin. Ed è così che la maggior parte delle persone conosce la blockchain, pensa a Bitcoin. E questa è un'intera area della criptovaluta. In IBM non siamo interessati alle criptovalute, perché i nostri clienti non sono interessati alle criptovalute. Siamo interessati alla piattaforma blockchain sottostante. E infatti gran parte della piattaforma sottostante è stata open source su Hyperledger, gestito dalla Linux Foundation, e IBM ha contribuito in modo significativo al codice e continueremo a farlo. Il prossimo è avere blockchain, questa piattaforma sottostante, utilizzata nelle catene del valore per tracciare beni di valore o beni digitali di valore mentre vanno da dove hanno origine a dove vengono utilizzati. E posso fare alcuni esempi. E la terza area in cui è prezioso, soprattutto nel settore dei servizi finanziari, riguarda l'identità digitale. E posso fare alcuni esempi lì. Ma ciò che interessa alle imprese è essere in grado di creare transazioni affidabili tra partner che intrinsecamente potrebbero non conoscersi come piccole imprese o grandi imprese o distributori o agricoltori.
Sophie: E così creando la fiducia in modo distribuito. Quindi le reti blockchain che abbiamo creato con i nostri clienti sono reti private. Non sono aperti a tutti. Sono privati. È solo una rete autorizzata. Uno dei primi esempi che abbiamo fatto, iniziato molti, molti anni fa ed è ora operativo, è una rete blockchain per la sicurezza alimentare che abbiamo creato con Walmart. Walmart era un membro pilastro di questa rete blockchain e molti dei fornitori Walmart sono sulla rete. E lì sta rintracciando il cibo dalla fattoria alla tavola. E soprattutto l'intenzione qui è che se come un focolaio di E. coli o qualsiasi altro problema di sicurezza alimentare...
Elisabetta: Lattuga romana.
Sophie: Sì, lattuga romana. Voglio dire, succede sempre. Sapevamo che l'epidemia era in California da qualche parte, ma tutto, compresa la lattuga, coltivata qui in Massachusetts, è stato tolto dallo scaffale nel modo giusto. Questo è ciò che accade oggi. Ci vuole molto tempo per tenere traccia di dove si è verificato un focolaio. Ma se segui tutte le tue merci attraverso la catena di blocchi entro due minuti o più velocemente, puoi rapidamente tracciare da dove proviene questa particolare lattuga. Quindi devi ancora entrare e vedere a che punto della catena dalla fattoria al negozio alla tavola l'E. coli ha effettivamente contaminato gli alimenti. Ma è più facile che prima capire anche da dove viene. Destra.
Elisabetta: Grande. Bene, è assolutamente meraviglioso sentirti e avere la possibilità di parlare di nuovo con te. Ed è fantastico avere il laboratorio dietro l'angolo. È una struttura meravigliosa ed è bello averti nelle vicinanze. Quindi grazie.
Sophie: Oh grazie mille. È stato un mio grande piacere.
Elisabetta: Questo episodio ti è stato offerto da Darktrace, il leader mondiale nella tecnologia dell'IA informatica. Darktrace ha sede a San Francisco, a Cambridge, in Inghilterra. Ha circa 2.500 clienti in tutto il mondo che utilizzano il suo software per rilevare e rispondere alle minacce informatiche alle loro aziende, utenti e dispositivi. Darktrace ha sviluppato un'innovativa tecnologia di apprendimento automatico in grado di individuare attività insolite. Per saperne di più su come funziona, ho parlato con il CEO dell'azienda, Nicole Eagan.
Elisabetta: Bello poter parlare.
Nicole Eagan: Nessun problema.
Elisabetta: Apprezzo che tu faccia questo. In Darktrace confronti il tuo marchio di sicurezza informatica con il sistema immunitario umano. E spero che tu possa spiegarci cosa intendi con questo.
Nicole: Quindi quello che stava realmente accadendo è che penso che l'industria della sicurezza fosse ossessionata dal cercare di tenere fuori i cattivi. E quello che siamo arrivati a riconoscere è che molte volte gli aggressori molto sofisticati come gli stati nazione entreranno in qualsiasi rete vogliano. Quindi abbiamo deciso di invertire il problema e presumere che i cattivi fossero dentro o sarebbero stati in grado di entrare. Questo ci ha portato a questa idea di basare effettivamente la nostra intelligenza artificiale sui principi del sistema immunitario umano. Quindi, se pensi al sistema immunitario del corpo umano, ha un innato senso di sé che gli consente di sapere cosa non è sé e avere una risposta molto precisa e rapida. È esattamente come funziona la nostra intelligenza artificiale. È incorporato all'interno di ciascuna delle aziende dei nostri clienti e sta solo imparando un senso di sé, ciò che è normale. Quello che chiamiamo il 'modello di vita' di ogni utente e dispositivo connesso a quella rete. E questo ci permette di essere in grado di trovare cose fuori dall'ordinario e fermare letteralmente gli attacchi o neutralizzarli sulle loro tracce.
Elisabetta: E come vedi in generale, più in generale, gli attacchi informatici che cambiano in questi giorni, siano essi provenienti da stati nazionali o da singoli cattivi, criminali informatici?
Nicole: Di recente stavo incontrando un responsabile della sicurezza di uno dei nostri clienti e penso che abbia avuto un ottimo modo di descriverlo. Ha detto Pensa, c'è una squadra da qualche altra parte nel mondo e il lavoro a tempo pieno di quella squadra è pensare a come rubare la tua proprietà intellettuale o in qualche modo ottenere informazioni da te. Ed è davvero ciò che le aziende devono affrontare, e la ragione di ciò è il tipo di corsa agli armamenti informatici in cui siamo abituati ai governi che combattono contro i governi: mentre è ancora in corso, ora abbiamo questa dimensione completamente nuova in cui gli stati nazione sono effettivamente possibilmente attaccando le aziende. E ciò significa che il campo di battaglia digitale è davvero cambiato e questo è qualcosa da cui la maggior parte delle aziende non ha dovuto difendersi in passato. Ora complichi e combini questo con il fatto che questi stati nazione in molti casi possono anche essere organizzati con un anello di criminalità informatica globale molto forte. E quel tipo di cooperazione tra queste entità è anche una specie di nuova dimensione. Quindi è un po' ciò che le aziende devono affrontare, che è abbastanza nuovo e abbastanza nuovo rispetto agli attacchi di forse cinque o 10 anni fa.
Elisabetta: Bene. Quindi, quando si tratta di ciò che fa Darktrace, stai usando l'intelligenza artificiale per rilevare gli attacchi, per difenderti dagli attacchi o entrambi?
Nicole: Questa è un'ottima domanda. Sai, penso che in alcuni casi le aziende utilizzino l'intelligenza artificiale semplicemente per automatizzare i processi umani. Quindi, ad esempio, ogni azienda di solito ha un centro operativo di sicurezza. Avrai un certo numero di analisti delle minacce e soccorritori di incidenti lì dentro. E c'è un approccio che dice bene perché non eliminare l'IA e imparare dai passaggi che intraprendono in quello che viene chiamato Playbook per rispondere alle violazioni e automatizzarlo. E questo può darti un piccolo aumento di efficienza. Ma allo stesso tempo non cambierà le regole del gioco. L'altra cosa per cui ho visto l'IA utilizzata è fondamentalmente analizzare tutti gli attacchi storici che si sono verificati su altre persone, su altre aziende, e provare a usarlo come indicatore di minacce future. Ora, sebbene sembri molto interessante e un po' pratico, in realtà sembra essere fondamentalmente imperfetto, e questo perché gli attacchi cambiano così rapidamente. Infatti in molti casi ci sono solo nuovi ceppi di attacchi in cui viene modificata una singola riga di codice e ora le cosiddette firme non corrispondono più. Quindi nel nostro caso stiamo usando numerosi tipi di apprendimento non supervisionato, supervisionato e profondo per essere in grado non solo di trovare gli attacchi, ma anche di far sapere all'intelligenza artificiale come indagare sull'attacco. E anche, soprattutto, come agire effettivamente. E questo è molto raro. In effetti, non c'è nessun'altra azienda che utilizzi l'IA per intraprendere l'azione.
Elisabetta: Destra. Quindi stai facendo entrambe le cose, allora. Stai rilevando e agendo.
Nicole: Stiamo davvero usando l'IA per rilevare, indagare e intraprendere l'azione. E quell'ultima parte, l'azione, è davvero difficile e molto interessante. È fantastico perché può rispondere agli attacchi molto rapidamente infatti in media può rispondere in meno di due secondi a un attacco. E quando questi attacchi si muovono alla velocità della macchina, è assolutamente fondamentale. Ma l'altra cosa che abbiamo scoperto, da un punto di vista pratico, è che ci vuole tempo per le persone nell'organizzazione della sicurezza - forse questa è la prima volta che lavorano anche con l'intelligenza artificiale e sono aumentate - ci vuole del tempo per loro per costruire effettivamente quella fiducia. Quindi abbiamo effettivamente creato una capacità completamente nuova di poter formulare raccomandazioni. E se l'IA consigliasse quale azione intraprenderebbe e se un essere umano lo confermasse? E una volta che gli umani iniziano a vedere, wow, ogni volta danno la raccomandazione giusta, creano un rapporto di fiducia e lo mettono in quella che chiamiamo modalità attiva. Quindi penso che dopo averlo fatto negli ultimi cinque anni in quasi 2.500 aziende, siamo diventati davvero bravi a capire cosa serve per costruire quel rapporto di fiducia, ma anche i nostri algoritmi sono diventati davvero forti e davvero intelligenti nel rispondere a questi attacchi in tempo reale.
Elisabetta: Quindi, man mano che la difesa migliora, non è giusto dire che anche gli attacchi miglioreranno, magari usando l'IA per combattere la difesa informatica orientata all'IA o organizzata dall'IA?
Nicole: Hai assolutamente ragione, anche se è un po' agli inizi e abbiamo visto solo indicazioni che può andare in quella direzione, e abbiamo visto cose come attacchi comportamentali in cui l'IA potrebbe imparare, in realtà, il tuo stile e la tua modalità di comunicazione che usi diciamo un'e-mail. In questa fase è stato un po' un apprendimento automatico di base. Ma ci aspettiamo pienamente che ci sarà un'intera nuova categoria di attacco chiamata IA offensiva. E ciò significa che gli aggressori inizieranno a utilizzare varie forme di apprendimento automatico, intelligenza artificiale e, infine, deep learning come parte degli attacchi. Quindi questo cambierà l'intero settore dall'oggi al domani. E penso che in generale sia qualcosa che molti dirigenti probabilmente non hanno ancora contemplato.
Elisabetta: Destra. Quindi è molto interessante, perché mentre stavi parlando del modo in cui Darktrace fa il punto su cosa sia 'attività normale' su una rete, mi viene in mente che potrebbero esserci altri casi d'uso per quell'informazione o quell'intuizione. E mi chiedo se al di là di una sorta di sicurezza informatica, se hai pensato di guardare alle normali attività per aiutare con altri tipi di cose, come ad esempio la conformità alle normative o la gestione del rischio, cose del genere.
Nicole: Assolutamente. Penso che ciò che è stato interessante è che abbiamo creato un set di dati davvero unico per conto dei nostri clienti. Quindi ognuno di loro che usa Darktrace per la sicurezza oggi ha effettivamente un'intelligenza artificiale incorporata che sta imparando il senso di sé e sta imparando e aggiornando continuamente. E questo è un set di dati che può essere utilizzato per altre cose. Potrebbe essere utilizzato per la conformità normativa. In effetti, alcuni clienti Darktrace ci utilizzano oggi per la conformità con HIPAA e HITRUST nell'assistenza sanitaria, o con cose come DFS, che è la normativa dello Stato di New York per i servizi finanziari. Quindi vediamo già i primi indicatori di come questi modelli di intelligenza artificiale e quel set di dati unico possono essere sfruttati. Penso che un caso d'uso davvero interessante sia fusioni e acquisizioni. Alcune società ci utilizzano nelle fasi di due diligence per l'M&A per ottenere effettivamente una maggiore visibilità nell'ambiente dell'asset target. E oggi lo stanno usando per vedere se forse potrebbe esserci un concorrente o uno stato nazione all'interno di quella rete che potrebbe tentare di rubare la proprietà intellettuale, ad esempio. Ma ci sono tipi molto più ampi di due diligence di M&A per cui potrebbe essere utilizzato. E infine abbiamo alcuni clienti che ci utilizzano anche per la conformità alla privacy dei dati come il GDPR, vedendo quale traffico potrebbe entrare e uscire dall'Europa. Quindi, assolutamente, penso che anche se oggi stiamo solo sbloccando la potenza di quel set di dati e dei nostri modelli di intelligenza artificiale per la sicurezza informatica, in futuro potremmo prendere una decisione per aiutare i clienti a utilizzare altre chiavi per sbloccarlo per offrire valore aggiunto.
Elisabetta: E fare cose diverse con queste informazioni. Sì, è affascinante. Nicole, grazie mille per avermi parlato di questo.
Nicole: Grazie mille, Elisabetta.
Elisabetta: Questo è tutto per questo episodio di Business Lab. Sono la tua ospite Elizabeth Bramson-Boudreau. Sono CEO ed editore di MIT Technology Review. Siamo stati fondati nel 1899 presso il Massachusetts Institute of Technology. Puoi trovarci in formato cartaceo, sul web, a dozzine di eventi dal vivo ogni anno e ora in formato audio. Per ulteriori informazioni sulla rivista e sullo spettacolo, visita il nostro sito Web all'indirizzo TechnologyReview.com. Il nostro spettacolo è disponibile ovunque tu abbia i tuoi podcast. Se ti è piaciuto questo episodio, speriamo che ti prenderai un momento per valutarci e recensirci su Apple Podcasts. Business Lab è una produzione al MIT Technology Review. Il produttore è Wade Roush con l'aiuto editoriale di Mindy Blodgett. Un ringraziamento speciale ai nostri ospiti Sophie Vandebroek e Nicole Eagan. E grazie al nostro sponsor Darktrace, leader mondiale nella tecnologia AI per la difesa informatica. Grazie per l'attenzione. Torneremo presto con un nuovo episodio.