Il deep learning è una scatola nera, ma l'assistenza sanitaria non si preoccupa

Jon Han

All'inizio del 2017, lo scienziato dell'intelligenza artificiale Sebastian Thrun e colleghi della Stanford University hanno dimostrato che un algoritmo di deep learning era in grado di diagnosticare lesioni cutanee potenzialmente cancerose con la stessa precisione di un dermatologo certificato.

La scoperta del cancro, riportata in Natura, faceva parte di un flusso di rapporti che offrivano uno sguardo precoce su quella che potrebbe essere una nuova era della diagnosi tramite software, in cui l'intelligenza artificiale aiuta i medici, o addirittura compete con loro.

Gli esperti affermano che le immagini mediche, come fotografie, raggi X e risonanza magnetica, sono una combinazione quasi perfetta per i punti di forza del software di apprendimento profondo, che negli ultimi anni ha portato a innovazioni nel riconoscimento di volti e oggetti nelle immagini.

Le aziende sono già all'inseguimento. In verità, il braccio delle scienze della vita di Alphabet, ha unito le forze con Nikon lo scorso dicembre per sviluppare algoritmi per rilevare le cause della cecità nei diabetici. Il campo della radiologia, nel frattempo, è stato soprannominato la Silicon Valley della medicina per il numero di immagini dettagliate che genera.

Medicina della scatola nera

Sebbene le previsioni del team di Thrun fossero estremamente accurate, nessuno era sicuro di quali caratteristiche di un neo il programma di deep learning utilizzasse per classificarlo come canceroso o benigno. Il risultato è la versione medica di quello che è stato definito il problema della scatola nera del deep learning.

A differenza dei software di visione più tradizionali, in cui un programmatore definisce le regole, ad esempio un segnale di stop ha otto lati, nel deep learning l'algoritmo trova le regole da solo, ma spesso senza lasciare una traccia di controllo per spiegare le sue decisioni.

Nel caso della medicina della scatola nera, i medici non possono sapere cosa sta succedendo perché nessuno lo sa; è intrinsecamente opaco, afferma Nicholson Price, uno studioso di diritto dell'Università del Michigan che si concentra sul diritto sanitario.

Storia correlata

Leggi Avanti Perché la maggior parte dei pazienti non risponde alle cure più recenti?

Eppure Price dice che potrebbe non rappresentare un serio ostacolo nell'assistenza sanitaria. Paragona il deep learning ai farmaci i cui benefici derivano da mezzi sconosciuti. Il litio è un esempio. Il suo esatto meccanismo biochimico nell'influenzare l'umore deve ancora essere chiarito, ma il farmaco è ancora approvato per il trattamento del disturbo bipolare. Il meccanismo alla base dell'aspirina, la medicina più utilizzata di tutti i tempi, non è stato compreso per 70 anni.

Allo stesso modo, afferma Price, la questione della scatola nera non rappresenterà un problema per la Food and Drug Administration statunitense, che, oltre ad approvare nuovi farmaci, regola anche il software se il suo scopo è curare o prevenire le malattie.

In una dichiarazione, la FDA afferma che negli ultimi 20 anni ha approvato una serie di applicazioni di analisi delle immagini che si basano su una varietà di tecniche di riconoscimento dei modelli, apprendimento automatico e visione artificiale. L'agenzia ha confermato che sta vedendo più software alimentato dal deep learning e osserva che le aziende sono autorizzate a mantenere riservati i dettagli dei loro algoritmi.

La FDA ha già dato il via libera ad almeno un algoritmo di deep learning. A gennaio la FDA ha autorizzato la vendita del software sviluppato da Arterys, una società privata di imaging medico con sede a San Francisco. Il suo algoritmo, DeepVentricle, analizza le immagini MRI dei contorni interni delle camere cardiache e calcola il volume di sangue che il cuore di un paziente può trattenere e pompare. Tale calcolo viene completato in meno di 30 secondi, afferma Arterys, mentre i metodi convenzionali richiedono in genere un'ora.

La FDA ha richiesto ad Arterys di eseguire test approfonditi per assicurarsi che i risultati del suo algoritmo fossero alla pari con quelli generati dai medici. Devi dimostrare statisticamente che il tuo algoritmo sta seguendo qualunque sia il suo uso previsto o [cosa] affermano le affermazioni di marketing che sta facendo, afferma John Axerio-Cilies, Chief Technology Officer dell'azienda.

Grande richiesta

Per addestrare il loro software, il team guidato da Thrun, un ex vicepresidente di Google che ha lavorato su auto senza conducente lì, ha fornito 129.405 immagini di condizioni della pelle valutate da esperti. Questi coprivano 2.032 diverse malattie e includevano 1.942 immagini di tumori della pelle confermati.

Storia correlata

Altro su Sebastian Thrun Sebastian Thrun ha contribuito ad alimentare il clamore attorno ai massicci corsi universitari aperti online, ma ha orientato la propria startup per concentrarsi invece sulla formazione professionale.

Alla fine il software è stato in grado di superare 21 dermatologi nell'identificare quali nei potenzialmente cancerosi.

Quando i dermatologi vedranno il potenziale di questa tecnologia, penso che la maggior parte la abbraccerà, afferma Robert Novoa, un dermatologo di Stanford e autore dello studio. Lui e altri membri del team hanno rifiutato di dire se intendono commercializzare il software.

Anche la preoccupazione che i medici rimarranno presto senza lavoro è fuori luogo, afferma Allan Halpern, dermatologo del Memorial Sloan Kettering e presidente della Società internazionale per l'imaging digitale della pelle. Penso che la minaccia sia l'opposto, dice. Gli algoritmi potrebbero aumentare notevolmente la domanda di servizi dermatologici.

Questo perché un positivo su un test di screening richiede ancora una biopsia. Il software di deep learning potrebbe trovare un ruolo negli uffici di assistenza primaria, dice Halpern, ma se fosse reso disponibile come test di screening per l'intera popolazione o tramite un'app per i consumatori, non ci sarebbero abbastanza dermatologi per seguire le piste .

Axerio-Cilies afferma che le aziende saranno tentate di offrire strumenti di deep learning direttamente ai consumatori. Ad esempio, le persone potrebbero scansionare i propri nei per vedere se hanno bisogno di visitare un medico. Alcune app per cellulari non AI, come Mappatore di talpe , consentono già alle persone di rintracciare talpe sospette e registrare eventuali modifiche nel tempo.

Halpern, tuttavia, afferma di non pensare che i consumatori siano pronti ad affrontare sistemi diagnostici che potrebbero dire loro che una talpa ha una probabilità del 5%, o una probabilità del 50%, di essere cancerosa.

Non siamo bravi a usare le probabilità, dice.

nascondere