Un algoritmo in grado di individuare causa ed effetto potrebbe potenziare l'IA medica

Un'immagine di pillole dai colori vivaci Giosuè Coleman | Spruzza

Capire come funziona il mondo significa capire causa ed effetto. Perché le cose sono così? Cosa accadrà se lo faccio? Le correlazioni ti dicono che certi fenomeni vanno insieme. Solo i collegamenti causali ti dicono perché un sistema è così com'è o come potrebbe evolversi. La correlazione non è causalità, come recita lo slogan.

Questo è un grosso problema per la medicina, dove un vasto numero di variabili può essere interconnesso. La diagnosi delle malattie dipende dal sapere quali condizioni causano quali sintomi; il trattamento delle malattie dipende dalla conoscenza degli effetti di diversi farmaci o dei cambiamenti nello stile di vita. Districare tali questioni intricate viene in genere svolto tramite rigorosi studi osservazionali o studi randomizzati controllati.

Questi creano una grande quantità di dati medici, ma sono distribuiti su diversi set di dati, il che lascia molte domande senza risposta. Se un set di dati mostra una correlazione tra obesità e malattie cardiache e un altro mostra una correlazione tra bassa vitamina D e obesità, qual è il legame tra bassa vitamina D e malattie cardiache? La scoperta in genere richiede un altro studio clinico.

Come possiamo fare un uso migliore di queste informazioni frammentarie? I computer sono bravi a individuare i modelli, ma questa è solo una correlazione. Negli ultimi anni, gli informatici hanno inventato una manciata di algoritmi in grado di identificare le relazioni causali all'interno di singoli set di dati. Ma concentrarsi su singoli set di dati è come guardare attraverso i buchi della serratura. Ciò che serve è un modo per ammirare l'intera vista.

I ricercatori Anish Dhir e Ciarán Lee di Babylon Health, un fornitore di assistenza sanitaria digitale con sede nel Regno Unito, hanno escogitato una tecnica per trovare relazioni causali tra diversi set di dati . Ciò potrebbe consentire l'estrazione di ampi database di dati medici non sfruttati per cause ed effetti e forse la scoperta di nuovi collegamenti causali.

Babylon Health offre un'app basata su chatbot che ti chiede di elencare i tuoi sintomi prima di rispondere con una diagnosi provvisoria e consigli sul trattamento. L'obiettivo è quello di filtrare le persone che in realtà non hanno bisogno di vedere un medico. In linea di principio, il servizio fa risparmiare tempo sia ai pazienti che ai medici, consentendo agli operatori sanitari oberati di lavoro di aiutare i più bisognosi.

Ma l'app ha venire sotto esame . I medici hanno avvertito che a volte mancano i segni di una malattia grave, ad esempio. Diverse altre società, tra cui Ada e Your.MD, offrono anche diagnosi tramite chatbot, ma Babylon Health si è distinta per le critiche in parte a causa delle sue affermazioni esagerate. Ad esempio, nel 2018 la società ha annunciato che la sua IA potrebbe diagnosticare condizioni mediche meglio di un medico umano. Uno studio su The Lancet pochi mesi dopo ha concluso non solo che questo non era vero, ma quello potrebbe funzionare significativamente peggio.

Tuttavia, il nuovo lavoro di Dhir e Lee sui nessi causali merita di essere preso sul serio. È stato sottoposto a revisione paritaria e questa settimana apparirà alla rispettata conferenza dell'Association for Advancement of Artificial Intelligence a New York. In linea di principio, la tecnica potrebbe potenziare il servizio offerto da Babylon Health.

La capacità di identificare le relazioni causali nei dati medici migliorerebbe l'IA diagnostica dietro il suo chatbot. Giustificare le risposte indicando causa ed effetto sottostanti, piuttosto che correlazioni nascoste, dovrebbe anche dare alle persone più fiducia nell'app, afferma Lee, che lavora anche sull'apprendimento automatico e sull'informatica quantistica all'University College di Londra. L'assistenza sanitaria è un settore ad alto rischio. Non vogliamo schierare una scatola nera, dice.

La coppia si rese presto conto che avrebbero dovuto ricominciare da capo. Quando abbiamo guardato, si è scoperto che nessuno aveva davvero risolto questo problema, dice Lee. La sfida consiste nel fondere insieme più set di dati che condividono variabili comuni ed estraggono quante più informazioni possibili su causa ed effetto dai dati combinati.

Il metodo non utilizza l'apprendimento automatico ma è invece ispirato alla crittografia quantistica, in cui una formula matematica può essere utilizzata per dimostrare che nessuno sta origliando la tua conversazione. Dhir e Lee trattano i set di dati come conversazioni e le variabili che influenzano tali set di dati in modo causale come intercettatori. Usando la matematica della crittografia quantistica, il loro algoritmo può identificare se questi effetti esistono o meno.

Hanno testato il sistema su set di dati in cui erano già note le relazioni causali, come due set che misurano le dimensioni e la consistenza dei tumori al seno. L'IA ha correttamente rilevato che le dimensioni e la consistenza non avevano un nesso causale tra loro, ma che entrambe erano determinate dal fatto che il tumore fosse maligno o benigno.

Se i dati grezzi sono disponibili, affermano la coppia, il loro algoritmo può identificare le relazioni causali tra le variabili così come potrebbe farlo uno studio clinico. Invece di cercare le cause eseguendo un nuovo studio randomizzato controllato, il software potrebbe essere in grado di farlo utilizzando i dati esistenti. Lee ammette che le persone avranno bisogno di essere convincenti e spera che l'algoritmo venga almeno inizialmente utilizzato per completare le prove, forse evidenziando potenziali collegamenti causali per lo studio. Tuttavia, osserva che organismi ufficiali come la Food and Drug Administration statunitense approvano già nuovi farmaci sulla base di prove che mostrano solo una correlazione. Il modo in cui i farmaci passano attraverso studi randomizzati controllati è meno convincente rispetto all'utilizzo di questi algoritmi, dice.

nascondere