Non siamo pronti per l'IA, afferma il vincitore di un nuovo premio per l'IA da 1 milione di dollari

Rachel Wu / MIT CSAIL

Regina Barzilay , professore presso il Computer Science and Artificial Intelligence Laboratory (CSAIL) del MIT, è il primo vincitore dello Squirrel AI Award for Artificial Intelligence for the Benefit of Humanity, un nuovo premio che riconosce l'eccezionale ricerca nell'IA. Barzilay ha iniziato la sua carriera lavorando sull'elaborazione del linguaggio naturale. Dopo essere sopravvissuta al cancro al seno nel 2014, ha spostato la sua attenzione su algoritmi di apprendimento automatico per rilevare il cancro e progettare nuovi farmaci . Il premio sarà consegnato a febbraio 2021 dall'Association for the Advancement of Artificial Intelligence (AAAI).

Il montepremi di 1 milione di dollari, fornito da Società cinese di istruzione online Squirrel AI , di cui abbiamo scritto in precedenza, pone il premio sullo stesso livello finanziario del Premio Nobel e del Premio Turing per l'informatica. Ho parlato con Barzilay al telefono del premio e delle promesse e delle frustrazioni dell'IA.

La nostra conversazione è stata modificata per lunghezza e chiarezza.

Congratulazioni per questo premio. Cosa significa per te e per l'IA in generale?

Grazie. Sai, ci sono molte aree in cui l'IA non sta ancora facendo la differenza, ma potrebbe esserlo. Usiamo continuamente traduzioni automatiche o sistemi di raccomandazione, ma nessuno li considera una tecnologia di fantasia, nessuno se ne interroga. Ma con altre aree della nostra vita che sono cruciali per il nostro benessere, come l'assistenza sanitaria, l'IA non ha ancora l'accettazione della società. Spero che questo premio, e l'attenzione che ne deriva, aiuti a cambiare la mente delle persone e permetta loro di vedere le opportunità e spinga la comunità dell'IA a fare i passi successivi.

Che tipo di passaggi?

Quando la tecnologia è passata dall'energia a vapore all'elettricità, i primi tentativi di portare l'elettricità nell'industria non hanno avuto molto successo perché le persone hanno semplicemente cercato di replicare i motori a vapore. Penso che qualcosa di simile stia succedendo ora con l'IA. Dobbiamo capire come integrarlo in molti ambiti diversi: non solo l'assistenza sanitaria, ma anche l'istruzione, la progettazione dei materiali, l'urbanistica e così via. Naturalmente, c'è altro da fare sul lato tecnologico, inclusa la creazione di algoritmi migliori, ma stiamo portando questa tecnologia in ambienti altamente regolamentati e non abbiamo davvero visto come farlo.

In questo momento l'IA sta fiorendo in luoghi in cui il costo del fallimento è molto basso. Se Google ti trova una traduzione sbagliata o ti fornisce un link sbagliato, va bene; puoi semplicemente passare al prossimo. Ma non funzionerà per un dottore. Se dai ai pazienti il ​​trattamento sbagliato o perdi una diagnosi, ci sono implicazioni davvero serie. Molti algoritmi possono effettivamente fare le cose meglio degli umani. Ma ci fidiamo sempre delle nostre intuizioni, della nostra mente, più di qualcosa che non capiamo. Dobbiamo fornire ai medici ragioni per fidarsi dell'IA. La FDA sta esaminando questo problema, ma penso che sia molto lontano dall'essere risolto negli Stati Uniti o in qualsiasi altra parte del mondo.

Nel 2014 ti è stato diagnosticato un cancro al seno. Questo ha cambiato il modo in cui pensavi al tuo lavoro?

Oh, sì, assolutamente. Una delle cose che sono successe quando sono passato attraverso le cure e ho trascorso una quantità eccessiva di tempo in ospedale è che le cose su cui stavo lavorando ora sembravano banali. Ho pensato: le persone stanno soffrendo. Possiamo fare qualcosa.

Quando ho iniziato il trattamento, chiedevo cosa succede ai pazienti come me, con il mio tipo di tumore e la mia età e questo trattamento. Direbbero: Oh, c'è stata questa sperimentazione clinica, ma non ci si adatta esattamente. E ho pensato, il cancro al seno è una malattia molto comune. Ci sono così tanti pazienti, con così tanti dati accumulati. Come mai non lo stiamo usando? Ma non è possibile ottenere facilmente queste informazioni dal sistema negli ospedali statunitensi. È lì, ma è nel testo. E così ho iniziato a usare la PNL per accedervi. Non potrei immaginare nessun altro campo in cui le persone buttano via volontariamente i dati disponibili. Ma questo è quello che stava succedendo in medicina.

Gli ospedali hanno colto al volo l'opportunità di utilizzare maggiormente questi dati?

Ci è voluto del tempo per trovare un dottore che lavorasse con me. Stavo dicendo alla gente, se avete qualche problema, cercherò di risolverlo. Non ho bisogno di finanziamenti. Dammi solo un problema e i dati. Ma mi ci è voluto un po' per trovare dei collaboratori. Sai, non ero un personaggio particolarmente popolare.

Da questo lavoro di PNL sono quindi passato alla previsione del rischio del paziente dalle mammografie, utilizzando il riconoscimento delle immagini per prevedere se avresti il ​​cancro o meno, come è probabile che la tua malattia progredisca.

Questi strumenti avrebbero fatto la differenza se fossero stati a tua disposizione quando ti è stata diagnosticata?

Assolutamente. Possiamo eseguire questa roba sulle mie mammografie da prima della mia diagnosi, ed era già lì, puoi rilevarla chiaramente. Non è una specie di miracolo: il cancro non cresce da ieri a oggi. È un processo piuttosto lungo. Ci sono segni nel tessuto, ma l'occhio umano ha una capacità limitata di rilevare quelli che potrebbero essere schemi molto piccoli. Nel mio caso sarebbe stato visibile due anni prima.

Perché il dottore non l'ha visto?

È un compito difficile. Ogni mammografia ha macchie bianche che possono essere o meno un cancro e un medico deve decidere quale di queste macchie bianche deve essere sottoposta a biopsia. Il medico deve bilanciare agire in base all'intuizione e danneggiare un paziente eseguendo biopsie che non sono necessarie. Ma questo è esattamente il tipo di decisione che l'IA basata sui dati può aiutarci a prendere in modo molto più sistematico.

Il che ci riporta al problema della fiducia. Abbiamo bisogno di una soluzione tecnica, che renda gli strumenti più spiegabili, o dobbiamo educare le persone che li usano?

È un'ottima domanda. Alcune decisioni sarebbero davvero facili da spiegare a un essere umano. Se un'intelligenza artificiale rileva il cancro in un'immagine, puoi ingrandire l'area che il modello osserva quando effettua la previsione. Ma se chiedi a una macchina, come lo siamo sempre più spesso, di fare cose che un essere umano non può, cosa ti mostrerà esattamente la macchina? È come un cane, che può annusare molto meglio di noi, spiegando come può annusare qualcosa. Semplicemente non abbiamo quella capacità. Penso che man mano che le macchine diventano molto più avanzate, questa sia la grande domanda. Quale spiegazione ti convincerebbe se da solo non riuscissi a risolvere questo compito?

Quindi dovremmo aspettare che l'IA possa spiegarsi completamente?

No. Pensa a come rispondiamo ora alle domande sulla vita o sulla morte. La maggior parte delle domande mediche, come come risponderete a questo trattamento oa quel farmaco, trovano risposta utilizzando modelli statistici che possono portare a errori. Nessuno di loro è perfetto.

È lo stesso con l'IA. Non credo sia bene aspettare fino a quando non sviluppiamo un'IA perfetta. Non credo che accadrà presto. La domanda è come usare i suoi punti di forza ed evitare i suoi punti deboli.

Infine, perché l'IA non ha ancora avuto un grande impatto sul covid-19?

L'IA non risolverà tutti i grandi problemi che abbiamo. Ma ci sono stati alcuni piccoli esempi. Quando tutti i servizi clinici non essenziali sono stati ridotti all'inizio di quest'anno, abbiamo utilizzato uno strumento di intelligenza artificiale per identificare quali pazienti oncologici a Boston dovrebbero ancora andare a sottoporsi alla mammografia annuale.

Ma il motivo principale per cui l'IA non è stata più utile non è la mancanza di tecnologia ma la mancanza di dati. Sai, faccio parte del gruppo dirigente della J-Clinic del MIT, un centro per l'intelligenza artificiale nell'assistenza sanitaria, e ad aprile eravamo in molti a dire: vogliamo davvero fare qualcosa, dove possiamo ottenere i dati? Ma non siamo riusciti a ottenerlo. Era impossibile. Anche ora, sei mesi dopo, non è ovvio come otteniamo i dati.

Il secondo motivo è che non eravamo pronti. Anche in circostanze normali, quando le persone non sono sotto stress, è difficile adottare gli strumenti di intelligenza artificiale in un processo e assicurarsi che sia tutto adeguatamente regolato. Nella crisi attuale, semplicemente non abbiamo quella capacità.

Sai, capisco perché i medici sono conservatori: la vita delle persone è in gioco. Ma spero che questo sia un campanello d'allarme su quanto siamo impreparati a reagire rapidamente alle nuove minacce. Per quanto penso che l'IA sia la tecnologia del futuro, a meno che non scopriamo come fidarci di essa, non la vedremo andare avanti.

nascondere