L'IA sta imparando quando dovrebbe e non dovrebbe affidarsi a un essere umano

Mark Schiefelbein/AP

Il contesto: Gli studi dimostrano che quando le persone e i sistemi di intelligenza artificiale lavorano insieme, possono sovraperformare uno dei due agendo da soli. I sistemi diagnostici medici vengono spesso controllati da medici umani e i sistemi di moderazione dei contenuti filtrano ciò che possono prima di richiedere assistenza umana. Ma gli algoritmi sono raramente progettati per ottimizzare questo passaggio dall'IA all'uomo. Se lo fossero, il sistema di intelligenza artificiale si rifarebbe alla sua controparte umana solo se la persona potesse effettivamente prendere una decisione migliore.

La ricerca: I ricercatori del Computer Science and AI Laboratory (CSAIL) del MIT hanno ora sviluppato un sistema di intelligenza artificiale per fare questo tipo di ottimizzazione in base ai punti di forza e di debolezza del collaboratore umano. Utilizza due modelli di apprendimento automatico separati; si prende la decisione effettiva, sia che si tratti di diagnosticare un paziente o di rimuovere un post sui social media, e si prevede se l'IA o l'essere umano sono i migliori responsabili delle decisioni.

Quest'ultimo modello, che i ricercatori chiamano il rifiuto, migliora in modo iterativo le sue previsioni in base al track record di ciascun decisore nel tempo. Può anche tenere conto di fattori al di là delle prestazioni, inclusi i limiti di tempo di una persona o l'accesso di un medico a informazioni sensibili sul paziente non disponibili per il sistema di intelligenza artificiale.

I risultati: I ricercatori hanno testato l'approccio ibrido umano-IA in una varietà di scenari, inclusi compiti di riconoscimento delle immagini e rilevamento di incitamenti all'odio. Il sistema di intelligenza artificiale è stato in grado di adattarsi al comportamento dell'esperto e di rinviarlo quando appropriato, consentendo ai due decisori di raggiungere rapidamente un livello combinato di accuratezza superiore a un precedente approccio ibrido umano-IA.

Argomento di studio: Sebbene questi esperimenti siano ancora relativamente semplici, i ricercatori ritengono che un tale approccio potrebbe eventualmente essere applicato a decisioni complesse nell'assistenza sanitaria e altrove. Prendi in considerazione un sistema di intelligenza artificiale che aiuti i medici a prescrivere l'antibiotico giusto. Sebbene gli antibiotici ad ampio spettro siano altamente efficaci, il loro uso eccessivo può portare a resistenza agli antibiotici. Antibiotici specifici, d'altra parte, evitano questo problema ma dovrebbero essere usati solo se hanno un'alta probabilità di funzionare. Dato questo compromesso, il sistema di intelligenza artificiale potrebbe imparare ad adattarsi a vari medici con diversi pregiudizi nelle loro prescrizioni e correggere le tendenze a sovra o sotto-prescrivere antibiotici ad ampio spettro.

nascondere