I dati radioattivi di Facebook tengono traccia delle immagini utilizzate per addestrare un'IA

Categoria: Intelligenza artificiale Inserito 06 febbraio

Le notizie: Un team di Facebook AI Research ha sviluppato un modo per tracciare esattamente quali immagini in un set di dati sono stati utilizzati per addestrare un modello di apprendimento automatico. Apportando modifiche impercettibili alle immagini, creando una sorta di filigrana, sono stati in grado di apportare minuscole modifiche corrispondenti al modo in cui funziona un classificatore di immagini addestrato su quelle immagini, senza comprometterne l'accuratezza complessiva. Ciò ha permesso loro in seguito di abbinare i modelli alle immagini che sono state utilizzate per addestrarli.

Perchè importa: Facebook chiama la tecnica dati radioattivi perché è analoga all'uso dei marcatori radioattivi in ​​medicina, che si manifestano nel corpo sotto i raggi X. Evidenziare quali dati sono stati utilizzati per addestrare un'IA rende i modelli più trasparenti, segnalando potenziali fonti di distorsione, come un modello addestrato su un insieme di immagini non rappresentativo, o rivelando quando un insieme di dati è stato utilizzato senza autorizzazione o per scopi inappropriati.

Non fare errori: Una grande sfida è stata quella di cambiare le immagini senza rompere il modello risultante. Piccole modifiche all'input di un'IA a volte possono portare a commettere errori stupidi, come identificare una tartaruga come una pistola o un bradipo come un'auto da corsa. Facebook si è assicurato di progettare le sue filigrane in modo che ciò non accadesse. Il team ha testato la sua tecnica su ImageNet, un set di dati ampiamente utilizzato di oltre 14 milioni di immagini, e ha scoperto che potevano rilevare l'uso di dati radioattivi con elevata confidenza in un particolare modello anche quando solo l'1% delle immagini era stato contrassegnato.