211service.com
Il software intelligente può essere indotto con l'inganno a vedere ciò che non c'è
Una tecnica chiamata deep learning ha consentito a Google e ad altre aziende di fare progressi nel far comprendere ai computer il contenuto delle foto. Ora i ricercatori della Cornell University e dell'Università del Wyoming hanno mostrato come creare immagini che ingannano tali software vedere cose che non ci sono .
Immagini come queste sono state create per ingannare gli algoritmi di apprendimento automatico. Il software vede ogni modello come una delle cifre da 1 a 5.
I ricercatori possono creare immagini che appaiono a un essere umano come sciocchezze confuse o semplici motivi geometrici, ma sono identificate dal software come un oggetto quotidiano come uno scuolabus. Le immagini del trucco offrono nuove informazioni sulle differenze tra il modo in cui i cervelli reali e i semplici neuroni simulati utilizzati nelle immagini del processo di apprendimento profondo.
I ricercatori in genere addestrano un software di apprendimento profondo per riconoscere qualcosa di interessante, ad esempio una chitarra, mostrandogli milioni di immagini di chitarre, ogni volta dicendo al computer Questa è una chitarra. Dopo un po', il software è in grado di identificare le chitarre in immagini che non ha mai visto prima, assegnando alla sua risposta un punteggio di confidenza. Potrebbe dare a una chitarra visualizzata da sola su uno sfondo bianco un indice di confidenza elevato e a una chitarra vista sullo sfondo di un'immagine sgranata e disordinata un punteggio di confidenza inferiore (vedi 10 Breakthrough Technologies 2013: Deep Learning ).
Questo approccio ha applicazioni preziose come il riconoscimento facciale o l'utilizzo di software per elaborare filmati di sicurezza o per il traffico, ad esempio per misurare i flussi di traffico o individuare attività sospette.
Ma sebbene le funzioni matematiche utilizzate per creare una rete neurale artificiale siano comprese individualmente, non è noto come funzionino insieme per decifrare le immagini. Capiamo che funzionano, ma non come funzionano, dice Jeff Clune , assistente professore di informatica all'Università del Wyoming. Possono imparare a fare cose che non possiamo nemmeno imparare a fare noi stessi.
Queste immagini sembrano astratte per gli esseri umani, ma sono viste dall'algoritmo di riconoscimento delle immagini che sono state progettate per ingannare gli oggetti descritti nelle etichette.
Per gettare nuova luce sul funzionamento di queste reti, il gruppo di Clune ha utilizzato una rete neurale chiamata AlexNet che ha ottenuto risultati impressionanti nel riconoscimento delle immagini. Hanno operato al contrario, chiedendo una versione del software senza alcuna conoscenza delle chitarre creare un'immagine di uno, generando pixel casuali su un'immagine.
I ricercatori hanno chiesto a una seconda versione della rete che era stata addestrata per individuare le chitarre per valutare le immagini realizzate dalla prima rete. Quella valutazione di affidabilità è stata utilizzata dalla prima rete per perfezionare il suo prossimo tentativo di creare un'immagine di chitarra. Dopo migliaia di giri tra i due software, la prima rete potrebbe creare un'immagine che la seconda rete ha riconosciuto come una chitarra con una sicurezza del 99%.
Tuttavia, per un essere umano, quelle immagini di chitarra sembravano statiche TV colorate o schemi semplici. Clune dice che questo dimostra che il software non è interessato a mettere insieme dettagli strutturali come corde o una tastiera, come potrebbe essere un essere umano che cerca di identificare qualcosa. Invece, il software sembra guardare a una distanza specifica o a relazioni di colore tra i pixel, o al colore e alla trama complessivi.
Ciò offre nuove informazioni su come funzionano davvero le reti neurali artificiali, afferma Clune, sebbene siano necessarie ulteriori ricerche.
Ryan Adams , un assistente professore di informatica ad Harvard, afferma che i risultati non sono del tutto sorprendenti. Il fatto che vaste aree delle immagini dei trucchi assomiglino a mari di staticità probabilmente deriva dal modo in cui le reti vengono alimentate con immagini di addestramento. L'oggetto di interesse è solitamente solo una piccola parte della foto e il resto non è importante.
Adams sottolinea anche che la ricerca di Clune mostra che gli esseri umani e le reti neurali artificiali hanno alcune cose in comune. Gli esseri umani hanno pensato di vedere gli oggetti di tutti i giorni secondo schemi casuali, come le stelle, per millenni.
Clune afferma che sarebbe possibile utilizzare la sua tecnica per ingannare gli algoritmi di riconoscimento delle immagini quando vengono messi al lavoro in servizi Web e altri prodotti. Tuttavia, sarebbe molto difficile da realizzare. Ad esempio, Google dispone di algoritmi che filtrano la pornografia dai risultati del suo servizio di ricerca di immagini. Ma per creare immagini che lo ingannerebbero, un burlone dovrebbe conoscere dettagli significativi su come è stato progettato il software di Google.