211service.com
Il nostro strano comportamento durante la pandemia sta scherzando con i modelli di intelligenza artificiale
Getty
Nella settimana dal 12 al 18 aprile, i primi 10 termini di ricerca su Amazon.com sono stati: carta igienica, maschera per il viso, disinfettante per le mani, asciugamani di carta, spray Lysol, salviette Clorox, maschera, Lysol, maschere per la protezione dai germi e maschera N95 . Le persone non stavano solo cercando, stavano anche comprando e alla rinfusa. La maggior parte delle persone in cerca di maschere ha finito per acquistare il nuovo Amazon n. 1 Best Seller, maschera per il viso, confezione da 50 .
Quando il covid-19 ha colpito, abbiamo iniziato a comprare cose che non avevamo mai comprato prima. Il cambiamento è stato improvviso: i pilastri della top ten di Amazon - custodie per telefoni, caricabatterie per telefoni, Lego - sono stati eliminati dalle classifiche in pochi giorni. Nozzle, una società di consulenza con sede a Londra specializzata in pubblicità algoritmica per i venditori Amazon, ha catturato il rapido cambiamento in questo semplice grafico.
Ci è voluta meno di una settimana alla fine di febbraio perché i primi 10 termini di ricerca di Amazon in più paesi si riempissero di prodotti relativi al covid-19. Puoi monitorare la diffusione della pandemia in base a ciò che abbiamo acquistato: gli articoli hanno raggiunto il picco prima in Italia, seguiti da Spagna, Francia, Canada e Stati Uniti. Il Regno Unito e la Germania sono leggermente indietro. È una transizione incredibile nell'arco di cinque giorni, afferma Rael Cline, CEO di Nozzle. Gli effetti a catena sono stati osservati in tutte le catene di approvvigionamento al dettaglio.
Ma hanno anche influenzato l'intelligenza artificiale, causando problemi agli algoritmi che funzionano dietro le quinte nella gestione dell'inventario, nel rilevamento delle frodi, nel marketing e altro ancora. I modelli di apprendimento automatico addestrati sul normale comportamento umano stanno ora scoprendo che la normalità è cambiata e alcuni non funzionano più come dovrebbero.
Quanto è grave la situazione dipende da con chi parli. Secondo Pactera Edge, una società di consulenza globale di intelligenza artificiale, l'automazione è in tilt. Altri affermano che stanno tenendo d'occhio i sistemi automatizzati che stanno solo per resistere, intervenendo con una correzione manuale quando necessario.
Ciò che è chiaro è che la pandemia ha rivelato quanto siano intrecciate le nostre vite con l'IA, esponendo una delicata codipendenza in cui le modifiche al nostro comportamento cambiano il modo in cui funziona l'IA e le modifiche al modo in cui funziona l'IA cambiano il nostro comportamento. Questo è anche un promemoria del fatto che il coinvolgimento umano nei sistemi automatizzati rimane fondamentale. Non puoi mai sederti e dimenticare quando ti trovi in circostanze così straordinarie, dice Cline.
Altro sul coronavirus
La nostra copertura più essenziale per covid-19 è gratuita, tra cui:
Cos'è l'immunità di gregge?
Che cos'è il test sierologico?
Come funziona il coronavirus?
Quali sono i potenziali trattamenti?
Quali farmaci funzionano meglio?
Qual è il modo giusto per rispettare il distanziamento sociale?
Altre domande frequenti sul coronavirus
---
Newsletter: Rapporto tecnico sul coronavirus
Zoom: Radio Corona
Guarda anche:
Tutta la nostra copertura covid-19
Il numero speciale covid-19
Fare clic qui per iscriversi e supportare il nostro giornalismo senza scopo di lucro.
I modelli di apprendimento automatico sono progettati per rispondere ai cambiamenti. Ma la maggior parte sono anche fragili; si comportano male quando i dati di input differiscono troppo dai dati su cui sono stati addestrati. È un errore presumere che tu possa configurare un sistema di intelligenza artificiale e andartene, afferma Rajeev Sharma, vicepresidente globale di Pactera Edge: l'IA è un motore vivente e che respira.
Sharma ha parlato con diverse aziende alle prese con l'IA ribelle. Un'azienda che fornisce salse e condimenti ai rivenditori in India aveva bisogno di aiuto per riparare il suo sistema di gestione automatizzata dell'inventario quando gli ordini all'ingrosso hanno rotto i suoi algoritmi predittivi. Le previsioni di vendita del sistema su cui la società faceva affidamento per riordinare le scorte non corrispondevano più a ciò che stava effettivamente vendendo. Non è mai stato addestrato su un picco come questo, quindi il sistema era fuori controllo, afferma Sharma.
Un'altra azienda utilizza un'intelligenza artificiale per valutare il sentimento degli articoli di notizie e fornisce consigli di investimento giornalieri basati sui risultati. Ma con le notizie al momento più cupe del solito, il consiglio sarà molto distorto, afferma Sharma. E anche una grande azienda di streaming che ha avuto un afflusso improvviso di abbonati affamati di contenuti ha problemi con i suoi algoritmi di raccomandazione. L'azienda utilizza l'apprendimento automatico per suggerire contenuti pertinenti e personalizzati agli spettatori in modo che continuino a tornare. Ma l'improvviso cambiamento nei dati degli abbonati stava rendendo i consigli del suo sistema meno accurati.
Molti di questi problemi con i modelli sorgono perché più aziende acquistano sistemi di apprendimento automatico ma non dispongono del know-how interno necessario per mantenerli. La riqualificazione di un modello può richiedere l'intervento umano di esperti.
L'attuale crisi ha anche dimostrato che le cose possono peggiorare rispetto agli scenari peggiori, piuttosto banali, inclusi nei set di formazione. Sharma pensa che più IA dovrebbero essere addestrate non solo sugli alti e bassi degli ultimi anni, ma anche su eventi bizzarri come la Grande Depressione degli anni '30, il crollo del mercato azionario del Black Monday nel 1987 e la crisi finanziaria del 2007-2008. Una pandemia come questa è un innesco perfetto per costruire modelli di apprendimento automatico migliori, dice.
Anche così, non puoi prepararti a tutto. In generale, se un sistema di apprendimento automatico non vede quello che si aspetta di vedere, allora avrai dei problemi, afferma David Excell, fondatore di Featurespace, una società di analisi del comportamento che utilizza l'IA per rilevare le frodi con carta di credito. Forse sorprendentemente, Featurespace non ha visto la sua IA colpita troppo gravemente. Le persone stanno ancora comprando cose su Amazon e si abbonano a Netflix come prima, ma non stanno acquistando articoli di grandi dimensioni o spendendo in posti nuovi, che sono i comportamenti che possono destare sospetti. Il comportamento di spesa delle persone è una contrazione delle loro vecchie abitudini, afferma Excell.
Gli ingegneri dell'azienda hanno dovuto solo intervenire per adattarsi all'aumento di persone che acquistano attrezzature da giardino e utensili elettrici, afferma Excell. Questi sono i tipi di acquisti anomali di prezzo medio che gli algoritmi di rilevamento delle frodi potrebbero raccogliere. Penso che ci sia sicuramente più supervisione, dice Excell. Il mondo è cambiato e i dati sono cambiati.
Ottenere il tono giusto
Phrasee, con sede a Londra, è un'altra società di intelligenza artificiale che sta lavorando. Utilizza l'elaborazione del linguaggio naturale e l'apprendimento automatico per generare testi di email marketing o annunci di Facebook per conto dei suoi clienti. Assicurarsi che ottenga il tono giusto fa parte del suo lavoro. La sua intelligenza artificiale funziona generando molte frasi possibili e quindi eseguendole attraverso una rete neurale che seleziona le migliori. Ma poiché la generazione del linguaggio naturale può andare molto male, Phrasee fa sempre controllare agli umani ciò che entra ed esce dalla sua IA.
Quando il covid-19 ha colpito, Phrasee si è reso conto che poteva essere necessaria più sensibilità del solito e ha iniziato a filtrare il linguaggio aggiuntivo. L'azienda ha bandito frasi specifiche, come diventare virali, e non consente un linguaggio che si riferisca ad attività scoraggiate, come l'abbigliamento da festa. Ha persino eliminato emoji che potrebbero essere letti come troppo felici o troppo allarmanti. E ha anche abbandonato termini che potrebbero alimentare l'ansia, come OMG, preparati, fai scorta e preparati. Le persone non vogliono che il marketing li faccia sentire ansiosi e timorosi: sai, tipo, questo accordo sta per scadere, pressione, pressione, pressione, dice Parry Malm, CEO dell'azienda.
Come microcosmo per il settore della vendita al dettaglio nel suo insieme, tuttavia, non puoi battere Amazon. È anche il luogo in cui vengono apportate alcune delle più sottili modifiche dietro le quinte. Poiché Amazon e i 2,5 milioni di venditori di terze parti che supporta lottano per soddisfare la domanda, sta apportando piccole modifiche ai suoi algoritmi per aiutare a distribuire il carico.
La maggior parte dei venditori Amazon si affida ad Amazon per evadere i propri ordini. I venditori immagazzinano i loro articoli in un magazzino Amazon e Amazon si occupa di tutta la logistica, consegnando a casa delle persone e gestendo i resi. Quindi promuove i venditori di cui esegue personalmente gli ordini. Ad esempio, se cerchi un articolo specifico, come un Nintendo Switch, è più probabile che il risultato che appare in alto, accanto al pulsante Aggiungi al carrello prominente, provenga da un fornitore che utilizza la logistica di Amazon rispetto a uno che non lo fa. 'T.
Ma nelle ultime settimane Amazon ha ribaltato la situazione, afferma Cline. Per alleviare la domanda nei propri magazzini, i suoi algoritmi ora sembrano più propensi a promuovere i venditori che gestiscono le proprie consegne.
Mercati volatili
Questo tipo di regolazione sarebbe difficile da fare senza l'intervento manuale. La situazione è così instabile, dice Cline. Stai cercando di ottimizzare per la carta igienica la scorsa settimana e questa settimana tutti vogliono acquistare puzzle o attrezzature da palestra.
Le modifiche apportate da Amazon ai suoi algoritmi hanno quindi effetti a catena sugli algoritmi utilizzati dai venditori per decidere cosa spendere per la pubblicità online. Ogni volta che una pagina web con annunci viene caricata, si svolge un'asta super veloce in cui gli offerenti automatici decidono tra loro chi deve riempire ogni casella di annunci. L'importo che questi algoritmi decidono di spendere per un annuncio dipende da una miriade di variabili, ma alla fine la decisione si basa su una stima di quanto tu, i bulbi oculari della pagina, valuti per loro. Esistono molti modi per prevedere il comportamento dei clienti, inclusi non solo i dati sui tuoi acquisti passati, ma anche la casella di classificazione in cui le società pubblicitarie ti hanno collocato sulla base della tua attività online.
Ma ora uno dei migliori predittori del fatto che qualcuno che fa clic su un annuncio acquisterà il tuo prodotto è quanto tempo dici che ci vorrà per consegnarlo, afferma Cline. Quindi Nozzle sta parlando con i clienti dell'adeguamento dei loro algoritmi per tenerne conto. Ad esempio, se ritieni di non poter fornire più velocemente di un concorrente, potrebbe non valere la pena provare a superarli in un'asta pubblicitaria. D'altra parte, se sai che il tuo concorrente ha esaurito le scorte, puoi andare a buon mercato, scommettendo che non faranno offerte.
Tutto questo è possibile solo con un team dedicato che tiene d'occhio le cose, afferma Cline. Ritiene che la situazione attuale sia un'occasione per aprire gli occhi a molte persone che presumevano che tutti i sistemi automatizzati potessero funzionare da soli. Hai bisogno di un team di data science in grado di collegare ciò che sta accadendo nel mondo a ciò che sta accadendo negli algoritmi, dice. Un algoritmo non raccoglierebbe mai alcune di queste cose.
Con tutto ciò che è connesso, l'impatto di una pandemia si è fatto sentire in lungo e in largo, toccando meccanismi che in tempi più tipici rimangono nascosti. Se stiamo cercando un rivestimento positivo, allora è il momento di fare il punto su quei sistemi appena esposti e chiederci come potrebbero essere progettati meglio, resi più resistenti. Se ci si deve fidare delle macchine, dobbiamo vegliare su di esse.