Gli algoritmi di determinazione dei prezzi possono imparare a colludere tra loro per aumentare i prezzi

Categoria: Intelligenza artificiale Inserito 12 febbraio

Se acquisti su Amazon, è probabile che un algoritmo piuttosto che un essere umano stabilisca il prezzo del servizio o dell'articolo che hai acquistato. Gli algoritmi di determinazione dei prezzi sono diventati onnipresenti nella vendita al dettaglio online poiché i sistemi automatizzati sono diventati sempre più convenienti e facili da implementare. Ma mentre aziende come le compagnie aeree e gli hotel utilizzano da tempo le macchine per fissare i prezzi, i sistemi di determinazione dei prezzi si sono evoluti. Sono passati da programmi basati su regole a programmi di apprendimento per rinforzo, in cui la logica di decidere il prezzo di un prodotto non è più sotto il controllo di un essere umano.

Se ricordi, l'apprendimento per rinforzo è un sottoinsieme dell'apprendimento automatico che utilizza penalità e ricompense per incentivare un agente di intelligenza artificiale verso un obiettivo specifico. AlphaGo lo usò notoriamente per battere i migliori giocatori umani nell'antico gioco da tavolo Go. In un contesto di pricing, a questi sistemi viene assegnato un obiettivo tale da massimizzare il profitto complessivo; quindi sperimentano diverse strategie in un ambiente simulato per trovare quella ottimale. Un nuovo carta ora suggerisce che questi sistemi potrebbero porre un grosso problema: imparano rapidamente a colludere.

I ricercatori dell'Università di Bologna in Italia hanno creato due semplici algoritmi di determinazione dei prezzi basati sull'apprendimento per rinforzo e li hanno liberati in un ambiente controllato. Hanno scoperto che i due algoritmi completamente autonomi hanno imparato a rispondere al comportamento dell'altro e hanno rapidamente portato il prezzo delle merci al di sopra di dove sarebbe stato se operassero da soli.

La cosa più preoccupante è che gli algoritmi non lasciano traccia di azione concertata, hanno scritto i ricercatori. Imparano a colludere puramente per tentativi ed errori, senza alcuna conoscenza preliminare dell'ambiente in cui operano, senza comunicare tra loro e senza essere specificamente progettati o istruiti a colludere. Ciò rischia di far salire il prezzo delle merci e, in definitiva, di danneggiare i consumatori.

Questo è apparso originariamente nella nostra newsletter AI The Algorithm. Per riceverlo direttamente nella tua casella di posta, registrati qui gratuitamente.