Apple Card è oggetto di indagine per le affermazioni secondo cui concede alle donne limiti di credito inferiori

Categoria: Intelligenza artificiale Inserito 11 novembre

L'algoritmo che determina il limite di credito per gli utenti della nuova carta di credito di Apple, lanciata negli Stati Uniti ad agosto, sta affrontando un'indagine perché sembra dare agli uomini limiti più alti rispetto alle donne.

Le notizie: Il 7 novembre, l'imprenditore web David Heinemeier Hansson ha pubblicato un tweet ora virale dicendo che la Apple Card gli aveva concesso 20 volte il limite di credito di sua moglie. Questo nonostante il fatto che abbiano presentato dichiarazioni dei redditi congiunte e che, dopo le indagini, sua moglie avesse un punteggio di credito migliore di lui. Il cofondatore di Apple Steve Wozniak ha risposto al tweet e ha detto che anche a lui era stato concesso 10 volte il limite di credito di sua moglie, anche se non hanno beni separati o conti bancari.

Risultato: Ora il Dipartimento dei servizi finanziari di New York sta avviando un'indagine su Goldman Sachs, che gestisce la carta. Il suo sovrintendente, Linda Lacewell, detto in un post sul blog che il watchdog esaminerebbe se l'algoritmo utilizzato per prendere queste decisioni sui limiti di credito viola le leggi statali che vietano la discriminazione sulla base del sesso. Il regolatore l'ha già fatto ha aperto di recente un'inchiesta nei rapporti secondo cui un algoritmo ha portato i pazienti neri a ricevere cure meno complete rispetto ai pazienti bianchi.

Problema più ampio: Goldman Sachs ha pubblicato una dichiarazione su Twitter durante il fine settimana, affermando che il sesso non viene preso in considerazione per determinare l'affidabilità creditizia. Ma l'inspiegabile disparità nei limiti di credito della carta è un altro esempio di come la distorsione algoritmica possa essere creata involontariamente. Gli algoritmi del tipo utilizzato per valutare l'affidabilità creditizia vengono addestrati su anni di dati storici e le distorsioni possono insinuarsi nel processo in diversi modi.