211service.com
I pericoli dell'IA di Tech-Bro
Tabitha Goldstaub, cofondatrice di CognizioneX , che aiuta le aziende a implementare l'IA, afferma che è necessario diversificare il campo per assicurarsi che i prodotti funzionino effettivamente bene. 24 ottobre 2017
Miguel Porlan
Se pensi all'intelligenza artificiale e ai componenti principali di ciò che rende un'IA, hai il fatto che le è stato assegnato un obiettivo e quindi troverai un modo per raggiungerlo. Quindi è spesso molto poco trasparente su come ha raggiunto quell'obiettivo. Se stai costruendo in una macchina qualche pregiudizio inconscio, potresti non sapere che è lì; l'output potrebbe essere dannoso per le donne ed è molto difficile capire esattamente perché è successo.
Nella tecnologia tradizionale, puoi vedere [cosa è successo]: donne che muoiono in incidenti stradali perché i manichini dei crash test avevano la forma di un uomo piuttosto che la forma di una donna. [Con l'IA potrebbero esserci] situazioni di vita o di morte simili, in sperimentazioni sui farmaci o in veicoli autonomi e cose del genere.
Questa storia faceva parte del nostro numero di novembre 2017
- Vedi il resto del problema
- sottoscrivi
Ci sono alcuni esempi di [distorsione di genere nell'IA oggi]: Annunci Google che mostrano annunci [di lavoro] più redditizi agli uomini rispetto alle donne . Possiamo ipotizzare altri tipi di situazioni che accadrebbero: e se le donne non fossero in grado di ottenere prestiti, mutui o assicurazioni?
Non ho una visione distopica dell'IA. Non vedo robot assassini. Sono molto più concentrato sulle applicazioni ristrette e penso che se guardi ognuna di quelle applicazioni ristrette c'è la possibilità che influisca negativamente sulle donne. Non penso che l'intelligenza artificiale sia il problema qui; è il problema aggiuntivo piuttosto che la causa. Stiamo parlando del rischio che il nostro sessismo inconscio o razzismo inconscio penetrino nelle macchine che stiamo costruendo.
Come possiamo convincere chiunque stia costruendo l'IA a pensare a queste cose? Abbiamo bisogno che i consumatori richiedano un'IA etica. Non abbastanza persone vedono questo come qualcosa di più di una semplice questione di genere; questo è un problema reale e fondamentale del prodotto.
— come detto a Rachel Metz