211service.com
Come sradicare i pregiudizi nascosti nell'IA
Gli algoritmi stanno prendendo decisioni che cambiano la vita come negare la libertà condizionale o concedere prestiti. Cynthia Dwork, una scienziata informatica ad Harvard, sta sviluppando metodi per assicurarsi che le macchine funzionino correttamente. 24 ottobre 2017
Miguel Porlan
Perché è difficile per i progettisti di algoritmi o gli scienziati dei dati rendere conto di pregiudizi e ingiustizie?
Prendi un ambiente di lavoro ostile alle donne. Supponiamo di definire il successo come il fatto che qualcuno mantenga un lavoro per due o tre anni e ottenga una promozione. Quindi il tuo predittore, basato sui dati storici, prevederà con precisione che non è una buona idea assumere donne. La cosa interessante qui è che non stiamo parlando di decisioni di assunzione storiche. Anche se le decisioni di assunzione sono state totalmente imparziali, la realtà - la vera discriminazione nell'ambiente ostile - persiste. È più profondo, più strutturale, più radicato e più difficile da superare.
Questa storia faceva parte del nostro numero di novembre 2017
- Vedi il resto del problema
- sottoscrivi
Credo che il grande utilizzo dell'apprendimento automatico e dell'intelligenza artificiale sarà in combinazione con persone davvero esperte che conoscono la storia, la sociologia e la psicologia per capire chi dovrebbe essere trattato in modo simile a chi.
Non sto dicendo che i computer non saranno mai in grado di farlo, ma non lo vedo ora. Come fai a sapere quando hai il modello giusto e quando cattura ciò che è realmente accaduto nella società? Devi capire di cosa stai parlando. C'è il famoso detto Tutti i modelli sono sbagliati e alcuni sono utili.
— come detto a Will Knight