Il CEO di Microsoft chiede un'IA responsabile, ignora gli algoritmi che già governano le nostre vite

Il CEO di Microsoft Satya Nadella è preoccupato per il potere che l'intelligenza artificiale eserciterà sulle nostre vite. In un post su Ardesia ieri ha consigliato all'industria informatica di farlo inizia subito a pensare a come progettare software intelligenti per rispettare la nostra umanità .

L'industria tecnologica non dovrebbe dettare i valori e le virtù di questo futuro, ha scritto.

Nadella ha chiesto la responsabilità algoritmica in modo che gli esseri umani possano annullare il danno non intenzionale. Ha affermato che il software intelligente deve essere progettato in modo da consentirci di ispezionarne il funzionamento e impedire che discrimini determinate persone o utilizzi i dati privati ​​in modi sgradevoli.

Satya Nadella, CEO di Microsoft.

Queste sono preoccupazioni nobili e razionali, ma di cui i leader tecnologici avrebbero dovuto parlare qualche tempo fa. Ci sono ampie prove che gli algoritmi e il software che modellano la vita quotidiana possono già essere contrassegnati da pregiudizi preoccupanti.

Gli studi della Federal Trade Commission hanno trovato segni che i pregiudizi razziali ed economici denunciati in epoca pre-Internet stanno ora riapparendo nei sistemi che alimentano annunci mirati e altri servizi online. In Wisconsin è in corso una rissa sul perché il funzionamento di a sistema che cerca di prevedere se un criminale si ricandiderà... ed è usato per determinare le pene detentive: deve essere tenuto segreto.

Proprio oggi l'ACLU ha intentato una causa contro il governo degli Stati Uniti per conto di ricercatori con un piano da cercare discriminazione razziale negli annunci di lavoro e alloggi online . Non possono eseguirlo a causa delle restrizioni delle leggi federali sull'hacking e del modo in cui le aziende tecnologiche scrivono i loro termini e condizioni.

È chiaro che alcuni dei problemi che secondo Nadella potrebbero essere creati dalla futura intelligenza artificiale sono in realtà già qui. La ricercatrice Microsoft Kate Crawford ha ben riassunto la radice del pregiudizio algoritmico in un recente New York Volte editoriale, scrivendo quel software potrebbe già esacerbare la disuguaglianza sul posto di lavoro , a casa e nei nostri sistemi legali e giudiziari.

Nadella conclude il suo post lungimirante sull'intelligenza artificiale dicendo: Il prossimo passo più critico nella nostra ricerca dell'intelligenza artificiale. è concordare un quadro etico ed empatico per la sua progettazione. Quale modo migliore per essere pronti per il futuro dominato dall'intelligenza artificiale che iniziare a lavorare ora sull'applicazione di una struttura etica ed empatica al software stupido che già ci circonda?

(Per saperne di più: Ardesia , Vice , Ars Tecnica , New York Times )

nascondere