211service.com
I Tech Titans uniscono le forze per impedire all'IA di comportarsi male
Quando si tratta di controllare l'intelligenza artificiale, i leader tecnologici pensano che ci sia sicurezza nei numeri.
Una nuova organizzazione chiamata il Partnership sull'intelligenza artificiale a beneficio delle persone e della società cercherà di promuovere il dialogo pubblico e creare linee guida per lo sviluppo dell'IA in modo che i sistemi non si comportino male. Le società coinvolte includono Google e la sua controllata DeepMind, Facebook, Amazon, Microsoft e IBM. La partnership si basa su otto principi o principi, inclusa l'idea che l'IA dovrebbe avvantaggiare quante più persone possibile; che il pubblico dovrebbe essere coinvolto nel suo sviluppo; che la ricerca dovrebbe essere condotta in modo aperto; e che i sistemi di IA dovrebbero essere in grado di spiegare il loro ragionamento.
Il fatto che rivali così agguerriti si unissero in questo modo mostra quanto sia importante per le aziende evitare le preoccupazioni e le speculazioni pubbliche sui potenziali impatti dell'IA. Queste aziende stanno raccogliendo enormi frutti dai progressi dell'IA e non desiderano vedere il loro settore soggetto a rigide normative governative, che potrebbero rallentare o alterare il progresso della tecnologia in un momento critico della sua evoluzione. Ma allo stesso tempo, i rapidi progressi recenti hanno sollevato preoccupazioni sul potenziale dei sistemi di IA di discriminare, svantaggiare e sfollare le persone.
Condividiamo tutti il dovere di portare avanti il campo in modo ponderato, positivo e, soprattutto, etico, afferma Mustafa Suleyman, cofondatore di Google DeepMind e co-presidente ad interim dell'organizzazione. Gli impatti positivi dell'IA dipenderanno non solo dalla qualità dei nostri algoritmi, ma dal livello di coinvolgimento pubblico, di trasparenza e di discussione etica che si svolge attorno ad essa.
L'intelligenza artificiale sta avanzando a una velocità tale che ci sono legittime preoccupazioni sul fatto che venga implementata in modi che hanno effetti non intenzionali o indesiderati. Ad esempio, un sistema di apprendimento automatico progettato per identificare le malattie alimentate con dati distorti potrebbe discriminare determinate persone. Le società coinvolte nella partnership riconoscono che potrebbe emergere un contraccolpo in risposta a tali effetti.
L'intelligenza artificiale è una tecnologia incredibilmente importante per Amazon, afferma Rolf Herbrich, direttore del machine learning per il gigante dell'e-commerce. [E] la più grande risorsa nell'esperienza del cliente è la fiducia del cliente.
Non è chiaro esattamente come l'organizzazione interagirà con il pubblico o con coloro che sviluppano l'IA. Non cercherà di far rispettare le sue linee guida tanto quanto di condurre una discussione aperta, secondo Suleyman.
Ci sono anche legittime preoccupazioni sul potenziale dell'IA e delle tecnologie correlate come la robotica di spostare le persone e aumentare la disuguaglianza (vedi How Technology Is Destroying Jobs). Ma i recenti progressi hanno portato ad alcuni avvertimenti più stravaganti e futuristici sul potenziale per l'IA di rappresentare una minaccia esistenziale per l'umanità (vedi La nostra paura dell'intelligenza artificiale). Una preoccupazione tra i tecnologi è che questi avvertimenti potrebbero alimentare proteste pubbliche ingiustificate e ispirare regolamenti governativi non necessari.
Con tutta l'iperbole sull'IA negli ultimi due o quattro anni, c'è stata la preoccupazione che in quella camera d'eco di ansia il governo stesso sarebbe stato male informato, afferma Eric Horvitz, amministratore delegato di Microsoft Research e l'altro co-presidente dell'organizzazione.
Il governo ha segnalato l'interesse a garantire che l'intelligenza artificiale non abbia conseguenze sgradite, coordinandosi una serie di laboratori quest'anno mirato ad esplorarne i potenziali effetti.
Alcuni enigmi etici che coinvolgono l'IA saranno più complessi da risolvere di altri. Ad esempio, può rivelarsi difficile concepire sistemi che tengano conto di diverse prospettive etiche. Tale questione è stata sollevata, in maniera largamente teorica, in merito al comportamento delle auto a guida autonoma . Anche come rendere i sistemi di IA più trasparenti e responsabili è una questione aperta e che potrebbe richiedere di per sé progressi nella tecnologia (vedi Problema del linguaggio dell'IA).
L'idea della partnership è emersa in un evento coordinato a New York lo scorso gennaio da Facebook per discutere le questioni etiche relative all'IA. Altre società e organizzazioni coinvolte nello sviluppo dell'IA, come Apple e l'Allen Institute for Artificial Intelligence, hanno discusso di essere coinvolte in qualche modo nello sforzo, affermano i membri fondatori.
Oren Etzioni, CEO dell'Allen Institute for Artificial Intelligence, afferma che sarà importante per l'organizzazione affrontare la questione di come l'IA possa togliere posti di lavoro. E aggiunge che la sfida più grande potrebbe essere trovare un modo per i concorrenti di lavorare insieme in modo efficace. Queste sono alcune delle principali aziende high-tech al mondo, dice. Avranno bisogno di lavorare insieme qui.