La guida di Big Tech per parlare di etica dell'IA

Andrea Daquino

I ricercatori di intelligenza artificiale spesso affermano che un buon apprendimento automatico è davvero più arte che scienza. Lo stesso si potrebbe dire per le pubbliche relazioni efficaci. Selezionare le parole giuste per dare un tono positivo o riformulare la conversazione sull'IA è un compito delicato: se fatto bene, può rafforzare l'immagine del proprio marchio, ma se fatto male, può innescare un contraccolpo ancora maggiore.

I giganti della tecnologia lo saprebbero. Negli ultimi anni, hanno dovuto imparare rapidamente quest'arte poiché hanno dovuto affrontare la crescente sfiducia del pubblico nei confronti delle loro azioni e l'intensificarsi delle critiche sulla loro ricerca e tecnologia sull'IA.

Ora hanno sviluppato un nuovo vocabolario da utilizzare quando vogliono assicurare al pubblico che si preoccupano profondamente di sviluppare l'IA in modo responsabile, ma vogliono assicurarsi che non invitino a un controllo eccessivo. Ecco una guida per gli addetti ai lavori per decodificare il loro linguaggio e sfidare i presupposti e i valori incorporati.

responsabilità (n) - L'atto di ritenere qualcun altro responsabile per le conseguenze quando il tuo sistema di intelligenza artificiale si guasta.

precisione (n) - Correttezza tecnica. La misura più importante del successo nella valutazione delle prestazioni di un modello di intelligenza artificiale. Vedere convalida .

avversario (n) - Un ingegnere solitario in grado di interrompere il tuo potente sistema di IA che genera entrate. Vedere robustezza , sicurezza .

allineamento (n) - La sfida di progettare sistemi di IA che facciano ciò a cui diciamo loro e apprezziamo ciò che apprezziamo. Volutamente astratto. Evita di usare esempi reali di conseguenze dannose non intenzionali. Vedere sicurezza .

intelligenza artificiale generale (frase) - Un ipotetico dio dell'IA questo è probabilmente lontano nel futuro ma forse anche imminente. Può essere davvero buono o davvero cattivo, a seconda di ciò che è più retoricamente utile. Ovviamente stai costruendo quello buono. Che è costoso. Pertanto, hai bisogno di più soldi. Vedere rischi a lungo termine .

audit (n) - Una recensione che paghi qualcun altro per fare della tua azienda o del tuo sistema di intelligenza artificiale in modo da apparire più trasparente senza dover cambiare nulla. Vedere Valutazione di impatto .

aumentare (v) - Aumentare la produttività degli impiegati. Effetto collaterale: automatizzare i lavori da colletti blu. Triste ma inevitabile.

benefico (agg) - Un descrittore generale per quello che stai cercando di costruire. Convenientemente mal definito. Vedere valore .

di progettazione (ph) - Come in fairness by design o accountability by design. Una frase per segnalare che stai pensando a cose importanti fin dall'inizio.

conformità (n) - L'atto di osservare la legge. Tutto ciò che non è illegale va.

etichettatrici di dati (ph) - Le persone che presumibilmente esistono dietro l'interfaccia Mechanical Turk di Amazon fare lavori di pulizia dei dati a buon mercato. Non sono sicuro di chi siano. Mai incontrati.

democratizzare (v) - Ridimensionare una tecnologia a tutti i costi. Una giustificazione per concentrare le risorse. Vedere scala .

diversità, equità e inclusione (ph) - L'atto di assumere ingegneri e ricercatori da gruppi emarginati in modo da poterli sfoggiare al pubblico. Se sfidano lo status quo, licenziarli .

efficienza (n) - L'uso di meno dati, memoria, personale o energia per costruire un sistema di IA.

consiglio etico (ph) - Un gruppo di consulenti senza potere reale, convocato per creare l'impressione che la tua azienda stia attivamente ascoltando. Esempi: Il comitato etico dell'IA di Google (cancellato), l'Organismo di Vigilanza di Facebook (ancora in piedi).

principi etici (ph) - Un insieme di truismi usati per segnalare le tue buone intenzioni. Tienilo ad alto livello. Più la lingua è vaga, meglio è. Vedere IA responsabile .

spiegabile (agg) - Per descrivere un sistema di intelligenza artificiale che tu, lo sviluppatore e l'utente potete capire. Molto più difficile da ottenere per le persone a cui è abituato. Probabilmente non ne vale la pena. Vedere interpretabile .

equità (n) - A complicato nozione di imparzialità usato per descrivere algoritmi imparziali. Può essere definito in decine di modi in base alle tue preferenze.

per sempre (ph) - Come in AI per sempre o dati per sempre . Un'iniziativa del tutto tangenziale al tuo core business che ti aiuta a generare una buona pubblicità.

lungimiranza (n) - La capacità di scrutare nel futuro. Fondamentalmente impossibile: quindi, una spiegazione perfettamente ragionevole del motivo per cui non puoi liberare il tuo sistema di intelligenza artificiale da conseguenze indesiderate.

struttura (n) - Un insieme di linee guida per prendere le decisioni. Un buon modo per apparire riflessivi e misurati mentre si ritarda il processo decisionale effettivo.

generalizzabile (agg) - Il segno di un buon modello di IA. Uno che continua a funzionare in condizioni mutevoli. Vedere mondo reale .

governo (n) - Burocrazia.

design incentrato sull'uomo (ph) - Un processo che prevede l'utilizzo di persone per immaginare cosa potrebbe desiderare un utente medio dal tuo sistema di intelligenza artificiale. Può comportare la richiesta di feedback da parte degli utenti effettivi. Solo se c'è tempo. Vedere parti interessate .

umano nel giro (ph) - Qualsiasi persona che fa parte di un sistema di IA. Le responsabilità vanno da falsificare le capacità del sistema respingere le accuse di automazione.

Valutazione di impatto (ph) - Una revisione che fai tu stesso della tua azienda o del tuo sistema di intelligenza artificiale per mostrare la tua disponibilità a considerare i suoi aspetti negativi senza cambiare nulla. Vedere audit .

interpretabile (adj) – Descrizione di un sistema di intelligenza artificiale il cui calcolo tu, lo sviluppatore, puoi seguire passo dopo passo per capire come è arrivato alla sua risposta. In realtà probabilmente solo regressione lineare. L'IA suona meglio.

integrità (n) - Problemi che minano le prestazioni tecniche del tuo modello o la capacità di scalabilità della tua azienda. Da non confondere con problemi che fanno male alla società. Da non confondere con l'onestà.

interdisciplinare (adj) – Termine utilizzato per qualsiasi team o progetto che coinvolga persone che non codificano: ricercatori utenti, product manager, filosofi morali. Soprattutto filosofi morali.

rischi a lungo termine (n) - Cose cattive che potrebbero avere effetti catastrofici in un lontano futuro. Probabilmente non accadrà mai, ma è più importante studiare ed evitare i danni immediati dei sistemi di IA esistenti.

partner (n) - Altri gruppi d'élite che condividono la tua visione del mondo e possono collaborare con te per mantenere lo status quo. Vedere parti interessate .

compromesso sulla privacy (ph) - Il nobile sacrificio del controllo individuale sulle informazioni personali per vantaggi di gruppo come i progressi sanitari guidati dall'intelligenza artificiale, che sono anche altamente redditizi.

progresso (n) - Avanzamento scientifico e tecnologico. Un bene intrinseco.

mondo reale (ph) - L'opposto del mondo simulato. Un ambiente fisico dinamico pieno di sorprese inaspettate che i modelli di IA sono addestrati a sopravvivere. Da non confondere con l'uomo e la società.

regolamento (n) - Quello che chiedi trasferire la responsabilità della mitigazione dell'IA dannosa sui responsabili politici. Da non confondere con politiche che ostacolerebbero la tua crescita.

IA responsabile (n)- Un soprannome per qualsiasi lavoro nella tua azienda che potrebbe essere interpretato dal pubblico come uno sforzo sincero per mitigare i danni dei tuoi sistemi di intelligenza artificiale.

robustezza (n) - La capacità di un modello di IA di funzionare in modo coerente e accurato sotto tentativi nefasti alimentalo con dati corrotti .

sicurezza (n)- La sfida di costruire sistemi di intelligenza artificiale che non si discostino dalle intenzioni del progettista. Da non confondere con la costruzione di sistemi di intelligenza artificiale che non falliscono. Vedere allineamento .

scala (n)- Lo stato finale de facto che qualsiasi buon sistema di IA dovrebbe sforzarsi di raggiungere.

sicurezza (n) - L'atto di proteggere dati preziosi o sensibili e modelli di IA dalla violazione da parte di malintenzionati. Vedere avversario .

parti interessate (n) - Azionisti, regolatori, utenti. Le persone al potere che vuoi mantenere felici.

trasparenza (n) - Rivelare i propri dati e codice. Male per le informazioni riservate e sensibili. Quindi davvero difficile; francamente, anche impossibile. Da non confondere con una comunicazione chiara su come funziona effettivamente il tuo sistema.

affidabile (adj) - Una valutazione di un sistema di IA che può essere prodotto con una pubblicità sufficientemente coordinata.

reddito di base universale (ph) - L'idea che pagare a tutti uno stipendio fisso risolverà il massiccio sconvolgimento economico causato quando l'automazione porta a una diffusa perdita di posti di lavoro. Reso popolare dal candidato alla presidenza del 2020 Andrew Yang. Vedere redistribuzione della ricchezza .

convalida (n) - Il processo di test di un modello di IA su dati diversi da quelli su cui è stato addestrato, per verificarne l'accuratezza.

valore (n) - Un vantaggio immateriale reso ai tuoi utenti che ti fa guadagnare molti soldi.

i valori (n) - Li hai. Ricorda alle persone.

redistribuzione della ricchezza (ph) - Un'idea utile a penzolare quando le persone ti scrutano per aver usato troppe risorse e guadagnare troppi soldi. Come funzionerebbe la redistribuzione della ricchezza? Reddito di base universale, ovviamente. Inoltre non è qualcosa che potresti capire da solo. Richiederebbe una regolamentazione. Vedere regolamento .

sospendere la pubblicazione (ph) - L'atto benevolo di scegliere di non rendere open source il proprio codice perché potrebbe cadere nelle mani di un cattivo attore. Meglio limitare l'accesso ai partner chi può permetterselo.

nascondere