Cinque modi per rendere l'IA una maggiore forza positiva nel 2021

Un palloncino è legato a un peso di metallo. Un paio di forbici stanno tagliando il filo che lo fissa in posizione. Getty

Un anno fa, nessuno era più saggio di ciò che avrebbe portato il 2020, io riflessa sul momento cruciale in cui si trovava la comunità di intelligenza artificiale. L'anno precedente, il 2018, aveva assistito a una serie di fallimenti automatizzati di alto profilo, come incidenti con auto a guida autonoma e strumenti discriminatori di reclutamento . Nel 2019, il campo ha risposto con più discorsi sull'etica dell'IA che mai. Ma parlare, dicevo, non bastava. Dovevamo intraprendere azioni concrete. Due mesi dopo, il coronavirus ha chiuso il mondo.

Nella nostra nuova realtà socialmente lontana e di tutto, queste conversazioni sui danni algoritmici sono improvvisamente arrivate al culmine. Sistemi che erano stati ai margini, tipo Gli algoritmi di scansione facciale di HireVue e strumenti di sorveglianza del luogo di lavoro , stavano diventando mainstream. Altri, come strumenti per monitorare e valutare gli studenti , giravano in tempo reale. Ad agosto, dopo un fallimento spettacolare del governo del Regno Unito per sostituire gli esami di persona con un algoritmo per l'ammissione all'università, centinaia di studenti si sono riuniti a Londra per cantare, Fanculo l'algoritmo. Questo sta diventando il grido di battaglia del 2020, twittato Deb Raji, ricercatrice sulla responsabilità dell'IA, quando un manifestante di Stanford lo ha urlato di nuovo in risposta una debacle diversa pochi mesi dopo.

Allo stesso tempo, c'era davvero più azione. Con una grande vittoria, Amazon, Microsoft e IBM hanno vietato o sospeso la vendita del riconoscimento facciale alle forze dell'ordine, dopo che l'uccisione di George Floyd ha stimolato le proteste globali contro la brutalità della polizia. Era il culmine di due anni di combattimenti da ricercatori e attivisti per i diritti civili per dimostrare gli effetti inefficaci e discriminatori delle tecnologie delle aziende. Un altro cambiamento è stato piccolo ma notevole: per la prima volta in assoluto, NeurIPS, una delle più importanti conferenze di ricerca sull'IA, ha richiesto ai ricercatori di presentare una dichiarazione etica con le loro carte.

Quindi eccoci all'inizio del 2021, con più attenzione pubblica e normativa sull'influenza dell'IA che mai. Il mio proposito per il nuovo anno: facciamolo contare. Ecco cinque speranze che ho per l'IA nel prossimo anno.

Ridurre l'influenza aziendale nella ricerca

I giganti della tecnologia hanno un controllo sproporzionato sulla direzione della ricerca sull'IA. Ciò ha spostato la direzione del campo nel suo insieme verso big data e modelli sempre più grandi, con diverse conseguenze. Fa esplodere l'impatto sul clima dei progressi dell'IA, impedisce ai laboratori con risorse limitate di partecipare al campo e porta a un'indagine scientifica più pigra ignorando la gamma di altri possibili approcci. Come quello di Google rivelata la cacciata di Timnit Gebru , i giganti della tecnologia limiteranno prontamente la capacità di indagare anche su altre conseguenze.

Ma gran parte dell'influenza delle aziende si riduce al denaro e alla mancanza di finanziamenti alternativi. Come ho scritto l'anno scorso in il mio profilo di OpenAI , inizialmente il laboratorio ha cercato di fare affidamento solo su donatori ricchi e indipendenti. La scommessa si è rivelata insostenibile e quattro anni dopo OpenAI ha firmato un accordo di investimento con Microsoft. La mia speranza è che vedremo più governi entrare in questo vuoto per fornire opzioni di finanziamento non legate alla difesa per i ricercatori. Non sarà una soluzione perfetta, ma sarà un inizio. I governi sono tenuti al pubblico, non alla linea di fondo.

Riconcentrati sulla comprensione del buon senso

L'attenzione schiacciante sui modelli più grandi e più cattivi ha oscurato uno degli obiettivi centrali della ricerca sull'IA: a creare macchine intelligenti che non solo corrispondono a schemi, ma in realtà comprendono il significato. Mentre l'influenza aziendale è un importante contributo a questa tendenza, ci sono anche altri colpevoli. Le conferenze di ricerca e le pubblicazioni peer-review pongono una forte enfasi sul raggiungimento di risultati allo stato dell'arte. Ma lo stato dell'arte è spesso mal misurati dai test che può essere battuto con più dati e modelli più grandi.

Storia correlata

Abbiamo letto il documento che ha costretto Timnit Gebru a lasciare Google. Ecco cosa dice.

Il famoso ricercatore di etica dell'azienda ha evidenziato i rischi dei modelli linguistici di grandi dimensioni, che sono fondamentali per l'attività di Google.

Non è che i modelli su larga scala non potrebbero mai raggiungere la comprensione del buon senso. Questa è ancora una domanda aperta. Ma ci sono altre vie di ricerca che meritano maggiori investimenti. Alcuni esperti hanno scommesso IA neurosimbolica , che combina il deep learning con i sistemi di conoscenza simbolica. Altri stanno sperimentando tecniche più probabilistiche che utilizzano molti meno dati, ispirati dalla capacità di un bambino umano di imparare da pochissimi esempi.

Nel 2021, spero che il settore riallineerà i suoi incentivi per dare la priorità alla comprensione rispetto alla previsione. Questo non solo potrebbe portare a sistemi tecnicamente più robusti, ma i miglioramenti avrebbero anche importanti implicazioni sociali. La suscettibilità degli attuali sistemi di apprendimento profondo a essere ingannati, ad esempio, mina la sicurezza di auto a guida autonoma e pone pericolose possibilità per armi autonome . Alla radice c'è anche l'incapacità dei sistemi di distinguere tra correlazione e causalità discriminazione algoritmica .

Dare potere ai ricercatori emarginati

Se gli algoritmi codificano i valori e le prospettive dei loro creatori, un'ampia sezione trasversale dell'umanità dovrebbe essere presente al tavolo quando vengono sviluppati. Non ho visto prove migliori di questo rispetto a dicembre 2019, quando ho frequentato NeurIPS. Quell'anno, con un numero record di donne e oratori e partecipanti di minoranze, ho potuto sentire il tenore del procedimento spostamento tangibile . Ci sono stati più colloqui che mai alle prese con l'influenza dell'IA sulla società.

All'epoca lodai la comunità per il suo progresso. Ma Il trattamento di Gebru da parte di Google , una delle poche donne nere di spicco nell'industria, ha mostrato quanto c'è ancora da fare. La diversità nei numeri non ha senso se quegli individui non hanno il potere di portare la loro esperienza vissuta nel loro lavoro. Sono ottimista, però, sul fatto che la marea stia cambiando. Il punto di infiammabilità segnato dallo sparo di Gebru si è trasformato in un momento critico di riflessione per il settore. Spero che questo slancio porti a un cambiamento sistemico di lunga durata.

Centrare le prospettive delle comunità interessate

C'è anche un altro gruppo da portare in tavola. Una delle tendenze più interessanti dello scorso anno è stata l'emergere di apprendimento automatico partecipativo . È una provocazione reinventare il processo di sviluppo dell'IA per includere coloro che alla fine diventano soggetti agli algoritmi.

A luglio il primo seminario congressuale dedicato a questo approccio ha raccolto un'ampia gamma di idee su come potrebbe essere. I suggerimenti includevano nuove procedure di governance per sollecitare il feedback della comunità; nuovi metodi di controllo dei modelli per informare e coinvolgere il pubblico; e proposte riprogettate dei sistemi di intelligenza artificiale per offrire agli utenti un maggiore controllo sulle proprie impostazioni.

La mia speranza per il 2021 è di vedere più di queste idee esplorate e adottate sul serio. Facebook sta già iniziando: se consentirà al suo consiglio di sorveglianza esterno di apportare modifiche vincolanti alle politiche di moderazione dei contenuti della piattaforma, la struttura di governance potrebbe diventare un meccanismo di feedback degno di emulazione.

Codificare i guard rail nel regolamento

Finora, gli sforzi di base hanno portato il movimento a mitigare i danni algoritmici e a ritenere responsabili i giganti della tecnologia. Ma spetterà alle autorità di regolamentazione nazionali e internazionali istituire guard rail più permanenti. La buona notizia è che i legislatori di tutto il mondo stanno osservando e stanno redigendo una legislazione. Negli Stati Uniti, i membri del Congresso lo hanno già fatto introdotto fatture per affrontare il riconoscimento facciale, la distorsione dell'IA e i deepfake. Anche molti di loro inviato una lettera a Google a dicembre, esprimendo l'intenzione di continuare a perseguire questo regolamento.

Quindi la mia ultima speranza per il 2021 è che alcuni di questi conti passino. È ora di codificare ciò che abbiamo imparato negli ultimi anni e di allontanarci dalla finzione dell'autoregolamentazione.

nascondere