I ricercatori dell'IA vogliono studiare l'IA nello stesso modo in cui gli scienziati sociali studiano gli esseri umani

Un'illustrazione concettuale di un ricercatore che studia l'IA Tsjisse Talsma

Molto inchiostro è stato versato sulla natura della scatola nera dei sistemi di intelligenza artificiale e su come ci mette a disagio il fatto che spesso non riusciamo a capire perché prendono le decisioni che prendono. Poiché gli algoritmi sono arrivati ​​a mediare tutto, dalle nostre interazioni sociali e culturali a quelle economiche e politiche, gli informatici hanno tentato di rispondere alle crescenti richieste della loro spiegabilità sviluppando metodi tecnici per comprendere i loro comportamenti.

Ma un gruppo di ricercatori del mondo accademico e industriale sta ora sostenendo che non abbiamo bisogno di penetrare in queste scatole nere per capire, e quindi controllare, il loro effetto sulle nostre vite. Dopotutto, queste non sono le prime scatole nere imperscrutabili che incontriamo.

Abbiamo sviluppato metodi scientifici per studiare le scatole nere per centinaia di anni, ma questi metodi sono stati applicati principalmente a [esseri viventi] fino a questo punto, afferma Nick Obradovich, un ricercatore del MIT Media Lab e coautore di un nuova carta pubblicato la scorsa settimana in Natura . Possiamo sfruttare molti degli stessi strumenti per studiare i nuovi sistemi di intelligenza artificiale della scatola nera.

Gli autori del documento, un gruppo eterogeneo di ricercatori dell'industria e del mondo accademico, propongono di creare una nuova disciplina accademica chiamata comportamento della macchina. Si avvicina allo studio dei sistemi di intelligenza artificiale nello stesso modo in cui abbiamo sempre studiato animali e umani: attraverso l'osservazione e la sperimentazione empirica.

In questo modo un comportamentista delle macchine è per uno scienziato informatico ciò che uno scienziato sociale è per un neuroscienziato. Il primo cerca di capire come un agente, artificiale o biologico, si comporta nel suo habitat, quando coesiste in gruppi e quando interagisce con altri agenti intelligenti. Quest'ultimo cerca di analizzare i meccanismi decisionali alla base di tali comportamenti.

Stiamo assistendo all'ascesa di macchine con agenzia, macchine che sono attori che prendono decisioni e intraprendono azioni in modo autonomo, ha affermato Iyad Rahwan, un altro ricercatore di Media Lab e autore principale del documento, in un post sul blog che accompagna la pubblicazione. Quindi devono essere studiati come una nuova classe di attori con i propri modelli comportamentali ed ecologici.

Questo non significa suggerire che i sistemi di intelligenza artificiale abbiano sviluppato una sorta di libero arbitrio. (Certamente non lo hanno fatto; sono solo modelli matematici glorificati.) Ma ha lo scopo di allontanarsi dal vedere i sistemi di intelligenza artificiale come strumenti passivi che possono essere valutati esclusivamente attraverso la loro architettura tecnica, prestazioni e capacità. Dovrebbero invece essere considerati attori attivi che cambiano e influenzano i loro ambienti e le persone e le macchine che li circondano.

Quindi, come sarebbe? Un comportamentista della macchina potrebbe interrogare, ad esempio, l'impatto degli assistenti vocali sullo sviluppo della personalità di un bambino. Oppure potrebbero esaminare come gli algoritmi di appuntamenti online hanno cambiato il modo in cui le persone si incontrano e si innamorano. Infine, studierebbero le proprietà emergenti che derivano da molti esseri umani e macchine che coesistono e collaborano insieme.

Siamo tutti un gigantesco sistema uomo-macchina, dice Obradovich. Dobbiamo riconoscerlo e iniziare a studiarlo in questo modo.

È importante notare che la maggior parte di queste idee non sono nuove. I robotici, ad esempio, hanno studiato a lungo l'interazione uomo-computer. E il campo della scienza, della tecnologia e della società ha quella che è conosciuta come la teoria della rete degli attori, una struttura per descrivere tutto nel mondo sociale e naturale, sia umani che algoritmi, come attori che in qualche modo si relazionano tra loro. Ma per la maggior parte, ciascuno di questi sforzi è stato isolato in discipline separate. Riunirli sotto un unico ombrello aiuta ad allineare i loro obiettivi, a formalizzare un linguaggio comune e a promuovere le collaborazioni interdisciplinari. Ci aiuterà a ritrovarci, dice Obradovich.

Nonostante rientrino in una disciplina distinta dai ricercatori di intelligenza artificiale, i comportamentisti delle macchine dovrebbero comunque lavorare a stretto contatto con loro. Man mano che i secondi scoprono nuovi modi in cui i sistemi di intelligenza artificiale si comportano e influenzano le persone, i primi possono portare quegli apprendimenti a influenzare i progetti del sistema. Più ciascuna disciplina può trarre vantaggio dall'esperienza dell'altra, più saranno in grado di garantire che gli agenti artificiali avvantaggiano gli esseri umani piuttosto che danneggiarli.

Abbiamo bisogno dell'esperienza di scienziati di tutte le discipline comportamentali e computazionali, afferma Obradovich. Capire come vivere con le macchine è un problema troppo vasto per essere risolto da una sola disciplina.

nascondere