211service.com
Come possiamo essere sicuri che l'IA si comporterà? Forse guardandolo discutere con se stesso.
Blog OpenAI
Un giorno, potrebbe essere perfettamente normale vedere un sistema di IA combattere con se stesso.
Il concetto viene dai ricercatori di OpenAI , un'organizzazione no profit fondata da diversi luminari della Silicon Valley, tra cui il partner di Y Combinator Sam Altman, il presidente di LinkedIn Reid Hoffman, il membro del consiglio di Facebook e fondatore di Palantir Peter Thiel e il capo di Tesla e SpaceX Elon Musk.
I ricercatori di OpenAI hanno precedentemente dimostrato che i sistemi di intelligenza artificiale che si addestrano da soli a volte possono sviluppare abitudini inaspettate e indesiderate. Ad esempio, in un gioco per computer, un agente può capire come farlo problema tecnico la sua strada verso un punteggio più alto. In alcuni casi può essere possibile per una persona supervisionare il processo di formazione . Ma se il programma di intelligenza artificiale sta facendo qualcosa di incredibilmente complesso, ciò potrebbe non essere fattibile. Quindi i ricercatori suggeriscono che due sistemi discutono invece di un obiettivo particolare.
Riteniamo che questo o un approccio simile potrebbe alla fine aiutarci ad addestrare i sistemi di intelligenza artificiale per eseguire compiti molto più avanzati dal punto di vista cognitivo di quelli di cui gli esseri umani sono capaci, pur rimanendo in linea con le preferenze umane, scrivono i ricercatori in un post sul blog delineando il concetto.
Prendi, ad esempio, un sistema di intelligenza artificiale progettato per difendersi dagli hacker umani o di intelligenza artificiale. Per impedire al sistema di fare qualcosa di dannoso o non etico, potrebbe essere necessario contestarlo per spiegare la logica di un'azione particolare. Quella logica potrebbe essere troppo complessa da comprendere per una persona, quindi i ricercatori suggeriscono che un'altra IA dibattiti sulla saggezza dell'azione con il primo sistema, usando il linguaggio naturale, mentre la persona osserva. Ulteriori dettagli compaiono in a documento di ricerca .
Avere programmi di IA che discutono tra loro richiede una tecnologia più sofisticata di quella attuale. Finora, i ricercatori di OpenAI hanno esplorato l'idea solo con un paio di esempi estremamente semplici. Uno riguarda due sistemi di intelligenza artificiale che cercano di convincere un osservatore di un personaggio nascosto rivelando lentamente i singoli pixel.
I ricercatori hanno creato un sito web dove due persone qualsiasi possono provare a interpretare i ruoli dei sistemi di intelligenza artificiale dibattiti mentre un terzo funge da giudice. I due partecipanti competono per convincere il giudice della natura di un'immagine evidenziandone parti. Alla fine diventa più facile per l'osservatore dire chi è onesto.
Vincent Conitzer , un ricercatore della Duke University che studia le questioni etiche che coinvolgono l'IA, afferma che il lavoro è in una fase iniziale ma mantiene le promesse. La creazione di sistemi di intelligenza artificiale in grado di spiegare le loro decisioni è un'agenda di ricerca impegnativa, afferma. In caso di successo, può contribuire notevolmente all'uso responsabile dell'IA.
Così com'è e nonostante alcuni stravagante dichiarazioni da artisti del calibro di Elon Musk (un finanziatore di OpenAI e fino a poco tempo fa un membro del suo consiglio): siamo ancora lontani dall'avere sistemi di intelligenza artificiale in grado di ingannarci e ingannarci nel tipo di scenario rappresentato in film come Ex machina e Sua .
Tuttavia, alcuni ricercatori di intelligenza artificiale stanno esplorando modi per garantire che la tecnologia non si comporti in modi non intenzionali. Questo potrebbe diventare più importante man mano che i programmi di intelligenza artificiale diventano più complessi e imperscrutabili (vedi L'oscuro segreto nel cuore dell'IA).
Penso che l'idea dell'allineamento dei valori attraverso il dibattito sia molto interessante e potenzialmente utile, dice Ariel Procaccia , professore di informatica alla CMU che studia il processo decisionale con sistemi autonomi.
Tuttavia, Procaccia osserva che il lavoro è molto preliminare, e che il concetto può contenere anche una contraddizione fondamentale. Per dibattere questioni cariche di valori in un modo comprensibile per un giudice umano, gli agenti dell'IA potrebbero aver bisogno di avere una solida conoscenza dei valori umani in primo luogo, dice. Quindi l'approccio è probabilmente mettere il carro davanti ai buoi.
Iyad Rawan , un ricercatore presso il Media lab del MIT, aggiunge che i ricercatori dovrebbero fare attenzione che un paio di IA non siano entrati in una discussione circolare. Penso che affronteranno alcuni problemi molto difficili molto rapidamente, dice. Il primo è come automatizzare l'argomentazione in linguaggio naturale, che è ancora un problema irrisolto.