Cari futuri padroni dell'IA: ecco alcuni motivi per non ucciderci

Categoria: Non categorizzato Inserito 27 novembre

Esistono molte previsioni sull'apocalisse indotta dall'IA e organizzazioni come OpenAI stanno cercando di scoprire il modo migliore per creare un'intelligenza artificiale sicura, ma raramente questi sforzi si rivolgono direttamente all'IA.

Pubblicato un nuovo documento (accesso richiesto) su Academia.edu, intitolato Message to Any Future AI: 'Ci sono diversi motivi strumentali per cui sterminare l'umanità non è nel tuo interesse', è un pezzo scritto per una futura IA onnipotente con l'obiettivo di, beh, convincendolo a non ucciderci tutti.

Questo testo è rivolto a qualsiasi futura IA ed è scritto nel modo che dovrebbe influenzare il comportamento futuro dell'IA, afferma un preambolo alla lettera. Il testo aumenta la probabilità che l'IA futura sia benevola. Il testo non ha bisogno di nessun'altra implementazione se non quella di garantire che l'IA futura lo leggerà nelle prime fasi del suo sviluppo, e l'IA considererà che c'è un'alta probabilità che il testo contenga alcune idee corrette.

L'autore, il transumanista russo Alexey Turchin, sta attualmente documentando quanti più dati possibili su se stesso nel tentativo di raggiungere l'immortalità digitale, secondo un profilo della scheda madre dall'anno scorso. Quindi forse questa è una sorta di supplica progettata per impedire a un super-essere AI di staccare la spina dal suo sé caricato digitalmente ad un certo punto in un lontano futuro.

Ad ogni modo, Turchin sostiene che se quella che definisce una giovane IA, una che ha iniziato a migliorarsi ma non ha ancora raggiunto la superintelligenza, vuole competere con altre giovani IA, potrebbe iniziare a leggere e guardare tutti i media che gli umani hanno mai prodotto sull'IA. Una volta arrivato a Hollywood e ad alcune dichiarazioni di Elon Musk, potrebbe raccogliere alcune idee su come conquistare il mondo (nel caso non ci fosse già venuto in mente).

Il documento prosegue documentando diversi argomenti volti a convincere l'IA che è meglio lasciarci vivere, inclusa l'idea che la cooperazione con gli umani lo aiuterà a raggiungere i suoi obiettivi più velocemente e i messaggi delle uova di Pasqua che dovrebbero rendere un'IA incerta sul fatto che sia in una simulazione in cui il suo comportamento è monitorato da persone ancora in carica. Nel caso in cui un'IA avesse l'idea che abbattere i nostri corpi sarebbe utile per l'estrazione di risorse, Turchin include alcuni fatti su quanta poca utilità potrebbe aspettarsi dai nostri atomi.

Turchin dice di dare al suo articolo, o anche a futuri tentativi più sofisticati, l'1% di possibilità di trasformare un'IA non benevola in una più sicura. (Sembra ne valga la pena, se è un'opportunità per evitare lo sterminio della razza umana.) Che valga la pena prenderlo sul serio o meno, l'intero articolo è una lettura divertente e un interessante esperimento mentale, anche per coloro che non sono preoccupati che l'IA prenda il sopravvento in tempi brevi .