211service.com
La Singolarità e il Punto Fisso
Alcuni futuristi come Ray Kurzweil hanno ipotizzato che un giorno o l'altro attraverseremo presto una singolarità, ovvero un periodo di rapido cambiamento tecnologico oltre il quale non possiamo immaginare il futuro della società. La maggior parte delle visioni di questa singolarità si concentra sulla creazione di macchine abbastanza intelligenti da concepire macchine ancora più intelligenti di loro stesse, e così via in modo ricorsivo, avviando così un ciclo di feedback positivo di amplificazione dell'intelligenza. È un pensiero intrigante. (Una delle prime cose che volevo fare quando sono arrivato al MIT come studente universitario era costruire un robot scienziato che potesse fare scoperte più velocemente e meglio di chiunque altro.) Anche il CTO di Intel, Justin Rattner, ha recentemente ipotizzato pubblicamente che siamo sulla buona strada per questa singolarità e conferenze come il Singularity Summit (in cui Parlerò ad ottobre ) stanno esplorando come tali trasformazioni potrebbero aver luogo.
Come ingegnere del cervello, tuttavia, penso che concentrarsi esclusivamente sull'aumento dell'intelligenza come motore del futuro stia tralasciando una parte critica dell'analisi, ovvero i cambiamenti nella motivazione che potrebbero sorgere quando l'intelligenza si amplifica. Chiamalo la necessità di capacità di leadership della macchina o filosofia della macchina: senza di essa, un tale ciclo di feedback potrebbe rapidamente esplodere.
Sappiamo tutti che l'intelligenza, come comunemente definita, non è sufficiente per avere un impatto sul mondo da sola. Importante è anche la capacità di perseguire ostinatamente un obiettivo contro gli ostacoli, ignorando la cupezza della realtà (a volte fino all'illusione, cioè contro l'intelligenza). La maggior parte delle storie di fantascienza preferisce che le loro intelligenze artificiali siano estremamente motivate a fare cose, ad esempio schiavizzare o annientare gli umani, se La matrice e Terminator II avere qualcosa da dire sull'argomento. Ma trovo altrettanto plausibile il robot Marvin, la macchina superintelligente di Douglas Adams' Il Guida galattica per autostoppisti , che usava la sua enorme intelligenza principalmente per sedersi e lamentarsi, in assenza di grandi obiettivi.
In effetti, un'intelligenza davvero avanzata, motivata in modo improprio, potrebbe rendersi conto dell'impermanenza di tutte le cose, calcolare che il sole si esaurirà in pochi miliardi di anni, e decidere di giocare ai videogiochi per il resto della sua esistenza, concludendo che inventando un sistema ancora più intelligente la macchina è inutile. (Un corollario di questo pensiero potrebbe spiegare perché non abbiamo ancora trovato la vita extraterrestre: le intelligenze sul punto di realizzare il viaggio interstellare potrebbero essere inclini a pensare che con le galassie che ribolleranno in soli 1019 anni, potrebbe essere meglio restare a casa e guardare la TV.) Quindi, se si sta cercando di costruire una macchina intelligente in grado di concepire macchine più intelligenti, è importante trovare un modo per costruire non solo la motivazione, ma l'amplificazione della motivazione - il continuo desiderio di costruire una motivazione autosufficiente, man mano che l'intelligenza si amplifica. Se tale motivazione deve essere posseduta dalle future generazioni di intelligenza - meta-motivazione, per così dire - allora è importante scoprire questi principi ora.
C'è un secondo problema. Un essere intelligente può essere in grado di immaginare molte più possibilità di uno meno intelligente, ma ciò non sempre può portare a un'azione più efficace, specialmente se alcune possibilità distraggono l'intelligenza dagli obiettivi originali (ad esempio, l'obiettivo di costruire un'intelligenza più intelligente ). L'incertezza intrinseca dell'universo può anche sopraffare, o rendere irrilevante, il processo decisionale di questa intelligenza. In effetti, per uno spazio di possibilità molto dimensionale (con gli assi che rappresentano diversi parametri dell'azione da intraprendere), potrebbe essere molto difficile valutare quale sia il percorso migliore. La mente può fare piani in parallelo, ma le azioni sono in definitiva unitarie e, date le risorse accessibili limitate, le azioni efficaci saranno spesso scarse.
Gli ultimi due paragrafi si applicano non solo all'intelligenza artificiale e all'ET, ma descrivono anche le caratteristiche della mente umana che influenzano il processo decisionale in molti di noi a volte: mancanza di motivazione e guida e paralisi del processo decisionale di fronte a troppe scelte possibili . Ma c'è di peggio: sappiamo che una motivazione può essere dirottata da opzioni che simulano la soddisfazione a cui la motivazione è diretta. Le dipendenze da sostanze affliggono decine di milioni di persone solo negli Stati Uniti e anche le dipendenze da cose più sottili, inclusi alcuni tipi di informazioni (come la posta elettronica), sono importanti. E poche arti sono più impegnative del trasmettere la motivazione alla generazione successiva, per il perseguimento di una grande idea. Intelligenze che inventano tecnologie sempre più interessanti e coinvolgenti, che riescono a catturare e trattenere meglio la loro attenzione, riducendo al contempo l'impatto sul mondo, potrebbero entrare nell'opposto di una singolarità.
Qual è il contrario di singolarità? La singolarità dipende da una ricorsione matematica: inventa una superintelligenza, e poi inventerà una superintelligenza ancora più potente. Ma come sa qualsiasi studente di matematica, ci sono altri risultati di un processo iterato, come un punto fisso. Un punto fisso è un punto che, quando viene applicata una funzione, ti restituisce lo stesso punto. L'applicazione di tale funzione a punti vicini al punto fisso spesso li invierà verso il punto fisso.
Un punto fermo della società potrebbe quindi essere definito come uno stato che si autorafforza, rimanendo nello status quo - che potrebbe in linea di principio essere pacifico e autosufficiente, ma potrebbe anche essere estremamente noioso - ad esempio, coinvolgendo molte persone collegate a Internet guardare video per sempre. Quindi, come esseri umani potremmo voler, prima o poi, iniziare a definire regole di progettazione per le tecnologie in modo che ci motiveranno a raggiungere un obiettivo o un traguardo elevato, o almeno lontano dai punti fermi della società senza sbocchi. Questo processo comporterà la riflessione su come la tecnologia potrebbe aiutare ad affrontare una vecchia questione della filosofia, vale a dire, cosa dovrei fare, dati tutti questi possibili percorsi? Forse è il momento per una risposta empirica a questa domanda, derivata dalle proprietà del nostro cervello e dell'universo in cui viviamo.