Abbiamo bisogno delle leggi di Asimov?

Nel 1942, l'autore di fantascienza Isaac Asimov pubblicò un racconto intitolato Runaround in cui introdusse tre leggi che governavano il comportamento dei robot. Le tre leggi sono le seguenti:

1. Un robot non può ferire un essere umano o, a causa dell'inazione, consentire a un essere umano di subire danni.

2. Un robot deve obbedire agli ordini impartitigli dagli esseri umani, a meno che tali ordini non siano in conflitto con la Prima Legge.

3. Un robot deve proteggere la propria esistenza fintanto che tale protezione non è in conflitto con la Prima o la Seconda Legge.

In seguito ha introdotto una quarta o zero legge che ha superato le altre:

0. Un robot non può danneggiare l'umanità o, con l'inazione, consentire all'umanità di subire danni.

Da allora, le leggi della robotica di Asimov sono diventate una parte fondamentale di una cultura della fantascienza che è diventata gradualmente mainstream.

Negli ultimi anni, i robotisti hanno compiuto rapidi progressi nelle tecnologie che stanno avvicinando il tipo di robot avanzati immaginati da Asimov. Sempre più robot e umani lavorano insieme negli stabilimenti, guidando automobili, pilotando aerei e persino aiutando in casa.

E questo solleva una domanda interessante: abbiamo bisogno di una serie di leggi simili ad Asimov per governare il comportamento dei robot man mano che diventano più avanzati?

Oggi riceviamo una sorta di risposta da Ulrike Barthelmess e Ulrich Furbach dell'Università di Coblenza in Germania. Questi ragazzi esaminano la storia dei robot nella società e sostengono che le nostre paure sul loro potenziale di distruggerci sono infondate. Per questo motivo, le leggi di Asimov non sono necessarie, dicono.

La parola robot deriva dalla parola ceca robota che significa lavoro forzato, apparsa per la prima volta in un'opera teatrale del 1924 dell'autore ceco Karel Capek. La versione anglicizzata si diffuse rapidamente in seguito insieme all'idea che queste macchine avrebbero potuto facilmente distruggere i loro creatori, un tema che da allora è diventato comune nella fantascienza.

Ma Barthelmess e Furbach sostengono che questa paura delle macchine è radicata molto più profondamente nella nostra cultura. Mentre le storie di fantascienza usano spesso trame in cui i robot distruggono i loro creatori, questo è un tema che ha una lunga storia nella letteratura.

Ad esempio, in Frankenstein di Mary Shelley, un mostro fatto di parti del corpo umano si rivolta contro Frankenstein, il suo creatore, perché si rifiuta di fare un compagno per il mostro.

Poi c'è la narrativa del Golem ebraico del XVI secolo, in una versione della quale un rabbino costruisce una creatura di argilla per proteggere la comunità promettendo di disattivarla dopo il sabato. Ma il rabbino dimentica e il golem si trasforma in un mostro che deve essere distrutto.

Barthelmess e Furbach sostengono che il sottofondo religioso in entrambe queste storie è che è vietato agli esseri umani agire come Dio. E che ogni tentativo in tal senso sarà sempre punito dal creatore.

Episodi simili compaiono nella mitologia greca dove vengono puniti anche gli esseri umani che dimostrano arroganza nei confronti degli Dei, come Prometeo e Niobe. Ecco perché storie di questo tipo fanno parte della nostra cultura da migliaia di anni. È su questa paura radicata che gli autori di fantascienza giocano nelle storie sui robot.

Certo, ci sono veri conflitti tra umani e macchine. Durante la rivoluzione industriale in Europa, ad esempio, c'era una grande paura delle macchine e della loro manifesta capacità di cambiare il mondo in modi che hanno avuto una profonda influenza su molte persone.

Barthelmess e Furbach sottolineano che nell'Inghilterra del XVIII secolo, la gente iniziò un movimento per distruggere le macchine per tessere che divenne così grave che il Parlamento rese la demolizione delle macchine un crimine capitale. Un gruppo noto come i luddisti ha persino combattuto l'esercito britannico su questi problemi. C'era una sorta di tecnofobia che sfociava in lotte contro le macchine, dicono.

Naturalmente, non è escluso che un simile tipo di antagonismo possa svilupparsi nei confronti della nuova generazione di robot destinati a svolgere i compiti altamente ripetitivi che i lavoratori umani attualmente svolgono nelle fabbriche di tutto il mondo e in particolare in Asia .

Tuttavia, in Asia c'è un atteggiamento molto diverso nei confronti dei robot. Paesi come il Giappone guidano il mondo nello sviluppo di robot per fabbriche automatizzate e come aiutanti umani, in parte a causa dell'invecchiamento della popolazione giapponese e dei ben noti problemi di assistenza sanitaria che questo produrrà in un futuro non troppo lontano.

Questo atteggiamento è forse incarnato da Astro Boy, un robot immaginario che nel 2007 è stato nominato dal Ministero degli Affari Esteri giapponese l'inviato giapponese per viaggi sicuri all'estero.

Per questi motivi, Barthelmess e Furbach sostengono che ciò che temiamo dei robot non è la possibilità che prendano il controllo e ci distruggano, ma la possibilità che altri umani li utilizzino per distruggere il nostro modo di vivere in modi che non possiamo controllare.

In particolare, sottolineano che molti robot ci proteggeranno in base alla progettazione. Ad esempio, i veicoli e gli aerei automatizzati sono stati progettati per guidare e volare in modo più sicuro di quanto possano mai fare gli operatori umani. Quindi saremo più sicuri usandoli che non usandoli.

Un'importante eccezione è il numero crescente di robot progettati specificamente per uccidere gli esseri umani. Gli Stati Uniti, in particolare, utilizzano i droni per omicidi mirati in paesi stranieri. La legalità, per non parlare della moralità, di queste azioni è ancora oggetto di feroci dibattiti.

Ma Barthelmess e Furbach implicano che gli esseri umani sono ancora in ultima analisi responsabili di questi omicidi e che il diritto internazionale, piuttosto che le leggi di Asimov, dovrebbe essere in grado di far fronte ai problemi che sorgono, o adattarsi a farlo.

Concludono la loro discussione considerando la potenziale convergenza tra umani e robot nel prossimo futuro. L'idea qui è che gli umani incorporeranno varie tecnologie nei propri corpi, come memoria extra o potenza di elaborazione, e quindi alla fine si fonderanno con i robot. A quel punto, la legge di tutti i giorni dovrà fare i conti con il comportamento e le azioni della gente comune e le leggi di Asimov saranno obsolete.

Un dibattito interessante che difficilmente si risolverà a breve. Ulteriori visualizzazioni nella sezione commenti per favore.

Rif: arxiv.org/abs/1405.0961 : Abbiamo bisogno delle leggi di Asimov?

nascondere