consigli di lettura, didattica della filosofia, filosofia pubblica

Per un’etica della robotica: rileggendo Isaac Asimov

Isaac Asimov è considerato il padre della fantascienza e uno dei più grandi scrittori del Novecento. Profeta della “robotica”, termine da lui coniato nel 1942, di cui con straordinaria preveggenza immagina lo sviluppo. Nei suoi numerosi scritti, Asimov anticipa alcune delle principali questioni etiche e filosofiche legate all’implementazione di robotica e intelligenza artificiale.

Le tre leggi della robotica:

Famosissime sono le leggi della robotica, formulate da Asimov negli anni ’40 e diventate un caposaldo della letteratura e della filmografia fantascientifica.

Prima Legge: Un robot non può recar danno a un essere umano né può permettere che a causa del proprio mancato intervento un essere umano riceva danno.

Seconda legge: Un robot deve obbedire agli ordini impartiti dagli esseri umani purché tali ordini non contravvengano alla prima legge.

Terza legge: Un robot deve proteggere la propria esistenza purché questo non contrasti con la prima e la seconda legge.

A queste tre leggi Asimov ne aggiungerà successivamente una quarta, la legge zero:

Legge zero: Un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno.

Con la legge zero, la questione del possibile danno causato dalla tecnologia viene ampliata dal singolo individuo all’intera umanità, legittimando così, in casi estremi, la violazione della prima legge in funzione di un bene universale, un bene superiore.

roboetica

Un uso etico della tecnologia?

Una delle questioni sulle quali Asimov ci invita a riflettere nella sua opera è quella del rapporto tra etica e tecnologia: in particolare, Asimov ci chiede se la tecnologia, il suo sviluppo e il suo impiego, non vada subordinata all’etica.

Quella da lui proposta con le tre leggi della robotica sembra essere un’etica minimale, che si limita al principio del non arrecare danno agli umani. Eppure, questo (in apparenza) semplice principio nasconde una molteplicità di questioni: che cosa significa “non arrecare danno” all’uomo? Si pensa solo a danni fisici (e se sì, di che tipo?), o anche psicologici e morali? Possiamo accettare un piccolo danno a fronte di un beneficio maggiore nell’individuo? E un danno ad alcuni in cambio di beneficio per molti – lo scenario aperto dalla Legge zero – lo possiamo accettare? O ancora, deve essere vietata solo quella tecnologia che possa provocare un pericolo immediato per l’uomo o anche quella che induce azioni/abitudini pericolose nel lungo periodo? Ecc. È evidente che le questioni etiche implicate dall’uso di tecnologia sono moltissime e di grande complessità.

La roboetica oggi:

Oggi la roboetica è diventata una vera e propria branca dell’etica e della filosofia. Prova a rispondere alle grandi domande etiche poste dalle nuove tecnologie (come: di chi sarà la responsabilità di un incidente causato da un robot? Dei programmatori, dei proprietari, dei produttori? Che effetti può avere una certa tecnologia sull’ambiente o sulla società?) e si interroga sulle possibili ricadute di una tecnologia sui diritti dell’uomo (ad es. il diritto al lavoro, alla libertà di scelta, a non essere discriminati, o alla privacy).

La riflessione filosofica e politica spesso arranca, inseguendo il troppo rapido sviluppo di nuove tecnologie, e ancora più in ritardo arriva la riflessione giuridica a regolamentare l’uso di tecnologie già da tempo diffuse e impiegate nella società. Al fine di invertire questo trend, oggi l’Europa sta lavorando all’elaborazione di linee guida per un uso affidabile dell’intelligenza artificiale (qui per saperne di più).

Per alcuni, il tentativo è ingenuo, se non addirittura vano: la tecnologia risponde anzitutto alla logica dell’efficacia e del profitto, non a quella dell’etica. Per altri, è un tentativo doveroso di qualsiasi ‘buona’ politica.

Sono questioni importanti, all’ordine del giorno dell’agenda educativa. Asimov forse non  fornisce le risposte a questi problemi, ma offre a giovani e adulti, a esperti e neofiti, l’occasione per riflettervi, immedesimandosi, grazie alla forza evocativa di una delle più potenti penne del secolo scorso, in scenari immaginari, oggi neanche troppo lontani.

Cosa leggere (per incominciare):

Io Robot (I Robot) è una raccolta di 9 racconti di fantascienza scritti da Asimov tra il 1940 e il 1950. In ognuno di questi racconti, Asimov affronta diverse questioni etiche del possibile (all’epoca solo immaginario) rapporto tra uomini e macchine. Protagonisti sono i robot positronici: particolare tipologia di robot umanoidi dal cervello positronico. Sono generalmente innocui per l’uomo, perché seguono le leggi della robotica.

Asimov, Io robot

La Trilogia della Fondazione è forse la sua opera più riuscita. Sono tre romanzi (FondazioneFondazione e ImperoSeconda Fondazione) scritti tra il 1951 e il 1953, che valsero ad Asimov il Premio Hugo nel 1966 come miglior ciclo di fantascienza. L’opera narra le vicende dell’Impero Galattico e di un gruppo di scienziati che, grazie ad una particolare scienza, la psicostoria, è in grado di prevedere gli eventi futuri della galassia.

«Le leggi della storia sono assolute come quelle della fisica, e se in essa le probabilità di errore sono maggiori, è solo perché la storia ha a che fare con gli esseri umani che sono assai meno numerosi degli atomi, ed è per questa ragione che le variazioni individuali hanno un maggior valore» (Fondazione e impero).

Spinto dal grande successo della trilogia, decenni dopo Asimov tornerà a scrivere della Fondazione, aggiungendo nuovi capitoli alla saga, due prequel e due sequel. I sette romanzi costituiranno così il Ciclo delle Fondazioni.

Asimov trilogia della fondazione

Cosa vedere:

Moltissime le opere di fantascienza che hanno tratto ispirazione dal lavoro di Asimov. Di grande successo le saghe Star Wars e Star Trek e i film basati su alcuni suoi racconti, come:

  • Io, Robot (2004) diretto da Alex Proyas, con Willie Smith.

«Le leggi sono fatte per essere infrante». Che succede se un robot viole le tre leggi della robotica?

  • L’uomo bicentenario (1999) diretto da Chris Columbus, con Robin Williams.

Cosa manca ad un robot per poter essere ‘umano’?

Link utili:

Dagli archivi Rai, Intervista a Isaac Asimov, l’uomo delle stelle, del 1988:

http://www.teche.rai.it/2017/01/ricordando-isaac-asimov-luomo-delle-stelle/

Per gli appassionati di robotica, segnaliamo un sito italiano interamente dedicato al genere, con notizie, consigli di lettura e di visione e tanto altro:

https://www.robotiko.it/

 

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...