consigli di lettura, didattica della filosofia, filosofia pubblica

Per un’etica della robotica: rileggendo Isaac Asimov

Isaac Asimov è considerato il padre della fantascienza e uno dei più grandi scrittori del Novecento. Profeta della “robotica”, termine da lui coniato nel 1942, di cui con straordinaria preveggenza immagina lo sviluppo. Nei suoi numerosi scritti, Asimov anticipa alcune delle principali questioni etiche e filosofiche legate all’implementazione di robotica e intelligenza artificiale.

Le tre leggi della robotica:

Famosissime sono le leggi della robotica, formulate da Asimov negli anni ’40 e diventate un caposaldo della letteratura e della filmografia fantascientifica.

Prima Legge: Un robot non può recar danno a un essere umano né può permettere che a causa del proprio mancato intervento un essere umano riceva danno.

Seconda legge: Un robot deve obbedire agli ordini impartiti dagli esseri umani purché tali ordini non contravvengano alla prima legge.

Terza legge: Un robot deve proteggere la propria esistenza purché questo non contrasti con la prima e la seconda legge.

A queste tre leggi Asimov ne aggiungerà successivamente una quarta, la legge zero:

Legge zero: Un robot non può recare danno all’umanità, né può permettere che, a causa del proprio mancato intervento, l’umanità riceva danno.

Con la legge zero, la questione del possibile danno causato dalla tecnologia viene ampliata dal singolo individuo all’intera umanità, legittimando così, in casi estremi, la violazione della prima legge in funzione di un bene universale, un bene superiore.

roboetica

Un uso etico della tecnologia?

Una delle questioni sulle quali Asimov ci invita a riflettere nella sua opera è quella del rapporto tra etica e tecnologia: in particolare, Asimov ci chiede se la tecnologia, il suo sviluppo e il suo impiego, non vada subordinata all’etica.

Quella da lui proposta con le tre leggi della robotica sembra essere un’etica minimale, che si limita al principio del non arrecare danno agli umani. Eppure, questo (in apparenza) semplice principio nasconde una molteplicità di questioni: che cosa significa “non arrecare danno” all’uomo? Si pensa solo a danni fisici (e se sì, di che tipo?), o anche psicologici e morali? Possiamo accettare un piccolo danno a fronte di un beneficio maggiore nell’individuo? E un danno ad alcuni in cambio di beneficio per molti – lo scenario aperto dalla Legge zero – lo possiamo accettare? O ancora, deve essere vietata solo quella tecnologia che possa provocare un pericolo immediato per l’uomo o anche quella che induce azioni/abitudini pericolose nel lungo periodo? Ecc. È evidente che le questioni etiche implicate dall’uso di tecnologia sono moltissime e di grande complessità.

La roboetica oggi:

Oggi la roboetica è diventata una vera e propria branca dell’etica e della filosofia. Prova a rispondere alle grandi domande etiche poste dalle nuove tecnologie (come: di chi sarà la responsabilità di un incidente causato da un robot? Dei programmatori, dei proprietari, dei produttori? Che effetti può avere una certa tecnologia sull’ambiente o sulla società?) e si interroga sulle possibili ricadute di una tecnologia sui diritti dell’uomo (ad es. il diritto al lavoro, alla libertà di scelta, a non essere discriminati, o alla privacy).

La riflessione filosofica e politica spesso arranca, inseguendo il troppo rapido sviluppo di nuove tecnologie, e ancora più in ritardo arriva la riflessione giuridica a regolamentare l’uso di tecnologie già da tempo diffuse e impiegate nella società. Al fine di invertire questo trend, oggi l’Europa sta lavorando all’elaborazione di linee guida per un uso affidabile dell’intelligenza artificiale (qui per saperne di più).

Per alcuni, il tentativo è ingenuo, se non addirittura vano: la tecnologia risponde anzitutto alla logica dell’efficacia e del profitto, non a quella dell’etica. Per altri, è un tentativo doveroso di qualsiasi ‘buona’ politica.

Sono questioni importanti, all’ordine del giorno dell’agenda educativa. Asimov forse non  fornisce le risposte a questi problemi, ma offre a giovani e adulti, a esperti e neofiti, l’occasione per riflettervi, immedesimandosi, grazie alla forza evocativa di una delle più potenti penne del secolo scorso, in scenari immaginari, oggi neanche troppo lontani.

Cosa leggere (per incominciare):

Io Robot (I Robot) è una raccolta di 9 racconti di fantascienza scritti da Asimov tra il 1940 e il 1950. In ognuno di questi racconti, Asimov affronta diverse questioni etiche del possibile (all’epoca solo immaginario) rapporto tra uomini e macchine. Protagonisti sono i robot positronici: particolare tipologia di robot umanoidi dal cervello positronico. Sono generalmente innocui per l’uomo, perché seguono le leggi della robotica.

Asimov, Io robot

La Trilogia della Fondazione è forse la sua opera più riuscita. Sono tre romanzi (FondazioneFondazione e ImperoSeconda Fondazione) scritti tra il 1951 e il 1953, che valsero ad Asimov il Premio Hugo nel 1966 come miglior ciclo di fantascienza. L’opera narra le vicende dell’Impero Galattico e di un gruppo di scienziati che, grazie ad una particolare scienza, la psicostoria, è in grado di prevedere gli eventi futuri della galassia.

«Le leggi della storia sono assolute come quelle della fisica, e se in essa le probabilità di errore sono maggiori, è solo perché la storia ha a che fare con gli esseri umani che sono assai meno numerosi degli atomi, ed è per questa ragione che le variazioni individuali hanno un maggior valore» (Fondazione e impero).

Spinto dal grande successo della trilogia, decenni dopo Asimov tornerà a scrivere della Fondazione, aggiungendo nuovi capitoli alla saga, due prequel e due sequel. I sette romanzi costituiranno così il Ciclo delle Fondazioni.

Asimov trilogia della fondazione

Cosa vedere:

Moltissime le opere di fantascienza che hanno tratto ispirazione dal lavoro di Asimov. Di grande successo le saghe Star Wars e Star Trek e i film basati su alcuni suoi racconti, come:

  • Io, Robot (2004) diretto da Alex Proyas, con Willie Smith.

«Le leggi sono fatte per essere infrante». Che succede se un robot viole le tre leggi della robotica?

  • L’uomo bicentenario (1999) diretto da Chris Columbus, con Robin Williams.

Cosa manca ad un robot per poter essere ‘umano’?

Link utili:

Dagli archivi Rai, Intervista a Isaac Asimov, l’uomo delle stelle, del 1988:

http://www.teche.rai.it/2017/01/ricordando-isaac-asimov-luomo-delle-stelle/

Per gli appassionati di robotica, segnaliamo un sito italiano interamente dedicato al genere, con notizie, consigli di lettura e di visione e tanto altro:

https://www.robotiko.it/

 

consigli di lettura

(Ri)letture estive: Fahrenheit 451

“Non voleva sapere, per esempio, come una cosa fosse fatta, ma perché la si facesse. Cosa che può essere imbarazzante. Ci si domanda il perché di tante cose, ma guai a continuare: si rischia di condannarsi all’infelicità permanente.”

Romanzo di Ray Bradbury, del 1953. Bradbury immagina un futuro distopico, in cui è proibito leggere libri, i cittadini vengono bombardati giorno e notte da messaggi insignificanti, per lo più pubblicitari, proiettati su mega schermi posti ovunque, dalle pareti di casa ai mezzi di trasporto. In questa società, i vigili del fuoco non spengono incendi, ma li accendono, svolgendo diligentemente il compito di incenerire ogni pezzo di carta stampata rimasto e se necessario le case e i cittadini che li proteggono.

Fahrenheit 451

Tra i tanti temi trattati quello dell’impoverimento del linguaggio, che si traduce inevitabilmente in impoverimento del pensiero e della curiosità. In una società in cui la gente, abituatasi a bere tutto quello che le viene propinato o, meglio, proiettato su schermi, non si chiede più il perché delle cose – non avendo più gli strumenti concettuali per farlo –, la capacità di porsi domande, prima ancora che darsi risposte, è l’ultimo baluardo della libertà di pensiero. Non è un caso che a risvegliare il protagonista dal suo sonno apatico sia una giovane ragazza fuori dalla norma (“Io ho diciassette anni e sono pazza. Mio zio dice che le due cose vanno sempre insieme”), piena di domande e di meraviglia aristotelica. Una metafora della filosofia, che pungola, scomoda e insospettisce anime impoltrite.

Ulteriori buoni motivi per leggere (o rileggere) Fahrenheit 451 li trovate qui: Why should you read Fahrenheit 451 di TEDEd.

Ted, Whay should you read Fahrenheit

Buona lettura!

consigli di lettura

Marguerite Yourcenar, Memorie di Adriano, Einaudi 1963.

«Quando gli dei non c’erano più e Cristo non ancora, tra Cicerone e Marco Aurelio, c’è stato un momento unico in cui è esistito l’uomo, solo».

Marguerite Yourcenar ci offre un ritratto autobiografico dell’imperatore romano Adriano, che sentendo la morte ormai vicina scrive una lunga lettera all’amico Marco Aurelio.

L’opera è un affresco complesso dell’età ellenistica, della cultura, della storia, della filosofia, e della vita degli uomini di questo particolare periodo storico.

 

memorie di adriano

consigli di lettura

Margaret Doody, Aristotele Detective, Sellerio Editore 1999

Margaret Anne Doody, canadese, è professore di letteratura comparata. I romanzi con Aristotele detective sono diventati un fortunato caso letterario, grazie anche alla ricostruzione storicamente e filosoficamente accurata del contesto culturale dell’Atene di Aristotele.

Dalla pagina di Sellerio editore:

Aristotele detective
Un romanzo, destinato a una serie fortunata, nato quasi per prova, in seguito a una ricerca sull’origine del romanzo: dal desiderio di mostrare come una storia di peripezie, un enigma giallo, possa ambientarsi anche nella città antica. Aristotele, senza muoversi da casa come Nero Wolfe, assistito dal braccio destro Stefanos, investiga sull’assassinio di un ricco oligarca.

Aristotele e il giavellotto fatale
Morte in una palestra chiusa. Sembra uno strano incidente ed appare evidente chi l’ha causato. Ma non è un incidente e non è quello il colpevole. Aristotele detective, dentro un enigma da camera chiusa, applica le teorie della sua fisica.

Aristotele e la giustizia poetica
Durante la Notte dei Fantasmi, alla fine dell’Antesteria, la Festa dei Fiori, misteriose apparizioni in Atene culminano nel rapimento di una fanciulla. Aristotele, con il fido Stefanos, è trascinato fino a Delfi per indagare su un intrigo internazionale, e sarà l’Oracolo ad aiutarlo a scioglierlo.

 

Aristotele detective