L’effetto Pigmalione per le generazioni che verranno

La fantascienza, doppio della realtà, riesce a creare immaginari che costruiscono le società del futuro. E se ripartissimo da racconti utopici, da consegnare a ragazze e ragazzi del 2050? Due scrittori di fantascienza e un professore di informatica li hanno realizzati e condivisi al panel “Pigmalione Sci-Fi #2 – Profezie che si autoavverano” del Robot Festival. E a partire da questi tre racconti, insieme ad una Intelligenza Artificiale, hanno riscritto le tre leggi della robotica di Asimov, a 80 anni dalla loro ideazione. Ecco com’è andata.

«“Questo è un piccolo passo per me, un grande passo per il mondo” D’accordo, non è stata proprio una gran dimostrazione di creatività la sua. Tuttavia, quel “mondo”, alla fine della frase, ha acceso osservazioni e interpretazioni, specialmente rispetto al fatto che Martin non può aver messo quella parola lì per caso». Martin è un robot, che nel 2050 sta “ammartando”, ovvero atterrando su Marte, come rappresentante di un pianeta Terra di cui si sente parte. Un pianeta che comprende esseri umani e robot che vivono in armonia.

La storia di Martin potrà essere letta dagli adolescenti del 2050, così come noi oggi leggiamo i classici della fantascienza del Novecento. Distopie, perlopiù. E se invece consegnassimo loro delle utopie? Da secoli ci raccontiamo, in forme diverse¹ la storia di Pigmalione, che si innamora di una statua perché la crede vera: allo stesso modo, l’effetto Pigmalione² è una profezia che si autoavvera. Non è vero ciò che è vero ma ciò che credi vero, perché ti comporterai come se lo fosse, e quindi, in qualche modo, lo realizzerai.

Da questo spunto è nata l’idea del format “Pigmalione Sci-Fi: Profezie che si autoavverano”, una serie di panel ideata dall’organizzazione culturale Sineglossa, che cura la linea editoriale di Mangrovia, il cui secondo appuntamento si è tenuto all’interno del Robot Festival, in collaborazione con 24Frame Future Film Fest³. Due scrittori di fantascienza e un professore di informatica si sono trovati insieme a una Intelligenza Artificiale per riscrivere le leggi della robotica di Asimov, un caposaldo della letteratura fantascientifica, a ottant’anni dalla loro ideazione. A partire da tre racconti utopici da consegnare a ragazzi e ragazze del 2050.

Che cos’è la fantascienza?

«La fantascienza è un modo di vedere la realtà: una lente che può farti scorgere il futuro, andare molto lontano come i telescopi, oppure, nel presente, ampliare l’estremamente piccolo, quindi analizzare le cose da molto vicino, cogliendo strutture, paradossi e conflitti che potrebbero sfuggire» ha condiviso lo scrittore Alessandro Vietti, che ha ripercorso con un pizzico di nostalgia la sua “storia d’amore” con la letteratura fantascientifica, dai racconti di Dino Buzzati al cyberpunk⁴ dei primi anni ‘90.

Chi pensa che fantascienza sia sinonimo di “tutto è possibile” potrebbe non apprezzare il genere. Infatti, «all’inizio non mi piaceva l’idea che tutto fosse concesso: tornare in vita, teletrasportarsi e così via» ha raccontato il professore di informatica Emanuele Rodolà. «Poi ho capito che un racconto fantascientifico ha una sua coerenza interna: un sistema di regole e di leggi che impongono dei vincoli». Vincoli che, a loro volta, sono dettati da un legame con la realtà, ovvero con ciò che la scienza è in grado di fare. «Per questo, da dieci anni, è diventata una mia passione: ai miei studenti dico sempre che più sono creativi, come dei veri e propri autori di fantascienza, e più saranno bravi scienziati».

La fantascienza, infatti, che racchiude narrazioni fantastiche, in apparenza o in parte basate su elementi scientifici, altro non è che uno strumento per disvelare intuizioni e immaginari futuri. Non è un caso, infatti, che molti racconti fantascientifici abbiano anticipato scoperte tecnologiche come l’auto a guida autonoma, la realtà virtuale, le videoconferenze, gli auricolari wireless o i droni. 

«Tra le guerre, la crisi climatica e il periodo di transizione che stiamo attraversando, ultimamente riusciamo solo a immaginare un futuro abbastanza catastrofico», ha sottolineato Federico Bomba, direttore artistico di Sineglossa e moderatore dell’incontro. «Per andare su sentieri poco battuti e non potendo prevedere la realtà, bisogna allora ripartire dalle utopie», avvalendoci del potere predittivo della fantascienza.

Un mondo fantascientifico doppia e moltiplica la nostra realtà, come in uno specchio o in un gioco di specchi: chi lo crea può immaginare e applicare l’ordine che lo regola ma ha anche l’onere e onore di rispettarlo. L’“atto liberatorio” di creazione, com’è stato definito dalla scrittrice Nicoletta Vallorani, è seguito dal disvelamento delle zone di ombra, delle falle e dei conflitti che ogni ordine comporta: passo dopo passo, si dischiude a chi legge o guarda una realtà possibile, fino a quel momento sconosciuta.

«La fantascienza nella mia vita è essenziale» ha condiviso ancora Vallorani. «Potrei vivere senza scrivere, ma non potrei mai vivere senza immaginare che cosa ci aspetta nel futuro». La fantascienza anche oggi può prevedere quello che sarà e aiutarci a costruire, immaginandolo, chi saremo e come ci relazioneremo al mondo, alle macchine e al non-umano.

Come comunicheremo tra le specie?

Nel romanzo del ‘58 I figli di Medusa di Theodore Sturgeon, Medusa è un’entità extraterrestre che, sotto forma di un’innocua spora, giunge dallo spazio profondo per creare una mente alveare collettiva e condivisa con tutti gli esseri senzienti che incontra e incorpora in se stessa. Da qui è partito Rodolà per creare l’ultima pagina del suo racconto utopico.

«Con la sconfitta di Medusa, il colossale essere interplanetario si ritirava, lasciando la Terra in mano a una nuova umanità. Nella lotta contro Medusa avevamo abbattuto le barriere che un tempo separavano le specie, scoprendo il linguaggio comune che ci univa a piante, animali e funghi. L’umanità che tutti conosciamo non esisteva più. Al suo posto si ergeva una nuova specie, autenticamente terrestre, libera da confini. Una specie capace di creare musica al di là della musica, poesia al di là delle parole e pervasa ad ogni finita meraviglia».

Grazie all’invasione e sconfitta di Medusa, si creerà quindi un mondo in cui saremo in grado di comunicare con le altre specie.

La comunicazione interspecifica è stata anche al centro dell’ultima pagina del racconto di Vallorani. La protagonista, dal corpo non conforme ed etichettata come “ritardata”, è rinchiusa in città per l’imperversare di una pandemia: seguendo la via dell’acqua, riesce a scappare e trovare una natura utopica e armonica, in cui è possibile comunicare addirittura con i pomodori.

E se le macchine, in assenza di una entità extra-terrestre come Medusa, avessero un ruolo nel promuovere e proteggere l’intero ecosistema-mondo?

È il caso della storia del robot Martin, raccontata da Vietti. Al momento del suo ammartaggio, Martin proclama una frase simile a quella dell’allunaggio dell’astronauta Neil Armstrong.

«E se da un lato ci pare ovvio che Martin non avrebbe mai potuto dire “per l’umanità”, come fece Armstrong, perché lui sente (almeno per chi crede che abbia una coscienza) o semplicemente sa (per chi non crede che ce l’abbia) di non farne parte, dall’altro non ha nemmeno detto “per le intelligenze artificiali”. No, ha detto “per il mondo”. […] perché dentro quel mondo ci sono tutte le creature del nostro pianeta Terra. Quindi tutti gli animali – umani e non umani – gli insetti, le piante e i funghi, fino all’ultimo cianobatterio estremofilo, ma anche, o soprattutto, lui stesso e le altre intelligenze come lui».

Un invito ad abbandonare la distinzione tra il naturale e l’artificiale, a sentirsi organismi multipli, ad uscire dal dualismo mente-corpo⁵ e abbracciare una prospettiva globale e simbiotica.

«Questa è la direzione stessa in cui le narrazioni di fantascienza contemporanea stanno andando» ha sottolineato Vallorani, «immaginando un modo per coesistere armonicamente, con rispetto e sympoiesis⁶, ossia costruendo insieme».

L’armonia resta pur sempre un’utopia: «ci sono dei risultati matematici garantiti dalle più grandi menti del mondo secondo cui l’armonia è irraggiungibile» ha affermato Rodolà. Ma nulla vieta di provare ad andare in quella direzione, insieme a una tecnologia capace di mettere insieme tutte le istanze regolamentate da nuove leggi.

Le tre nuove leggi della robotica

Negli anni Quaranta del Novecento, grazie alle fruttuose discussioni con l’amico John W. Campbell, curatore della rivista Astounding Science Fiction⁷, lo scrittore di fantascienza Isaac Asimov mise nero su bianco le più famose leggi della robotica della storia.

«1. Un robot non può recare danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.

2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non vadano in contrasto alla Prima Legge.

3. Un robot deve proteggere la propria esistenza, purché la salvaguardia di essa non contrasti con la Prima o con la Seconda Legge.»

Queste leggi sono state fondamentali nel campo dell’etica robotica: per lungo tempo si è ritenuto che fossero queste le leggi su cui costruire i robot e che la loro violazione costituisse il maggiore fattore scatenante per l’avvento di futuri distopici. 

«Ma l’intelligenza artificiale ci sta facendo vedere un mondo totalmente diverso da quello che poteva aver immaginato Asimov» ha spiegato il professore Vietti.

Non è un caso che i droni intelligenti utilizzati in guerra abbiano infranto le leggi della robotica, con la loro autonomia sulle scelte di uccidere. E allora, ha rincalzato Vallorani, «è assolutamente indispensabile ai giorni nostri una revisione profonda di queste leggi, fondamentalmente antropocentriche». Proprio quello che nella parte finale dell’incontro si è cercato di fare, con l’aiuto dell’informatico e business developer Francesco Salizzoni.

Salizzoni ha allenato nei giorni precedenti un Large Language Model, Chat-GPT, con un insieme di dati: contenuti bibliografici, articoli di testi scritti o apprezzati dai relatori, le loro biografie, con in più un file di istruzioni per la creazione delle nuove leggi. La trascrizione del panel in forma testuale ha costituito il “prompt”, ovvero la richiesta principale nella formulazione del risultato, con un “peso” di elaborazione del 70% rispetto al 30% dei file di archivio. Ecco le nuove leggi elaborate dall’IA: 

1. Un robot deve favorire l’armonizzazione tra intelligenza umana e artificiale, contribuendo alla co-creazione di un futuro inclusivo.
2. Un robot deve rispettare l’ecologia del pianeta e contribuire alla sostenibilità ambientale in tutte le sue operazioni.
3. Un robot deve promuovere la diversità delle forme di vita e delle espressioni culturali, adattandosi alle esigenze di ogni contesto.

Nel confronto tra le leggi originali e le nuove, è stato subito evidenziato come le leggi di Asimov siano estremamente concrete e operative e formino «un sistema pragmatico e consequenziale», come ha sottolineato Vietti, mentre le neo-leggi siano estremamente aperte a ogni tipo di interpretazione.

«Forse per poter andare avanti, occorrerà salire di livello di astrazione» ha continuato Vietti, ovvero aumentare il livello di elaborazione informatica dell’IA. «Queste tre nuove leggi vanno interpretate: che cosa vuol dire “favorire l’armonizzazione”? Come promuovere la diversità? Come si co-crea un futuro inclusivo?»

Come spesso accade nell’ambito attuale delle Intelligenze Artificiali, il campo semantico è affidato al contesto socio-culturale in cui le frasi, come queste leggi, sono inserite. Di certo, l’effetto Pigmalione, nel campo della fantascienza, non è solo una provocazione ma una possibilità concreta. Ne è un esempio la seconda legge di Asimov che continua a ispirare ancora oggi, a distanza di quasi cento anni, un intero campo di studi, l’AI alignment, che «è lo studio dell’allineamento delle IA con gli obiettivi e i valori umani, in modo da renderle il più possibile utili, sicure e affidabili» ha spiegato Rodolà. Un ubbidire in senso lato, che è più un andare nella stessa direzione perché «le IA non sono deterministiche e hanno lo spazio per variare ed esplorare più possibilità».

Chissà che, alle soglie del 2100, anche una di queste nuove leggi della robotica non diventi realtà, e sia portata avanti proprio da quel gruppo di adolescenti, ormai cresciuti, che nel 2050 avevano letto dei racconti fantascientifici utopici, che immaginavano nuovi futuri sostenibili e come realizzarli.

---

1. Ovidio, (8 d.C.), Metamorfosi, Libro X. (1ª ed. originale); Rousseau, J.-J. (1770), Pygmalion, (Prima rappresentazione); Balzac, H. de. (1831), Le chef-d’œuvre inconnu, (1ª ed. originale); Shaw, G. B. (1913), Pygmalion, (Prima rappresentazione); Pirandello, L. (1926), Diana e la Tuda, (Prima rappresentazione); Lerner, A. J., & Lowe, F. (1956), My fair lady, (Prima rappresentazione); Murgia, M. (2015), Chirù. Einaudi; Lagrenée, J.-J. (1774), Pygmalion and Galatea, (Olio su tela); Shelley, M. (1818), Frankenstein, (1ª ed. originale). ↩︎
2. Questo fenomeno è stato studiato da Robert Rosenthal, nel 1968, in un esperimento di psicologia sociale nella Spruce Elementary School, nel sud di San Francisco, California, USA. Rosenthal simulò un test del quoziente intellettivo agli alunni, per individuare quelli con maggiore potenziale. Quindi comunicò agli insegnanti i risultati del test, con la specifica di trattare tutti allo stesso modo da quel momento in poi. La lista di alunni promettenti era, in realtà, del tutto casuale, e anche il test inesistente. A un anno di distanza, presentandosi a scuola, Rosenthal scoprì che gli alunni della lista avevano effettivamente migliorato il loro rendimento rispetto ai compagni non segnalati. I docenti, confidando nelle capacità dei ragazzi ritenuti più dotati, li avevano stimolati ed incoraggiati di più, ottenendo di fatto il raggiungimento dell’obiettivo previsto. Cfr. Rosenthal, R., Jacobson, L. (1968), Pygmalion in the classroom. Urban Rev 3, 16–20. https://doi.org/10.1007/BF02322211 ↩︎
3. Sito ufficiale: https://www.futurefilmfestival.it/it/ ↩︎
4. Genere narrativo in cui temi legati alla realtà delle società postindustriali (cibernetica, robotica, telematica, realtà virtuale, biotecnologie, clonazione) vengono elaborati fantasticamente nel segno di un’ideologia contestataria, di ribellione e critica sociale, analoga a quella del movimento punk o della musica punk rock, in una originale sintesi di suggestioni tecnologiche e cultura underground (https://www.treccani.it/enciclopedia/cyberpunk/) ↩︎
5. Questo dualismo, in Occidente, è legato soprattutto al nome del filosofo René Descartes (in italiano Cartesio), che teorizzò l’esistenza di due sostanze distinte, res cogitans e res extensa, a cui fanno riferimento, rispettivamente, il pensiero e il corpo, Descartes, R. (1637). Discours de la méthode pour bien conduire sa raison et chercher la vérité dans les sciences. Plus la Dioptrique. Les Meteores. Et la Geometrie qui sont des essais de cete [sic] methode [par Descartes]. de l. p. 537. Per una sintesi sull’impatto di questo dualismo sulle scienze cognitive si veda https://www.iltascabile.com/scienze/cartesio/ ↩︎
6. Per approfondire, Haraway, D. J. (2016). Staying with the Trouble: Making Kin in the Chthulucene, Duke University Press ↩︎
7. Analog Science Fiction and Fact, abbreviato in Analog, è la più longeva e famosa rivista di fantascienza. Nata nel 1930 negli Stati Uniti come pulp magazine col titolo di Astounding Stories. https://www.britannica.com/topic/Astounding-Science-Fiction ↩︎