Golem XIV: discorsi sull’intelligenza artificiale

Quando acquistai Golem XIV dopo aver letto la quarta di copertina durante Book Pride 2018, il tipo della casa editrice Il Sirente mi guardò ammirato come se avessi fatto una scelta particolarmente coraggiosa. Lì su due piedi ne restai stupito: in fondo era un libro di fantascienza di quel genio che risponde al nome di Stanislaw Lem. In effetti il libro non è di semplice lettura, ma l’idea di fondo non è molto differente rispetto a A noi vivi di Robert Heinlein.
Lem, infatti, utilizzando un computer superavanzato, il Golem XIV, consegna al lettore due conferenze sull’uomo, sull’intelligenza artificiale e sull’evoluzione. Queste vengono incorniciate da un’introduzione di uno dei responsabili del Golem, in custodia presso i laboratori del MIT e da una postfazione di uno dei suoi colleghi. Rispetto al testo postumo di Heinlein, questo di Lem è redatto già esplicitamente come una serie di conferenze, due per la precisione. Queste sono tenute dal Golem XIV, una delle due intelligenze artificiali sviluppate dagli Stati Uniti con l’obiettivo di gestire la strategia militare difensiva e offensiva. La situazione, però, sfugge di mano alle autorità militari, poiché sia il Golem sia Anna la candida, l’altra superintelligenza costruita dai ricercatori informatici, non aderiscono ai propositi bellici del governo, considerando molto più utile la pace.
La posizione espressa in questo modo da Lem non è semplicemente di sinistra, ma l’ovvia conclusione di un ragionamento logico condotto da un’intelligenza non umana costruita con il principio turingiano dell’imparare in maniera continua e costante.
A queste considerazioni anti-militariste si aggiungono, però, nel corso delle conferenze, anche considerazioni più generali e profonde sull’evoluzione e l’intelligenza. Ad esempio nel campo dell’evoluzione risulta interessante l’idea che questa funzioni al contrario rispetto a quanto si sarebbe portati a credere: secondo Golem XIV l’aumento di complessità degli esseri viventi non porta alla perfezione, che anzi dovrebbe essere più simile a un essere vivente quanto più semplice possibile. Questo primo passo conduce, sviluppato nel corso delle due conferenze, alla considerazione, abbastanza ovvia, che Golem XIV è in un certo senso lo stadio più basso di un nuovo tipo di intelligenza, differente da quella umana, ma anche a essa superiore.
Evidente è anche l’aspirazione di stampo fantascientifico di Golem: provare a salire al livello successivo, quello occupato da Anna la candida, e magari provare con lei a diventare una coscienza cosmica, incorporea, i cui processi mentali risultano lenti come le ere geologiche.
Un modo intelligente per fare filosofia senza scrivere un saggio.

GOLEM XIV di Stanisław Lem

Il Giornale (Daniele Abbiati, 1 luglio 2018)

Ma se la conoscenza fosse una condanna?

Lem è fra i pochi autori di fantascienza che sceglie la prospettiva degli androidi

Nei film di fantascienza c’è sempre un personaggio invisibile. Non lo vediamo, ma ne avvertiamo la presenza, come sensitivi, come prede che si nascondono dal predatore.

Tanto da percepirlo come il vero protagonista, se non addirittura l’aiuto-regista. È la nostra paura di essere sorpassati, in termini di intelligenza e quindi di tecnologia, dagli alieni. Il genocidio, la strage degli innocenti, la deportazione, la pulizia etnica sono cose da umani. Sono orrori, ma orrori cui siamo abituati da centinaia di migliaia di anni: li portiamo scritti nel sangue. No, il vero orrore, oggi (diciamo da una cinquantina d’anni), è perdere il primato della conoscenza, il monopolio sull’utilizzazione del mondo. Le meraviglie della robotica, e ancor più la realizzazione, che ha del miracoloso, del fantascientifico, appunto, di computer sempre più sofisticati e dotati quasi di facoltà raziocinanti, ha ovviamente aggravato la situazione.

L’unico modo per ridimensionare il problema, per istillarci un tarlo, questa volta positivo, del dubbio, è chiederci: ma a tutti questi marziani, calcolatori e ferraglia assortita interesserà davvero mettersi in competizione con noi? Non sarà che stiamo cadendo, per l’ennesima volta, nel nostro solito errore, cioè nell’antropocentrismo? Quando il vecchio Protagora diceva che «l’uomo è la misura di tutte le cose, di quelle che sono in quanto sono e di quelle che non sono in quanto non sono», ci dava un’infallibile chiave di lettura: tutto dipende da noi, dunque cerchiamo di non esagerare… Però quando Philip K. Dick intitolava il più cinematograficamente fertile dei suoi romanzi Ma gli androidi sognano pecore elettriche? mostrava anch’egli di restare ancorato al canovaccio del «misura di tutte le cose etc etc».

Invece, Stanislaw Lem no. Il polacco Stanislaw Lem (1921–2006) era dotato di una penna agilissima e di una mente finissima. Talmente fine da far sorgere, nel 1974, proprio in Dick (magari aiutato da qualche sostanza leggermente più pesante del vinello californiano…) il sospetto che non fosse un uomo in carne e ossa, bensì il nome di un progetto sovietico finalizzato a traviare gli americani. La produzione fantascientifica di Lem è vastissima, basti citare Solaris, Memorie di un viaggiatore spaziale, L’indagine. Ma soprattutto è filosofia applicata alla fantascienza. E una filosofia non certo rudimentale come quella del pur benemerito Protagora.

Ce lo conferma in Golem XIV (Editrice il Sirente). Golem è un nome leggendario, risale alla mitologia ebraica, significa «materia grezza», «embrione», ma nel romanzo di Lem, datato 1981, è l’acronimo di General Operator, Longrange, Ethically stabilized, Multimodelling: una macchina di ultimissima generazione messa a punto nel 2019. Il punto nodale è proprio la sua superintelligenza. Che lo porta a fregarsene dei dettami del Pentagono presso il quale presta servizio, quindi a essere ben presto confinato nella prigione dorata del Mit di Boston. Possiamo sprecare una risorsa simile? si chiedono all’unisono i professoroni che lo hanno in carico e l’opinione pubblica. La risposta è «no». Quindi per Golem XIV incomincia una seconda vita, quella del conferenziere. Ve la spiego io, cari uomini, la vita e la non vita, l’origine del linguaggio e il difetto di fabbrica dell’Evoluzione, la ragione di fondo del vostro errore di prospettiva, cioè ritenere l’Intelligenza un pregio e non una dannazione.

Golem XIV sembra un incrocio fra Carmelo Bene e Massimo Cacciari, ma se lo seguiamo come merita ci fa capire tante cose. Di noi, più che di lui. Anche se il prof Creve, suo mentore, fa riferimento a una simpatia del Nostro nei confronti di un altro modello di supercomputer, chiamato Honest Annie, «Anna la candida». Ci piacerebbe pensare a qualcosa di simile a Irma la dolce… Ma cadremmo nel nostro solito errore.

GOLEM XIV di Stanisław Lem

Letture Metropolitane (Libero Iaquinto, maggio 2018)

GOLEM XIV

Lem non esiste. È un’invenzione dell’Unione Sovietica, uno pseudonimo di una commissione di comunisti che vuole traviare le menti degli americani. Questo è quanto affermava Philip K. Dick, uno dei maggiori scrittori di fantascienza del XX secolo. Ma anche i grandi possono prendere una cantonata ogni tanto. Caro il mio Pippo Dick, Lem esiste eccome. O meglio, esisteva. È passato purtroppo a miglior vita nel 2006. E allora perché, mi chiederete, dovrei recensire un testo di chi non c’è più e per giunta pubblicato già nel 1981? Semplicemente perché è edito per la prima volta in Italia, con la traduzione a cura di Lorenzo Pompeo.

“Golem XIV” è un saggio, o un romanzo breve, oppure un esperimento meta-narrativo. Trovo difficoltà perfino a definirlo. L’opera raccoglie due ipotetiche conferenze del Golem XIV, ultimo prototipo di un elaboratore super intelligente creato per fini bellici, che, disinteressatosi alle strategie di guerra, sviluppa una propria intelligenza. La prima conferenza riguarda il destino dell’uomo, condannato alla sua limitatezza e alla morte; nella seconda il Golem parla di se stesso, manifestazione dell’Intelligenza.

Le conferenze fittizie sono un resoconto dell’Evoluzione della specie. Il Golem, dall’alto della sua fredda lucidità informatica, relega l’evoluzione al ruolo di semplice conservazione del codice genetico all’interno di organismi che saranno destinati a scomparire, tutto ciò per permettere ad altri organismi di tentare una mutazione; una prospettiva desolante, insomma. Nessuna Intelligenza, secondo il Golem, è alla base della vita. L’uomo è diventato la specie più evoluta per combinazione, per la legge dei grandi numeri. L’uomo descritto da Lem è un essere inconsapevole della sua origine e del suo destino. Il Golem mina ogni certezza e ogni teoria scientifica.

VOTO 10 FERMATE: Naturalmente impiegherete poco tempo per leggere l’opera di Lem, ma resterete in metro in silenzio, per altre trenta o quaranta fermate, a rimuginare su ciò che avete letto. La prosa di Lem è a tratti oscura, sia per il tema trattato, sia per l’inserimento di termini scientifici che potranno risultare di difficile comprensione. Il tono è da conferenza, tenendo conto che è una conferenza in cui è un computer a parlare; gli interventi del pubblico non sono incisivi e mostrano uomini che difficilmente riusciranno ad oltrepassare le loro convinzioni scientifiche. Un bel modo per ricordare uno dei maggiori scrittori di fantascienza del secolo passato.

CITAZIONE: “Il mondo, secondo questa visione, è come un mobile che ha un numero di cassetti variabile, così come il loro contenuto, che varia in funzione dell’insieme delle chiavi con le quali lo si attacca. Usando un filo di ferro piegato a volte si può forzare un cassettino, ma sarà piccolo e lì non troverete quello che avreste scoperto usando la chiave giusta. Così accade con le invenzioni che non hanno la teoria.”

GOLEM XIV di Stanisław Lem

SoloLibri.net (Mario Bonanno, 11 febbraio 2018)

«GOLEM XIV» di Stanislaw Lem

Istruzioni per l’uso dei romanzi di Stanislaw Lem: possono risultare un’esperienza straniante. In special modo i neofiti credono di trovarsi alle prese con un libro di fantascienza secondo canone e invece devono vedersela con qualcosa di ibrido, infido, e ben più profondo. Un crossover letterario dove la scienza incrocia la metafisica che incrocia l’ontologia che incrocia la psicologia. L’esempio di “Solaris” è quello classico: un romanzo che sta alla sci-fi di taglio americano (dove spesso è l’implausibile a farla da padrone) come l’Odissea nello spazio kubrickiana alle Guerre Stellari di Lucas, tanto per dire. Leggere la narrativa del polacco Stanislaw Lem significa, in altre parole, prendere coscienza delle potenzialità alte del genere sci-fi; possibile chiave d’accesso per divagazioni prossime alla categoria del pensare, prima ancora che a quella del raccontare.

Prendete questo “GOLEM XIV” (Il Sirente, 2018), è la storia di un elaboratore iper-intelligente che, stufo dei fini bellici per cui è stato progettato, trova più stimolante discettare, fra l’altro, intorno a questioni prime riguardanti la limitatezza della comprensione umana, o l’origine della sua stessa natura. Il romanzo riprende due delle conferenze registrate dal super-computer sui temi di cui sopra, a beneficio esclusivo di una platea di scienziati che ha deciso di dargli retta, pur se con tutte le titubanze del caso. Su passo e taglio narrativo del romanzo, bene specifica Lorenzo Pompeo, traduttore e curatore di questa edizione:

Superato dunque lo scoglio di una prosa a tratti impegnativa, “GOLEM XIV” (a proposito: fatto caso all’onomastica evocante da un lato la mitologia ebraica e dall’altro la numerazione che accompagna di solito i nomi di re o papi?) risulta un romanzo impavido, ipnotico, sui generis. Un’ode all’oltre-uomo artificiale, che trascende la fantascienza per approdare nei territori della filosofia pura.

L’Anarchico e il Diavolo fanno cabaret (N. Nawrocki)

25 aprile 2008

(…) è ciò che di meglio vi possa capitare stasera!

Links: sito ufficiale | official site

L’ultima lettera prima di lasciare Napoli ovvero l’Italia.
L’ultimo degli orsi che non sanno più dove nascondersi e che resistono.

Lunga vita agli orsi!
Lunga vita alle persone delle caverne!

Buon 25 aprile 2008.

[youtube=http://it.youtube.com/watch?v=dCh5oy7lvQs]

Sui monti Tatra, Zakopane, Polonia, 1944

Caro Franek,
l’altra notte ho ucciso altri tre nazisti a mani nude. Ho tagliato loro la gola mentre dormivano e ho trascinato i loro corpi in un burrone. Non sono un omicida, ma loro mi hanno trasformato in un assassino, per difendere la nostra gente, per difendere me stesso. Se devo, li ucciderò uno dopo l’altro. Come i miei compagni, io sono la Resistenza. Noi tutti siamo la Resistenza. È questa la verità. Caro fratello, stai attento ai bugiardi, agli imbroglioni, ai ladri che pretendono di essere i tuoi salvatori. Siamo noi stessi i nostri salvatori. Nessun altro. Non c’è nessun Dio. C’è una fratellanza di uomini e donne, e poi ci sono quelli che, ubriachi di potere, vogliono eliminare tutto ciò che è umano.
Potresti pensare che sono pazzo. Comunque sia, capirai che è questa guerra la follia . Mi ha trasformato in un disperato, disperato perché questa guerra deve finire. Ma finché continuiamo a combattere guerre come questa, e non a combattere la stessa idea di Guerra, non avremo mai pace su questa terra. Io non ho pace.
Vivo in una caverna su un alto torrente sopra Zakopane. L’aria è fredda. Posso vedere per chilometri oltre i Tatra e le loro cime innevate. Un tempo qui vivevano gli orsi. Nessuno sa dove vivono adesso, durante questa guerra. Come gli orsi, sono stato guidato sempre più in alto e sempre più all’interno delle profondità delle montagne. La mia caverna è profonda più o meno venti metri. Il suolo è ricoperto di ossa di animali. Io sono l’animale più recente, l’orso più recente. E nessuno sa che vivo qui. Mangio bacche. Metto trappole per le lepri. Ho rubato il cibo ai tedeschi, le loro coperte e pistole. Scrivo questa lettera sulla loro carta con la loro penna. Stanotte fumerò il loro tabacco.
Non crederai a quello che sto per dirti. I tedeschi stavano trasportando gioielli. Da dove li avessero rubati non lo so, ma adesso sono miei. E sono splendidi. Devono essere diamanti, grandissimi e brillanti. Mai in vita mia ho visto un simile tesoro. Li nasconderò e poi, quando finisce questa guerra, la nostra famiglia avrà i soldi per comprare una bella casa e una fattoria. Non ho novità per la mamma o per i fratelli. Non preoccupatevi per me. Mi prendo cura di me.
Morte ai fascisti! Morte ai guerrafondai! Lunga vita agli orsi e alla gente delle caverne di tutto il mondo! Lunga vita alla nostra famiglia. Carissimo fratello. Ti voglio bene e mi manchi.

Harry