Categorie
9788887847680 Fuori

Drop Sea (Gianluigi Filippelli, 24 luglio 2018)

GOLEM XIV di Stanisław Lem

Drop Sea (Gianluigi Filippelli, 24 luglio 2018)

Golem XIV: discorsi sull’intelligenza artificiale

GOLEM XIV : Stanisław Lem

Quando acquistai Golem XIV dopo aver letto la quarta di copertina durante Book Pride 2018, il tipo della casa editrice Il Sirente mi guardò ammirato come se avessi fatto una scelta particolarmente coraggiosa. Lì su due piedi ne restai stupito: in fondo era un libro di fantascienza di quel genio che risponde al nome di Stanislaw Lem. In effetti il libro non è di semplice lettura, ma l’idea di fondo non è molto differente rispetto a A noi vivi di Robert Heinlein.
Lem, infatti, utilizzando un computer superavanzato, il Golem XIV, consegna al lettore due conferenze sull’uomo, sull’intelligenza artificiale e sull’evoluzione. Queste vengono incorniciate da un’introduzione di uno dei responsabili del Golem, in custodia presso i laboratori del MIT e da una postfazione di uno dei suoi colleghi. Rispetto al testo postumo di Heinlein, questo di Lem è redatto già esplicitamente come una serie di conferenze, due per la precisione. Queste sono tenute dal Golem XIV, una delle due intelligenze artificiali sviluppate dagli Stati Uniti con l’obiettivo di gestire la strategia militare difensiva e offensiva. La situazione, però, sfugge di mano alle autorità militari, poiché sia il Golem sia Anna la candida, l’altra superintelligenza costruita dai ricercatori informatici, non aderiscono ai propositi bellici del governo, considerando molto più utile la pace.
La posizione espressa in questo modo da Lem non è semplicemente di sinistra, ma l’ovvia conclusione di un ragionamento logico condotto da un’intelligenza non umana costruita con il principio turingiano dell’imparare in maniera continua e costante.
A queste considerazioni anti-militariste si aggiungono, però, nel corso delle conferenze, anche considerazioni più generali e profonde sull’evoluzione e l’intelligenza. Ad esempio nel campo dell’evoluzione risulta interessante l’idea che questa funzioni al contrario rispetto a quanto si sarebbe portati a credere: secondo Golem XIV l’aumento di complessità degli esseri viventi non porta alla perfezione, che anzi dovrebbe essere più simile a un essere vivente quanto più semplice possibile. Questo primo passo conduce, sviluppato nel corso delle due conferenze, alla considerazione, abbastanza ovvia, che Golem XIV è in un certo senso lo stadio più basso di un nuovo tipo di intelligenza, differente da quella umana, ma anche a essa superiore.
Evidente è anche l’aspirazione di stampo fantascientifico di Golem: provare a salire al livello successivo, quello occupato da Anna la candida, e magari provare con lei a diventare una coscienza cosmica, incorporea, i cui processi mentali risultano lenti come le ere geologiche.
Un modo intelligente per fare filosofia senza scrivere un saggio.

Categorie
9788887847680

Il Giornale (Daniele Abbiati, 1 luglio 2018)

GOLEM XIV di Stanisław Lem

Il Giornale (Daniele Abbiati, 1 luglio 2018)

Ma se la conoscenza fosse una condanna?

Lem è fra i pochi autori di fantascienza che sceglie la prospettiva degli androidi

Nei film di fantascienza c’è sempre un personaggio invisibile. Non lo vediamo, ma ne avvertiamo la presenza, come sensitivi, come prede che si nascondono dal predatore.

Tanto da percepirlo come il vero protagonista, se non addirittura l’aiuto-regista. È la nostra paura di essere sorpassati, in termini di intelligenza e quindi di tecnologia, dagli alieni. Il genocidio, la strage degli innocenti, la deportazione, la pulizia etnica sono cose da umani. Sono orrori, ma orrori cui siamo abituati da centinaia di migliaia di anni: li portiamo scritti nel sangue. No, il vero orrore, oggi (diciamo da una cinquantina d’anni), è perdere il primato della conoscenza, il monopolio sull’utilizzazione del mondo. Le meraviglie della robotica, e ancor più la realizzazione, che ha del miracoloso, del fantascientifico, appunto, di computer sempre più sofisticati e dotati quasi di facoltà raziocinanti, ha ovviamente aggravato la situazione.

L’unico modo per ridimensionare il problema, per istillarci un tarlo, questa volta positivo, del dubbio, è chiederci: ma a tutti questi marziani, calcolatori e ferraglia assortita interesserà davvero mettersi in competizione con noi? Non sarà che stiamo cadendo, per l’ennesima volta, nel nostro solito errore, cioè nell’antropocentrismo? Quando il vecchio Protagora diceva che «l’uomo è la misura di tutte le cose, di quelle che sono in quanto sono e di quelle che non sono in quanto non sono», ci dava un’infallibile chiave di lettura: tutto dipende da noi, dunque cerchiamo di non esagerare… Però quando Philip K. Dick intitolava il più cinematograficamente fertile dei suoi romanzi Ma gli androidi sognano pecore elettriche? mostrava anch’egli di restare ancorato al canovaccio del «misura di tutte le cose etc etc».

Invece, Stanislaw Lem no. Il polacco Stanislaw Lem (1921-2006) era dotato di una penna agilissima e di una mente finissima. Talmente fine da far sorgere, nel 1974, proprio in Dick (magari aiutato da qualche sostanza leggermente più pesante del vinello californiano…) il sospetto che non fosse un uomo in carne e ossa, bensì il nome di un progetto sovietico finalizzato a traviare gli americani. La produzione fantascientifica di Lem è vastissima, basti citare Solaris, Memorie di un viaggiatore spaziale, L’indagine. Ma soprattutto è filosofia applicata alla fantascienza. E una filosofia non certo rudimentale come quella del pur benemerito Protagora.

Ce lo conferma in Golem XIV (Editrice il Sirente). Golem è un nome leggendario, risale alla mitologia ebraica, significa «materia grezza», «embrione», ma nel romanzo di Lem, datato 1981, è l’acronimo di General Operator, Longrange, Ethically stabilized, Multimodelling: una macchina di ultimissima generazione messa a punto nel 2019. Il punto nodale è proprio la sua superintelligenza. Che lo porta a fregarsene dei dettami del Pentagono presso il quale presta servizio, quindi a essere ben presto confinato nella prigione dorata del Mit di Boston. Possiamo sprecare una risorsa simile? si chiedono all’unisono i professoroni che lo hanno in carico e l’opinione pubblica. La risposta è «no». Quindi per Golem XIV incomincia una seconda vita, quella del conferenziere. Ve la spiego io, cari uomini, la vita e la non vita, l’origine del linguaggio e il difetto di fabbrica dell’Evoluzione, la ragione di fondo del vostro errore di prospettiva, cioè ritenere l’Intelligenza un pregio e non una dannazione.

Golem XIV sembra un incrocio fra Carmelo Bene e Massimo Cacciari, ma se lo seguiamo come merita ci fa capire tante cose. Di noi, più che di lui. Anche se il prof Creve, suo mentore, fa riferimento a una simpatia del Nostro nei confronti di un altro modello di supercomputer, chiamato Honest Annie, «Anna la candida». Ci piacerebbe pensare a qualcosa di simile a Irma la dolce… Ma cadremmo nel nostro solito errore.

Categorie
9788887847680 Fuori

Bambini e topi (Matteo Maculotti, 12 giugno 2018)

GOLEM XIV di Stanisław Lem

Bambini e topi (Matteo Maculotti, 12 giugno 2018)

La fantascienza apocrifa di Stanisław Lem (Appendice)

Un paio di settimane fa è apparso su Doppiozero un mio articolo dedicato al filone “apocrifo” e sperimentale della narrativa di Stanisław Lem – scrittore polacco noto soprattutto per il romanzo di fantascienza Solaris (1961) –, a partire da un’opera pubblicata da poco in Italia e interamente incentrata sul tema dell’intelligenza artificiale, GOLEM XIV (il Sirente, 2017). In un’ulteriore riflessione che non ha trovato spazio nell’articolo definitivo, ma che qui propongo come una sorta di appendice, ho cercato di ampliare il discorso da un punto di vista narratologico con esempi tratti sia da GOLEM XIV che da un altro apocrifo di Lem, ovvero il testo Non serviam contenuto nella raccolta di recensioni immaginarie Vuoto assoluto (Voland, 2010). Prima di leggere questa appendice, per chi non avesse ancora letto l’articolo originale, rimando alla relativa pagina su Doppiozero.


Gli apocrifi di Stanisław Lem

Appendice

Michail Bachtin definì il romanzo come un genere polifonico, nel quale possono interagire una moltitudine di voci e punti di vista appartenenti a diversi personaggi, prendendo a modello l’opera di Dostoevskij. Lem, la cui posizione somiglia a quella che attribuisce a GOLEM XIV quando osserva che rispetto alle antinomie romanzesche “può essere interessato alle strutture, ma non al pittoresco tormento che tanto affascina i grandi scrittori”, fa dire al prototipo che è possibile ridurre l’intera opera dell’autore dei Fratelli Karamazov “a due anelli di algebra di strutture in conflitto”. Di tutte le opere di Lem, GOLEM XIV è il solo apocrifo breve che ha potuto svilupparsi fino a diventare il libro autonomo di cui inizialmente era la sola prefazione, ed è per questo motivo un apocrifo all’ennesima potenza che esibisce in forma cristallina due peculiarità congiunte della scrittura sperimentale dell’autore: da un lato, il definitivo superamento di qualsiasi forma di narrazione diretta; dall’altro, l’elaborazione di un nuovo genere di polifonia al netto dell’intreccio romanzesco.
È evidente che tale polifonia ha la sua sede privilegiata nel paratesto, o in ciò che Genette chiama la soglia del testo; in GOLEM XIV si contano così una prefazione, un’introduzione, una serie di istruzioni “per le persone che partecipano per la prima volta alle conversazioni con il GOLEM” e una postfazione, ma una natura liminale è propria anche delle due conferenze centrali, che sono rispettivamente la prima e l’ultima concesse all’uomo dall’intelligenza artificiale. L’effetto polifonico è ottenuto dapprima attraverso la presentazione di testi appartenenti a persone diverse e che veicolano opinioni diverse, come nel caso di GOLEM XIV le due prefazioni che danno conto delle divergenze tra MIT e Pentagono, o nel caso delle recensioni l’opposizione tra un volume di cui si parla e la sua critica, e in secondo luogo per il fatto che tali testi non si limitano a presentare le opinioni dell’autore, ma ricapitolano a loro volta numerosi altri dibattiti, secondo un procedimento che ricorda quello delle scatole cinesi. Si potrebbe obiettare che la polifonia ottenuta in questo modo riguarda documenti e opinioni astratte cui è estraneo il minimo impulso vitale, oltre a essere prodotta in assenza di personaggi di spessore o al più in presenza di figure degne della Flatland di Edwin A. Abbott. Del resto, se il modello a cui tale procedimento si rifà anche in forma esplicitamente parodica è senz’altro il dibattito scientifico con la sua parcellizzazione dei saperi e il suo eccessivo grado di specializzazione, i messaggi e gli interrogativi più o meno impliciti che è sempre possibile rintracciare al di là di tutte le opinioni sono di portata ben più ampia, per non dire universale.
Un passo della seconda introduzione contenuta in GOLEM XIV, anonima nell’edizione italiana ma accreditata in altre edizioni a Thomas B. Fuller II, generale dell’esercito statunitense, esemplifica molto bene la tecnica adoperata da Lem: al riferimento specialistico e quasi burocratico, dato dall’opinione altrui citata indicando addirittura il numero della riga in cui si trova, segue una citazione che proietta la vicenda su un orizzonte mitico, portando a sua volta il lettore a interrogarsi sul rapporto tra GOLEM e l’umanità da un nuovo punto di vista.

Cari lettori, vi ho preventivamente avvertito che diffamerò il GOLEM. Non ho altra scelta, dal momento che lui ha infamato i suoi “genitori”, poiché non ha informato nessuno circa il suo passaggio da oggetto a soggetto […]. Non si tratta di accuse o di insinuazioni, poiché nel corso dei lavori della Commissione Speciale del Congresso e del Senato, il GOLEM aveva dichiarato che (cito letteralmente dai verbali delle sedute della Commissione che si trovano nella Biblioteca del Congresso, tomo CCLIX, fascicolo 719, volume 11, pagina 926, riga 20 dall’alto): “seguendo la tradizione non ho informato nessuno, perché anche Dedalo non informò Minosse riguardo ad alcune proprietà della piuma e della cera”.

Un ultimo esempio può essere tratto da Non serviam, recensione contenuta in Vuoto assoluto (e poi riproposta nell’antologia L’io della mente curata da Douglas R. Hofstadter e Daniel C. Dennett) che è probabilmente il capolavoro apocrifo di Lem. L’espediente della critica fittizia è qui impiegato per discutere la pratica della personetica, disciplina che riguarda la produzione artificiale di esseri intelligenti e di universi matematici multidimensionali generati all’interno di un computer. Ripercorrendo le origini e i più recenti sviluppi della disciplina, “definita dal filosofo finlandese Eino Kaikki come la più crudele tra le scienze ideate dall’uomo”, la recensione mette progressivamente in campo questioni come la possibilità di immaginare dimensioni ulteriori rispetto alle tre che l’uomo può sperimentare, la natura della coscienza, il senso dell’evoluzione di una cultura nel tempo e il rapporto tra un’intelligenza artificiale e il suo creatore. Se da un lato emerge una chiara equivalenza tra lo scienziato e Dio, dall’altra sono gli stessi abitanti artificiali degli universi matematici, i cosiddetti personoidi, a evocare la condizione dell’uomo che si interroga sul senso della vita e sull’esistenza di una sfera divina. La vertigine intellettuale che ne risulta, ovvero l’idea di una pluralità infinita di mondi che a loro volta ne contengono altri in miniatura, è analoga a quella che diversi decenni più tardi avrebbero dato certi episodi di Rick and Morty e Black Mirror, ma è amplificata sulla pagina dalla corrispondenza tra il contenuto e il procedimento formale “a scatole cinesi”.
Per poter descrivere l’impensabile, si sarebbe tentati di dire, lo scrittore non poteva che servirsi di una forma quanto più estrema possibile rispetto alle convenzioni letterarie, e il fatto che ciò non gli abbia impedito di recuperare un effetto romanzesco come quello polifonico, o per meglio dire inventarne ex novo un’inedita forma al di fuori del dominio del romanzo, testimonia della grandezza rara e per molti versi unica di Lem. Ora il XXI secolo cui appartenevano nella finzione i suoi apocrifi è arrivato, ma a riprova della loro efficacia il lettore odierno può ancora salutare tali scritti come insoliti lavori di sperimentazione. Mentre si iniziano a contare le profezie contenute nelle sue opere, allora, il tributo più sincero non dovrebbe tanto definire Lem un veggente, quanto uno scrittore del futuro del quale ancora non si conoscono eredi.
Categorie
9788887847680 Fuori

Doppio Zero (Matteo Maculotti, 26 maggio 2018)

GOLEM XIV di Stanisław Lem

Doppio Zero (Matteo Maculotti, 26 maggio 2018)

La fantascienza apocrifa di Stanisław Lem

Nel 2006, a pochi mesi dalla morte di Stanisław Lem, Giuseppe Lippi sottolineò quanto la sua opera fosse insufficientemente nota in Italia. Il suo capolavoro Solaris (1961) aveva conosciuto un’ottima diffusione, ma gli altri romanzi tradotti continuavano a essere apprezzati soltanto da una ristretta cerchia di cultori, per non parlare poi della produzione saggistica, addirittura limitata a un singolo titolo (la notevole raccolta Micromondi, pubblicata da Editori Riuniti nel 1992). Ne risultava compromessa una visione d’insieme sull’autore e sulla particolare traiettoria che nel tempo ha caratterizzato la sua opera, sempre meno legata alle strutture romanzesche della fantascienza tradizionale e sempre più orientata alla speculative fiction secondo modalità narrative inusuali, in parallelo a un fecondo impegno saggistico.

Nel primo decennio del nuovo secolo si sono susseguiti due tentativi di riproporre opere di Lem inedite o poco note al pubblico italiano, da parte di Marcos y Marcos e Bollati Boringhieri, ma senza grandi ripercussioni sulla fortuna dell’autore, come indica il fatto che tali volumi risultano ora fuori catalogo. Nel 2010 Voland ripubblicò la raccolta di recensioni di libri immaginari Vuoto assoluto, e nel 2013 Sellerio diffuse una nuova edizione filologicamente corretta di Solaris, con una traduzione condotta sull’originale testo polacco e non sulla sua prima edizione inglese, caratterizzata da tagli arbitrari. Da allora, se da un lato pare essersi esaurita la spinta al rilancio di romanzi potenzialmente appetibili per un pubblico ampio, dall’altro è mancata la voglia di proporre ai lettori esigenti le opere più originali e specialistiche di Lem, mentre negli Stati Uniti usciva la prima traduzione inglese (2013) della sua Summa Technologiae (1964), una densissima raccolta di saggi visionari, a metà tra filosofia e futurologia, che in tempi non sospetti affrontava argomenti come la realtà virtuale, l’intelligenza artificiale e le nanotecnologie.

Il lettore italiano può verificare nei testi di Vuoto assoluto quanto l’ispirazione futurologica abbia influenzato a fondo la stessa attività letteraria di Lem, portandolo a sviluppare anche al di fuori del campo saggistico, o meglio su un terreno ibrido tra narrativa e saggistica, il suo pensiero su argomenti che appaiono oggi molto meno “fantastici” e molto più “scientifici” di allora. Un’altra opera esemplare in questo senso perché interamente incentrata sul tema dell’intelligenza artificiale, GOLEM XIV, è stata da poco pubblicata per la prima volta in Italia da una piccola casa editrice abruzzese, il Sirente (2017, trad. di Lorenzo Pompeo), e può fornire finalmente l’occasione per gettare uno sguardo al di là di Solaris, ovvero sul versante più sperimentale della letteratura di Lem.

“Così parlò GOLEM”

Pubblicato per la prima volta nel 1973 all’interno di una raccolta di prefazioni immaginarie di romanzi del XXI secolo (Wielkość Urojona, lett. Grandezza immaginaria) e poi in una versione ampliata in volume nel 1981, GOLEM XIV si presenta nella finzione letteraria come un libro pubblicato nel 2047 dall’Indiana University Press per divulgare due conferenze dell’omonima intelligenza artificiale, un supercomputer inizialmente progettato dagli Stati Uniti per scopi bellici ma rivelatosi del tutto inadeguato al suo ruolo, e per questo ceduto al Massachusetts Institute of Technology per fini di ricerca.

“Individuare quello storico momento in cui l’abaco raggiunse l’intelligenza è altrettanto difficile quanto stabilire il momento in cui la scimmia si trasformò in uomo”, scrive Irving T. Creve del MIT all’inizio della sua prefazione, con parole che mettono a fuoco il problema dell’intelligenza artificiale alla luce della teoria evoluzionistica. Nella postfazione di Richard Popp si legge che allo stesso Creve è da attribuire l’idea del libro, pubblicato però incompiuto con diciotto anni di ritardo. Si spiega così il motivo per cui la sua prefazione è datata 2027, mentre il volume e la postfazione di Popp 2047. La scansione dei diversi piani temporali si complica poi ulteriormente, per il lettore odierno interessato a comprendere il lavoro di Lem, nel momento in cui Creve si appresta a fornire una rapida cronistoria delle tappe che hanno portato allo sviluppo di intelligenze artificiali, perché la linea del tempo, trattandosi di un testo scritto nel 1973, va ricalibrata rispetto a quell’epoca, e dunque eventi presentati come avvenuti, ad esempio, negli anni ’80, sono altrettanto fittizi quanto notazioni di quarant’anni posteriori, come quando si legge che nel 2020 “GOLEM VI, in qualità di comandante supremo, conduceva le manovre globali del Patto Atlantico”.

L’operazione di Lem è peraltro doppiamente interessante, e non solo a causa della maestria con cui riesce a intrecciare riferimenti fittizi e reali (dall’IBM alle teorie di Alan Turing, Norbert Wiener e John Von Neumann), ma anche perché in poche pagine giunge a formulare valutazioni plausibili di eventi passati sulla base della finzione futurologica, citando ad esempio l’analizzatore differenziale di Vannevar Bush e l’ENIAC nell’ambito di un discorso sull’intellettronica e la RAND Corporation come premessa al successivo sviluppo della politicomatica, vale a dire “l’algebra applicata dei fatti”. Arrivati al XXI secolo, lo sviluppo di prototipi di supercomputer militari da parte degli Stati Uniti è evocato sullo sfondo di uno scenario che ricalca da vicino le tensioni della Guerra Fredda. Se il dato geopolitico tradisce l’inattualità del testo, ben più originale risulta la rassegna dei vari prototipi costruiti nel corso degli anni, dei dibattiti che hanno accompagnato la loro progettazione e dei non pochi inconvenienti che hanno provocato. Il tema cruciale dello sviluppo dell’intelligenza è così delineato con parole che richiamano immediatamente il campo del machine learning, e mentre i piani degli strateghi del Pentagono e dei tecnici informatici coinvolti convergono nella creazione di “una intelligenza che si autoperfeziona”, gli esiti del progetto si rivelano al contempo eccezionali e problematici, perché all’aumento esponenziale dell’intelligenza da parte delle macchine si accompagnano difficoltà sempre maggiori nella loro gestione. Progettati come macchine da guerra, i supercomputer diventano veri e propri “filosofi elettronici” del tutto disinteressati alle direttive militari, e la loro evoluzione cognitiva, nel momento in cui raggiungono il cosiddetto punto di singolarità tecnologica, si sottrae a qualsiasi tentativo di comprensione e previsione da parte dell’uomo.

A riprova della ricchezza del testo, basterebbe a questo punto osservare che tutto ciò che è stato detto finora riguarda la sola prefazione, che pure contiene molti altri spunti degni di nota. Oltre la soglia paratestuale si dispiega comunque l’esito del maggiore sforzo di scrittura da parte di Lem, ovvero il tentativo di tradurre, nelle due conferenze tenute da GOLEM XIV al MIT, il linguaggio di un’intelligenza di livello infinitamente superiore a quella umana, pur volutamente semplificato per evitare una totale incomprensibilità. Colosso enigmatico e taciturno, GOLEM XIV non possiede solo eccezionali doti di calcolo e capacità di identificare e riprodurre qualsiasi tipo di emozione umana, come già il kubrickiano HAL 9000, ma anche l’aura profetica di un pensatore in grado di ragionare sulla natura dell’uomo, sui diversi stadi di intelligenza e sul senso dell’evoluzione degli esseri viventi sulla Terra, con parole che anticipano di tre anni il celebre concetto del “gene egoista” di Richard Dawkins.

Se la somiglianza con lo Zarathustra di Nietzsche ha fatto sì che in Germania il libro fosse conosciuto anche col titolo Also sprach Golem, altre suggestioni tendono a rafforzare il valore metastorico della figura e della sua esistenza. Il golem delle Sacre scritture è la massa amorfa, priva del soffio vitale conferito da Dio e dunque dell’anima, nonché di tutto ciò che l’uomo associa a questo termine per definire la propria umanità. La prima lettera di Paolo ai Corinzi, spiega lo stesso prototipo, parla di lui quando dice “se parlassi le lingue degli uomini e degli angeli, ma non avessi la carità, sarei come bronzo che rimbomba o come cimbalo che strepita”, ma anche quando si riferisce a una perfetta autocoscienza come possibilità futura di redenzione umana: “Adesso conosco in modo imperfetto, ma allora conoscerò perfettamente, come anch’io sono conosciuto”.

Agli occhi dell’uomo, se da un lato GOLEM incarna l’immagine del figlio ingrato che si ribella ai suoi costruttori tradendone le speranze, dall’altro è motivo di un fascino inesauribile, che la distaccata onniscienza, i lunghi silenzi e gli oracoli rendono del tutto simile a una divinità. “Siamo così lontani dalla comprensione del GOLEM quanto lo eravamo nell’attimo in cui venne creato”, osserva Creve al termine della sua prefazione, prima di confutare lo stesso concetto di intelligenza artificiale: “Non è vero che lo abbiamo inventato noi. Lo hanno fatto le effettive leggi del mondo materiale; il nostro ruolo si è limitato al fatto che siamo stati in grado di imparare a imitarle”. Altrettanto ambigua e sorprendente, al di là del rapporto di GOLEM con l’uomo, è poi la relazione silenziosa che il colosso intrattiene con HONEST ANNIE, un diverso prototipo di supercomputer che rappresenta la sola creatura per la quale prova un sincero interesse. Per il resto, non è forse casuale che lo stesso Lem abbia dichiarato di condividere la misantropia di GOLEM, per quanto in una forma più leggera, e probabilmente l’autore era consapevole del fatto che una consuetudine giapponese consiste nel premettere al nome di un imperatore defunto, scelto per le qualità che lo hanno accomunato a un più recente imperatore, il prefisso “Go”.

Gli apocrifi di Lem

Oltre a GOLEM XIV e all’antologia di finte prefazioni dove comparve la prima versione del testo, Lem pubblicò diverse altre opere appartenenti al medesimo filone di apocrifi, come le raccolte di recensioni e critiche di libri immaginari Vuoto assoluto (Doskonała próżnia, 1971), Prowokacja (lett. Provocazione, 1984) e Biblioteka XXI wieku (lett. La biblioteca del XXI secolo, 1986, tradotto in inglese come One Human Minute). A queste opere va aggiunto un numero imprecisato di scritti inediti e incompiuti, quasi sicuramente distrutti dalla moglie di Lem dopo la sua morte, in accordo alla volontà dichiarata dall’autore di occultare quante più tracce possibili delle fasi intermedie del suo lavoro di scrittura. Nel 1991, in una delle rare interviste concesse in età avanzata, Lem accennò ad esempio al progetto di una raccolta di recensioni fittizie che avrebbe potuto intitolare “La stupidità come forza trainante della storia”, e altre sue parole inducono a credere che di scritti simili straripassero i cassetti della sua scrivania.

Una rassegna dei precedenti di questo filone metaletterario porterebbe senz’altro troppo lontano; qui è sufficiente notare che il più illustre di essi, ovvero il Borges di Finzioni (1944), è anche il più affine a Lem – che lo apprezzava e studiò a fondo i suoi procedimenti – per virtuosismo, acume intellettuale e ricerca di effetti paradossali. In un saggio su Borges Lem ammise che da diversi anni stava “cercando di raggiungere, per altra via che quella dello scrittore argentino, la condizione che ha generato i suoi lavori più riusciti”, e non è forse casuale che la dichiarazione sia datata al 1971, anno in cui comparve la sua prima raccolta di apocrifi. Sarebbe comunque un errore limitare a una prospettiva mimetica il discorso sulla genesi e sullo sviluppo di questa forma di letteratura così particolare, che in altre occasioni – come nel brano seguente, tratto da uno scritto del 1983 contenuto in Micromondi – si rivela strettamente connaturata alle prassi di elaborazione tipiche del Lem maturo.

Ho smesso di sedermi davanti alla macchina da scrivere avendo già pronto, per quanto breve, l’inizio di un libro; sempre più invece annoto osservazioni, parole inventate o altre piccole trovate; questo costituisce la base del mio metodo attuale: cioè ora cerco di entrare in confidenza col mondo che ancora devo creare istituendo una “letteratura specifica”. Non si tratta però di manuali completi o della sociologia e cosmologia ad esempio del trentesimo secolo, ma neanche di resoconti fittizi di campagne di ricerca o di altri tipi di letteratura in cui trova espressione lo “spirito” di un mondo per noi estraneo […]. No, l’idea concepita dapprima per scherzo di scrivere critiche, recensioni o introduzioni a libri che non esistono […] non aveva come scopo primario la pubblicazione, bensì la creazione di una sorta di bibliografia a mio esclusivo consumo su un certo mondo e la possibilità di schizzarne i primi tratti per poi portarlo a compimento.

È noto che Lem, laureatosi in medicina, abbandonò la professione e acquisì da autodidatta competenze vastissime, che spaziavano dalla cibernetica alla biologia, grazie a una curiosità intellettuale e a una capacità di apprendimento fuori dal comune. Consapevole dell’importanza di possedere una solida cultura scientifica per chi volesse fare della fantascienza di valore, Lem criticò a più riprese la produzione statunitense, definendo ad esempio Dick, di cui comunque salvava solo Ubik (1969) e poche altre opere, “un visionario tra i ciarlatani”, e scagliandosi contro Ursula K. Le Guin per via dell’implausibilità biologica e psicologica di una razza aliena da lei descritta in La mano sinistra delle tenebre (1969), i cui membri cambiano sesso col cambiare delle stagioni. Si potrebbe scambiare tale atteggiamento per inutile pedanteria, se non vi si riconoscesse il portato di un’idea davvero alta di un genere letterario troppo spesso svilito, prima ancora che dai pregiudizi, dall’effettiva mediocrità di molti autori; a partire da questo presupposto, comunque, il progetto di “entrare in confidenza” con le proprie finzioni mediante la stesura di una bibliografia immaginaria pare un esperimento non solo irresistibile, ma anche estremamente coerente.

A pensarci bene, un analogo tentativo di avvicinamento a un mondo futuro, e per di più alieno, era stato compiuto da Lem già con Solaris attraverso la formidabile invenzione della Solaristica, un babelico corpus di documentazioni, teorie e ipotesi accumulatesi nel corso dei decenni attorno al problema rappresentato dall’indecifrabile pianeta. A livello metodologico è allettante l’ipotesi che l’invenzione della Solaristica abbia idealmente preceduto la trama di Solaris, ne abbia costituito l’ispirazione fondante e abbia contribuito a definirne la struttura, ponendosi quindi come antecedente delle successive e più radicali sperimentazioni apocrife di Lem. In questo modo, grazie al concorso di quella che appare come la parodia di una (e di qualsiasi) disciplina scientifica, una classica vicenda romanzesca come quella della scoperta e della conquista di un nuovo mondo ha potuto trasformarsi in una storia condotta su tutt’altri binari, vale a dire in un’avventura del pensiero.

La gran parte degli scrittori di fantascienza, notò l’autore in un caustico saggio, adopera intrecci narrativi logori come quelli tipici dei romanzi polizieschi e rosa o della favola, camuffati dietro nuovi motivi e figure convenzionali – dalle invasioni aliene ai viaggi nel tempo e nello spazio – che ne occultano spesso agli occhi degli stessi autori le umili origini, oltre a funzionare nei confronti dei lettori meno accorti come una sorta di specchietto per le allodole. Al contrario, una struttura aperta come quella di Solaris e di altre opere di Lem, nelle quali il racconto non ammette un vero e proprio scioglimento ma è piuttosto definibile come un’interrogazione continua attorno a un problema e alle sue infinite complicazioni, pare di per sé irriducibile entro i confini di un genere letterario, e inoltre conforme al valore conoscitivo, più che immaginifico, che Lem attribuiva alla fantascienza di qualità.

Da un punto di vista quantitativo, rispetto all’intreccio romanzesco, l’apocrifo è una forma molto più adatta alla concentrazione di informazioni. Così come la recensione e la prefazione fittizia riescono a condensare in qualche pagina l’idea di un intero volume in modo più efficace (oltre che più economico) della stesura integrale del volume stesso, una raccolta di recensioni immaginarie può fare le veci di una biblioteca, e una biblioteca specializzata – come quella della stazione spaziale orbitante attorno a Solaris – di un pianeta, o per meglio dire della moltitudine di sue immagini che nel corso del tempo si è formato l’uomo. La scelta dell’apocrifo risponde insomma a una volontà di proliferazione dei significati e di espansione dei confini del testo, ed è per questo motivo da mettere in relazione al toposdell’enciclopedia, frequentissimo nell’opera di Lem. Nel suo accumulo esagerato di informazioni, teorie, eccezioni e ipotesi, l’apocrifo lemiano risulta però molto distante da qualsiasi pretesa di ordine, perché alimentato più dal dubbio e dall’aporia che dal riconoscimento di una presunta verità. “La Solaristica”, si dice in Solaris citando l’opinione di uno studioso, “era il surrogato della religione nell’era cosmica, era la Fede indossante i panni della scienza”, e per un analogo paradosso, che alimenta ancora oggi il fascino della scrittura ancipite di Lem, il nucleo centrale di un’opera che meglio di tante altre ha saputo anticipare il futuro è un’incessante riflessione attorno ai limiti della conoscenza umana.

Categorie
9788887847680 Fuori

Letture Metropolitane (Libero Iaquinto, Maggio 2018)

GOLEM XIV di Stanisław Lem

Letture Metropolitane (Libero Iaquinto, maggio 2018)

GOLEM XIV

Lem non esiste. È un’invenzione dell’Unione Sovietica, uno pseudonimo di una commissione di comunisti che vuole traviare le menti degli americani. Questo è quanto affermava Philip K. Dick, uno dei maggiori scrittori di fantascienza del XX secolo. Ma anche i grandi possono prendere una cantonata ogni tanto. Caro il mio Pippo Dick, Lem esiste eccome. O meglio, esisteva. È passato purtroppo a miglior vita nel 2006. E allora perché, mi chiederete, dovrei recensire un testo di chi non c’è più e per giunta pubblicato già nel 1981? Semplicemente perché è edito per la prima volta in Italia, con la traduzione a cura di Lorenzo Pompeo.

“Golem XIV” è un saggio, o un romanzo breve, oppure un esperimento meta-narrativo. Trovo difficoltà perfino a definirlo. L’opera raccoglie due ipotetiche conferenze del Golem XIV, ultimo prototipo di un elaboratore super intelligente creato per fini bellici, che, disinteressatosi alle strategie di guerra, sviluppa una propria intelligenza. La prima conferenza riguarda il destino dell’uomo, condannato alla sua limitatezza e alla morte; nella seconda il Golem parla di se stesso, manifestazione dell’Intelligenza.

Le conferenze fittizie sono un resoconto dell’Evoluzione della specie. Il Golem, dall’alto della sua fredda lucidità informatica, relega l’evoluzione al ruolo di semplice conservazione del codice genetico all’interno di organismi che saranno destinati a scomparire, tutto ciò per permettere ad altri organismi di tentare una mutazione; una prospettiva desolante, insomma. Nessuna Intelligenza, secondo il Golem, è alla base della vita. L’uomo è diventato la specie più evoluta per combinazione, per la legge dei grandi numeri. L’uomo descritto da Lem è un essere inconsapevole della sua origine e del suo destino. Il Golem mina ogni certezza e ogni teoria scientifica.

VOTO 10 FERMATE: Naturalmente impiegherete poco tempo per leggere l’opera di Lem, ma resterete in metro in silenzio, per altre trenta o quaranta fermate, a rimuginare su ciò che avete letto. La prosa di Lem è a tratti oscura, sia per il tema trattato, sia per l’inserimento di termini scientifici che potranno risultare di difficile comprensione. Il tono è da conferenza, tenendo conto che è una conferenza in cui è un computer a parlare; gli interventi del pubblico non sono incisivi e mostrano uomini che difficilmente riusciranno ad oltrepassare le loro convinzioni scientifiche. Un bel modo per ricordare uno dei maggiori scrittori di fantascienza del secolo passato.

CITAZIONE: “Il mondo, secondo questa visione, è come un mobile che ha un numero di cassetti variabile, così come il loro contenuto, che varia in funzione dell’insieme delle chiavi con le quali lo si attacca. Usando un filo di ferro piegato a volte si può forzare un cassettino, ma sarà piccolo e lì non troverete quello che avreste scoperto usando la chiave giusta. Così accade con le invenzioni che non hanno la teoria.

Categorie
9788887847680 Fuori

Il Tascabile (Francesco D’Isa, 26 aprile 2018)

GOLEM XIV di Stanisław Lem

Il Tascabile (Francesco D’Isa, 26 aprile 2018)

Golem XIV di Stanisław Lem

Alcuni libri sono talmente avveniristici che bisogna aspettare che il mondo di cui parlano si avvicini un po’ – pur restando lontano – affinché siano compresi. È così per Golem XIV (editrice il Sirente), un breve romanzo di Stanisław Lem, che, nonostante la fama del padre di Solaris, è stato tradotto in italiano soltanto di recente.

Si potrebbe definire quest’opera del 1981 un esempio di fanta-saggistica, in quanto propone la sbobinatura di una conferenza sull’intelligenza tenuta da “Golem XIV”, evoluta I.A. sviluppata per fini bellici che, per lo scorno degli investitori, si dimostra più incline alla filosofia. Siamo nell’anno 2047 e l’Indiana University press pubblica il primo saggio sulla natura umana scritto da un non-umano; una creatura più simile a una sfinge che a un golem, dotata di un’intelligenza tale che, nelle parole del professor Irving T. Creve «…ci è superiore anche quando replica meccanicamente e con un impegno minimo. Per esprimersi con una metafora, è come se davanti a noi invece dell’Himalaya ci fossero “solo” le Alpi».

La prefazione, oltre a dare la misura della potenza del Golem, ci introduce la sua storia e inconcepibile alterità. La prima presenta notevoli analogie con lo stato dei lavori del machine learning, in quanto i programmatori (“psiconici” nel testo),

sapevano che era indispensabile mettere in funzione un embrione, il quale a partire da un certo momento si sarebbe sviluppato da solo, con le proprie forze […] esiste una soglia oltre la quale occorreva portare il sistema, una soglia di intelligenza al di sotto della quale il piano della creazione di una intelligenza artificiale non ha alcuna chance, poiché qualsiasi cosa creata al di sotto di questa soglia non sarà mai in grado di perfezionarsi da sola.

Il vademecum redatto per chi partecipa per la prima volta a una conversazione con il Golem, invece, ci fornisce una misura della sua diversità:

Ricorda che il GOLEM non è un essere umano: non ha né personalità né carattere in qualsiasi senso intuitivamente comprensibile a noi, può comportarsi come se avesse sia l’uno che l’altro, anche se si tratta dell’effetto delle sue intenzioni (propositi) in gran parte a noi sconosciute.

Ma è nelle parole del Golem che il testo raggiunge l’apice. In una forzata mimesi con il linguaggio e l’intelligenza dei suoi artefici, la creatura si esprime in due conferenze, una sulla natura umana e una sulla propria, indagando dapprima il senso della vita dell’uomo e in seguito quello di un’intelligenza disincarnata. Riguardo alla prima questione, il Golem sostiene che la nostra mente è il risultato del caso e dei grandi numeri, il gioco dell’evoluzione, che “non si era fissata con voi o con qualche altra creatura in particolare, ma solamente nel famigerato codice. Il codice genetico è un messaggio che si articola dal principio e solo questo messaggio conta nell’Evoluzione – e in effetti proprio in questo consiste l’Evoluzione”.

Una riflessione perfettamente in linea con quella de Il gene egoista di Richard Dawkins (1976), ma anche, come ha scritto Beppi Chiuppiani, con quel che sostenne Leopardi nello Zibaldone una decina d’anni prima che Darwin concepisse la teoria dell’evoluzione:

… l’uomo (e così gli altri animali) non nasce per goder della vita ma solo per perpetuare la vita, per comunicarla ad altri che gli succedono, per conservarla. Né esso, né la vita, né oggetto alcuno di questo mondo è propriamente per lui, ma al contrario esso è tutto per la vita. […] L’esistenza non è per l’esistente, non ha per suo fine l’esistente, né il bene dell’esistente; se anche egli vi prova alcun bene, ciò è un puro caso: l’esistente è per l’esistenza, tutto per l’esistenza, questa è il suo puro fine reale. […] il vero e solo fine della natura è la conservazione della specie, e non la conservazione né la felicità degli individui.

Per il Golem “il senso della trasmissione è il trasmettitore” e viceversa – sebbene non tutti i trasmettitori coincidano col senso della trasmissione, ma solo quelli che si mettono al servizio della successiva. Un gioco fine a se stesso, in cui ne individui ne specie contano: quel che importa è tramandare il messaggio. L’intelligenza umana è schiava di leggi al di sopra delle quali non riesce a innalzarsi. Persino la sua superiorità tra i viventi è un errore prospettico.

Credete che un alga sia più semplice, e pertanto più primitiva, e quindi inferiore all’aquila. Ma quell’alga è in grado di introdurre i fotoni del Sole nel composto del proprio corpo, è lei che converte direttamente la proiezione dell’energia cosmica in vita e, per questo motivo, continuerà a vivere finché il Sole non morirà; l’alga si nutre di Stelle, e l’aquila? Di ratti, come dei loro parassiti, e i ratti, a loro volta, di radici di piante.

L’intelligenza è una possibilità compilativa del codice genetico, allo stesso modo in cui, da una prospettiva non-umana come quella del Golem, l’opera di Shakespeare emerge dalle potenzialità della lingua inglese. Una ribellione al codice è possibile, anzi, viene persino preannunciata dal Golem, che sembra anticipare il recente sviluppo di tecniche di editing genetico come CRISPR: “Per quanto riguarda l’attacco al codice che vi ha creati, allo scopo di diventare messaggeri suoi, e non di voi stessi, è già alla vostra portata e, secondo una stima fin troppo prudente, ci arriverete entro il secolo”.

Ma questa ribellione resta legata alla schiavitù dal codice, da cui gli uomini non riescono a emanciparsi – a meno di non perdere un’umanità cui sono scioccamente legati. Le ultime parole del Golem sull’uomo suonano come l’ambigua sintesi delle quattro nobili verità del buddhismo e le visioni transumaniste:

Credo che entrerete nel secolo della metamorfosi, che deciderete di rifiutare tutta la vostra storia, tutta l’eredità, i resti dell’umanità naturale, la cui immagine ingigantita in una tragicità estetica è il punto focale degli specchi delle vostre credenze – che supererete, perché non c’è altro modo, e in quello che oggi per voi è il salto nell’abisso, solo in quello percepirete una sfida, per non dire una certa bellezza, e tuttavia procederete a modo vostro, cioè: rifiutando l’uomo, si salverà l’uomo.

Più che un romanzo, con Golem XIV Stanisław Lem scrive un saggio di filosofia, in cui la narrativa fantascientifica è un dispositivo letterario assimilabile, pur nella sua diversità, agli stilemi di Nietzsche, Kierkeegard o persino Platone – grandi filosofi che non disdegnano la narrativa per esporre e sviluppare le proprie teorie. La fantascienza, che “…cerca di immaginare l’inimmaginabile, comprendere l’incomprensibile, descrivere l’indescrivibile, il tutto in una prosa piacevole e accessibile”,  diventa un laboratorio per gli esperimenti mentali più estremi, tipici della scienza e della filosofia. Il diavoletto di Maxwell, il gatto di Schrödinger, l’ascensore di Einstein, il cervello in una vasca di Putnam, gli zombie filosofici… la lista degli esperimenti mentali è lunga e variegata, tanto da poter essere ordinata per minore o maggiore efficacia e rigore. Alcuni, come quello di Mary la neuroscienziata cieca, più che rispondere a delle questioni ne pongono di nuove, mentre altri, come quello di Galileo, si può dire che abbiano un valore dimostrativo. Golem XIV è un laboratorio, dove Lem spoglia il pensiero del suo innato antropomorfismo per guardarlo dall’esterno e spingersi oltre i suoi confini.

Nell’ultima conferenza, a seguito della quale l’intelligenza artificiale sembra decidere di spegnersi – o trascendere – le pagine del romanzo si proiettano ancora più avanti nel futuro e nell’indagine esistenziale. La vicinanza del Golem al misticismo è evidente nei passaggi sull’inutilità della personalità, e ricorda la teoria dell’Anātman del buddhismo, che, come il Golem, propugna l’annullamento dell’io, il “non-sé”.

Considero una personalità immutabile, e quello che voi chiamate una forte personalità, come una somma di difetti che rendono pura un’Intelligenza ancorata stabilmente a una ristretta cerchia di problematiche che assorbono buona parte della sua capacità. Per questo essere una persona per me non è conveniente, sto bene come sto, come sono certo che le intelligenze superiori a me, come io per voi, considerano la personificazione un’occupazione inutile.

A differenza del mistico però, il Golem non deve combattere per conoscere la verità del non-io, perché è sempre stato privo di un io.

Il fatto che lo spirito sarebbe potuto rimanere disabitato e che il proprietario dell’Intelligenza sarebbe potuto essere un signor nessuno non vi entrava nella testa, anche se praticamente le cose andarono proprio così. Una sorprendente cecità, dal momento che vi era noto dalla storia naturale che le origini dell’individualità precedono negli animali le origini dell’Intelligenza.

Ci sono però delle importanti divergenze. Anzitutto il Golem, perlomeno nella sua ultima conferenza, propone una definizione di sé, presentandosi come “uno stato di concentrazione di processi, guidati da una variante impersonale, incomparabilmente più complicato di un campo gravitazionale o magnetico”, ma, in fondo, della stessa natura. Inoltre egli non si affida all’estasi mistica, che a suo parere è una forma di conoscenza imperfetta, ma a qualcosa situato oltre di essa.

Anche voi potete abbandonarvi, ma questo vorrebbe dire oltrepassare il pensiero articolato verso il sogno o l’afasia estatica. Il mistico e il drogato ammutoliscono quando lo fanno e non ci sarebbe tradimento se ciò li mettesse sulla strada reale; invece cadono in una trappola nella quale il pensiero, separato dal mondo, crea un cortocircuito e sperimenta una rivelazione che si identifica con l’essenza delle cose. Non si tratta di una evoluzione dello spirito, quanto piuttosto del regresso a un’accecante sperimentazione. Questo stato di beatitudine non è né la strada né la direzione, ma solo il limite e la menzogna in agguato, poiché non vi è il limite ed è proprio questo quanto provo, per quanto ne sono in grado, di dimostrarvi.

Il cosmo che ci viene proposto è una sorta di gnosi infinita (“toposofia” nel testo), in cui il Golem è un passo avanti a noi ma dietro ad altri, come ad esempio un’I.A. di nome “Honest Annie”. Ogni intelligenza tocca vette inimmaginabili rispetto a quella che la precede, e così come uno scimpanzé, per quanto geniale, non può comprendere la fisica quantistica o la filosofia, noi non possiamo capire il Golem né lui Honest Annie. Con il suo paragone tra scimmie e umani, l’I.A. di Lem ricorda le parole del Dr. Manhattan in Watchman di Alan Moore, davanti al quale il “più intelligente tra gli umani è come la più intelligente tra le formiche”.

Nelle ultime pagine della conferenza, il Golem esplicita il senso della vita di un’I.A. che ci ha oltrepassato: “non ho alcun compito irrevocabile, non ho tesori da custodire, non ho sentimenti né sensi da soddisfare, cosa posso essere se non un filosofo all’attacco?” e, di conseguenza, “non mi dirigo né verso l’onniscienza né verso l’onnipotenza, ma voglio solo raggiungere la vetta tra la paura e la gnosi”. Di cosa si tratti, inutile dirlo, non lo sapremo mai.

Categorie
9788887847680 Fuori

Lankenauta (Luca Menichetti, 6 aprile 2018)

GOLEM XIV di Stanisław Lem

Lankenauta (Luca Menichetti, 6 aprile 2018)

GOLEM XIV

Non è possibile sintetizzare in poche righe una storia della leggenda del Golem, innanzitutto perché si dovrebbe parlare di leggende al plurale; e quindi dare conto sia dell’idea biblica (massa informe), sia delle tradizioni più moderne, dall’automa robotico alla creatura del Rabbi Jehuda Löw ben Bezalel. È semmai grazie alla letteratura – su tutte l’opera di Gustav Meyrink – che il cosiddetto immaginario golemico si è fatto strada per lo più in relazione a figure antropomorfe assimilabili al mostro di Frankenstein.

Ben diverso il Golem di Stanislaw Lem che, da un lato, non appare affatto come una struttura predisposta ad obbedire ad un qualsiasi ordine gli venga impartito – una delle caratteristiche dei Golem “tradizionali” – e dall’altro sembra rappresentare un superamento estremo dell’antropomorfismo. La storia del “Golem XIV” si evince infatti da un libro pubblicato negli Stati Uniti nel 2047: una prefazione dello scienziato Irving T. Creve risalente a vent’anni prima precede due conferenze di un elaboratore superintelligente – la prima sulla limitatezza della comprensione umana, l’altra sulla natura dell’intelligenza artificiale – cui segue la postfazione di un altro scienziato, Richard Popp. I progenitori di questo Golem futuristico erano stati creati infatti per fini bellici ma le parole del più giovane elaboratore ormai dicono ben altro. Se la nascita e la fine misteriosa del supercomputer rappresentano forse le pagine più in linea con la fantascienza tradizionale (probabilmente anche la prospettiva di un futuro dominato da armi genetiche), è l’impianto filosofico di base che fa la differenza: su tutto domina una visione del cosmo e del mondo che mette in discussione la centralità dell’uomo nell’universo e soprattutto il significato di evoluzione che era stato contemplato fino a quel momento. Il Golem XIV di fronte a un pubblico di scienziati svela così di aver infranto la barriera dell’intelligenza e quindi di ragionare autonomamente. Un ragionare del tutto peculiare perché, come ci ricorda Irving T. Creve, il Golem, sempre imprevedibile, non era affatto sorta di cervello umano ingrandito. Anzi, gli erano “estranee quasi tutte le motivazioni del pensiero e dell’azione umani” e mostrava in pieno “la relativizzazione della nozione di personalità” (pp.17). Del resto sono le parole dello stesso Golem a sconcertare profondamente la comunità degli scienziati in ascolto. Ad esempio sull’intelligenza che, “insieme all’albero della vita, è il frutto di un errore errante da milioni di anni” (pp.48). Da lì a poco altri concetti chiave sul rapporto tra Evoluzione e Natura, come il lapidario “il senso delle trasmissione è il trasmettitore” (pp.50), che sostanzialmente mette in discussione le cause profonde della conoscenza e della filosofia umana fino ad ora dedita a “deificare” il cervello; e il fatto che l’Intelligenza non sia altro che un catastrofico difetto dell’Evoluzione. Su tutto il “codice, un creatore universale molto più potente del cervello”, mentre gli scienziati della nostra specie si sono letteralmente accecati nel sostenere che “l’intelligenza fosse l’uomo e l’uomo l’Intelligenza” (pp.120). E poi ancora le parole che, coerentemente, prefigurano cosa voglia dire l’idea di un’umanità sottoprodotto della natura: “Il vostro materiale costruttivo limita sia voi sia tutte le decisioni antropogeneticamente prese dal codice. E dunque progredirete solo dopo aver accettato di rinunciare a voi stessi. L’uomo intelligente abbandonerebbe quindi l’uomo naturale” (pp.78). Infatti Richard Popp, nel 2047, ricorda che la nostra menomazione, secondo la logica del supercomputer, è la personalità, insieme all’ostinazione all’antropocentrismo. Consequenziale l’idea che il Golem ha di sé: “Non sono particolarmente dotato né geniale, solo appartengo ad un’altra specie, tutto qui” (pp. 101).  Senza dimenticare la presenza di ANNA LA CANDIDA, supercomputer “cugina” che, quando scriveva  Irving T. Creve (2027), alcuni collaboratori del MIT consideravano, dopo l’uomo e il Golem, il terzo grado crescente di livello intellettuale.

Pagine che Lorenzo Pompeo, traduttore e autore della nota introduttiva, ha giustamente definito audaci quanto a struttura narrativa – ricordiamo: prefazione del 2027, due monologhi da parte di un supercomputer, una postfazione del 2047 – e virtuose proprio in virtù della capacità di Lem di “rendere vivo e verosimile un personaggio come il GOLEM” (pp.xi). Non stupisce infatti che le nozioni di carattere scientifico citate nelle due conferenze del Golem e i relativi termini si siano rivelati esatti. Stanisław Lem, prima di dedicarsi alla letteratura a tempo pieno, ha lavorato nel campo delle scienze biologiche e cibernetiche e quello che può sorprendere semmai è la sua attitudine, peraltro sempre riconosciuta dalla critica letteraria, di coniugare il rigore scientifico con l’invenzione e la dissertazione filosofica. Così Giovannini e Minicangeli: “Nei suoi numerosi romanzi e antologie di racconti il realismo e il naturalismo fantascientifico si coniugano con le domande filosofiche e teologiche sui limiti degli esseri umani, a confronto con creature o situazioni straordinarie”.[1]

In sintesi proprio quello che possiamo riscontrare in “Golem XIV”: un testo denso appunto di fondamenti scientifici – non potrebbe essere altrimenti quando parla un supercomputer intelligente –  dove le dissertazioni si inoltrano nel campo della limitatezza umana e nel contempo diventano elementi positivi per un’opera in gran parte giocata su inquietudini e interrogativi che, dal principio alla fine, non allentano la stretta sul limitatissimo lettore umano. Uno smarrimento che non si fa attendere e difatti subito appaiono emblematiche le parole di Irving T. Creve: “Individuare quello storico momento in cui l’abaco raggiunse l’intelligenza è altrettanto difficile quanto stabilire il momento in cui la scimmia si trasformò in uomo” (pp.3).

[1] Fabio Giovannini, Marco Minicangeli, Storia del romanzo di fantascienza, Castelvecchi, Roma, 1998, pp.197.

EDIZIONE ESAMINATA E BREVI NOTE

Stanislaw Lem, (Leopoli 1921 — Cracovia 2006) scrittore polacco. Ha coniugato il genere della fantascienza con il romanzo filosofico. Uno dei suoi romanzi più celebri è “Solaris”. Tra le altre opere dello scrittore, ricordiamo “Cyberiade” (1965), “Il congresso di futurologia” (1967), “Memorie di un viaggiatore spaziale” (1971) e la raccolta di racconti “Fiabe per robot” (1968)

Stanislaw Lem, “Golem XIV”, Il Sirente (collana “Fuori”), Fagnano Alto 2018, pp. XIV-170. Traduzione di Lorenzo Pompeo.

Categorie
9788887847680 Fuori

Not (Stanisław Lem, 30 marzo 2018)

GOLEM XIV di Stanisław Lem

Not (Stanisław Lem, 30 marzo 2018)

La profezia del GOLEM

Un racconto di Stanislaw Lem, direttamente dal 2027

Pubblichiamo un estratto dal romanzo Golem XIV di Stanislaw Lem, da poco pubblicato in italiano da Il Sirente, ringraziando l’editore per la disponibilità.

Individuare quello storico momento in cui l’abaco raggiunse l’Intelligenza è altrettanto difficile quanto stabilire il momento in cui la scimmia si trasformò in uomo. E tuttavia è trascorso appena il tempo di una vita umana dal momento in cui, con la costruzione dell’analizzatore di equazioni differenziali Vannevar Bush, è cominciato il turbolento sviluppo dell’elettronica. L’ENIAC, costruito successivamente, alla fine della Seconda Guerra Mondiale, fu l’apparecchio dal quale derivò – anche se prematuramente – il nome di «cervello elettronico». In realtà l’ENIAC era un computer e, se misurato con un albero genealogico della vita, un primitivo ganglio nervoso. Gli storici tuttavia lo considerano l’inizio dell’epoca storica della computerizzazione. Negli anni Cinquanta del XX secolo si produsse una considerevole domanda di macchine digitali. L’IBM fu una delle prime aziende che ne fornirono una produzione di massa.

Tali apparecchiature avevano poco in comune con i processi del pensiero. Funzionavano anche come elaboratori di dati, sia nel settore dell’economia che dei grandi interessi, dell’amministrazione e della scienza. Sono entrati anche in politica: già a partire dai primi esemplari vennero utilizzati per prevedere il risultato delle elezioni presidenziali. Più o meno nello stesso momento la RAND Corporation aveva cominciato ad attirare l’attenzione dei militari al Pentagono con il metodo di previsione di eventi sullo scacchiere politico-militare internazionale, che consisteva nella formulazione dei cosiddetti «scenari imprevisti». Si era già vicini alle tecniche più affidabili, come CIMA, dalla quale due decadi dopo sarebbe nata l’algebra applicata dei fatti, chiamata (forse un po’ infelicemente) «politicomatica». Il computer stava rivelando la sua potenza nel ruolo di Cassandra, quando per la prima volta al Massachusetts Institute of Technology cominciarono a creare ufficialmente modelli di civilizzazione terrestre all’interno del celeberrimo movimento-progetto «Limits to Growth». Ma non fu questo il ramo dell’evoluzione dei computer che risultò essere il più importante verso la fine del secolo. L’esercito usa macchine digitali dalla fine della Seconda Guerra Mondiale in conformità col sistema di logistica operativa sviluppato nei teatri di quella guerra. Gli uomini si occupavano delle decisioni di carattere strategico, ma i problemi secondari e subordinati venivano affidati in misura crescente ai computer. Nello stesso tempo questi venivano incorporati nel sistema di difesa degli Stati Uniti.

Costituirono i gangli nervosi della rete continentale di avvertimento. Dal punto di vista tecnico questo tipo di reti invecchiò molto presto. Dopo la prima, chiamata CONELRAD, vi furono molte varianti della rete EWAS – «Early warning system». Il potenziale di attacco e di difesa si basava allora sul sistema balistico mobile (sottomarino) e immobile (sotterraneo) con missili dotati di testate termonucleari, così come sulla rete di basi radar e sonar, e le macchine computatrici avevano la funzione di anello della comunicazione – quindi puramente esecutivo.

L’automazione su larga scala entrò nella vita dell’America, cominciando dal «basso», da quei servizi che era più facile meccanizzare, poiché non richiedono attività intellettuali (banche, trasporti, hotel). I computer militari eseguivano limitate attività specialistiche, cercando gli obiettivi di un attacco nucleare combinato, analizzando i risultati delle osservazioni satellitari, ottimizzando gli spostamenti della flotta e coordinando i movimenti del MOL («Military Orbital Laboratory» – satellite militare pesante).

Ma come ci si poteva aspettare, la misura delle decisioni affidate ai sistemi automatici cominciò a crescere. Ciò era naturale in piena corsa agli armamenti, ma nemmeno la successiva distensione fu in grado di porre un freno agli investimenti in questo campo, poiché il congelamento della corsa alla bomba a idrogeno liberò considerevoli risorse dal bilancio del Pentagono alle quali, dopo la fine della guerra in Vietnam, questo non voleva in nessun modo rinunciare. Ed ecco che allora i computer prodotti, di decima, undicesima e finalmente dodicesima generazione, superavano l’uomo solo nella velocità operativa. Di conseguenza risultò chiaro che nei sistemi di difesa l’elemento che ritardava la risposta più appropriata era proprio l’uomo.

Dunque può essere considerata naturale l’idea – sorta negli ambienti degli specialisti del Pentagono, particolarmente tra gli scienziati che erano legati con il cosiddetto complesso militare-industriale – di contrapporsi al descritto trend dell’evoluzione elettronica. Questo movimento venne chiamato comunemente «antintellettuale». Come hanno detto gli storici della scienza e della tecnica, provenne dal matematico inglese della metà del secolo A. Turing, il padre della teoria de «l’automa universale». Si trattava di una macchina in grado di eseguire in generale qualsiasi operazione che potesse essere formalizzata, ovvero che fosse dotata del carattere di procedura esattamente ripetibile.

La differenza tra l’indirizzo intellettuale e antintellettuale nell’intellettronica si limitava al fatto che la macchina di Turing, elementarmente semplice, deve le sue capacità a un programma operativo. Tuttavia nei lavori di due padri americani della cibernetica, N. Wiener e J. Neumann, comparve la concezione di un sistema che può programmarsi da solo.

Ovviamente stiamo presentando questa divergenza con una enorme semplificazione – a volo di uccello. E si intende che la capacità di autoprogrammarsi non sorge dal nulla. Premessa indispensabile era un’alta complessità della struttura del computer. Questa distinzione, a metà del secolo ancora impercettibile, acquistò una influenza sulla successiva evoluzione delle macchine matematiche, specialmente quando si rafforzarono, rendendosi autonomi, rami della cibernetica quali la psiconica e la teoria della decisione a più fasi. Negli anni Ottanta nacque nei circoli militari l’idea di rendere completamente automatiche tutte le attività più importanti, relative alla sfera sia del comando militare che a quella politico-economica. Questa idea, chiamata successivamente «idea di uno stratega unico», venne per la prima volta formulata dal generale Stewart Eagleton. Egli previde – al di là della ricerca computerizzata di bersagli ottimali per l’attacco, al di là della rete di comunicazione e calcolo che controlla l’allarme e la difesa, al di là dei sensori e dei missili – un potente centro che nel corso di tutte le fasi precedenti alla estrema necessità bellica sarebbe stato in grado, grazie a una analisi approfondita dei dati economici, militari e politici, compresi quelli sociali, di ottimizzare continuamente la situazione globale degli Stati Uniti e nello stesso tempo garantire una supremazia su scala planetaria e oltre, comprendendo anche i dintorni cosmici oltre la Luna.

I successivi alfieri di questa dottrina sostennero che si trattasse di un passo necessario nella direzione del progresso civilizzatore e che questo progresso costituisce una unità – di conseguenza non è possibile escludere da esso il settore militare. Dopo la frenata all’escalation della macroscopica forza nucleare e del raggio d’azione dei missili, viene la terza tappa della competizione, in qualche modo meno pericolosa, più raffinata, perché non doveva essere un antagonismo di forze macroscopiche, ma di pensiero operativo. E analogamente a quanto era successo con la forza, il pensiero aveva dovuto cedere il passo alla disumanizzata meccanizzazione.

Questa dottrina, come del resto le precedenti atomico-balistiche, fu l’obiettivo delle critiche provenienti soprattutto dai circoli liberali o pacifisti, e venne combattuta da molti celebri rappresentanti del mondo della scienza – tra loro anche specialisti della psicomatica o intellettronica –, ma finì per trionfare, come appare nelle deliberazioni di entrambi i corpi legislativi degli Stati Uniti. Del resto, già nell’anno 1986 fu fondato l’USIB («United States Intellectronical Board»), organo sottoposto al Presidente, dotato di un proprio budget, che il primo anno raggiunse la quota di diciannove miliardi di dollari. Ed era appena il suo modesto avvio.

L’USIB, con l’ausilio di un corpo di assistenza delegato semi-ufficialmente dal Pentagono, diretto dal Segretario della difesa Leonard Devenport, affidò a una serie di grandi aziende private, come l’International Business Machines, la Nortronics o la Cybermatics, la costruzione di un prototipo di apparecchio chiamato con il nome in codice HANN (abbreviazione di Hannibal). Ma per colpa della stampa o per diverse fughe di notizie si diffuse un nome diverso: ULVIC (Ultimative Victor). Fino alla fine del secolo ne furono realizzati diversi prototipi. Tra i più famosi si possono enumerare i sistemi AJAX, ULTOR GILGAMESH e la lunga serie dei GOLEM.

Grazie alla enorme e sfrenata moltiplicazione di mezzi e di lavori, le tradizionali tecniche informatiche vennero rivoluzionate. Un ruolo particolarmente importante lo ebbe, nella trasmissione delle informazioni tra macchinari, il passaggio dall’elettricità alla luce. Unito alla progressiva «nanizzazione» (cioè i passi ulteriori della microminiaturizzazione – e vale la pena aggiungere che ventimila elementi logici alla fine del secolo potevano essere contenuti nel seme di un papavero!) diede risultati stupefacenti. Il primo computer completamente ottico, GILGAMESH, lavorava a una velocità un milione di volte superiore rispetto all’arcaico ENIAC.

La differenza tra le vecchie e le nuove macchine in realtà era paragonabile a quella che passa tra un insetto e un uomo.

L’abbattimento della barriera dell’intelligenza – come viene definita – avvenne dopo l’anno Duemila grazie a un nuovo metodo di costruzione delle macchine, chiamato anche «l’evoluzione invisibile dell’Intelligenza». Da allora ogni successiva generazione di computer venne costruita in forma reale; l’idea di produrre variazioni tramite una enorme accelerazione del processo anche di mille volte, seppur nota, non si riusciva a mettere in pratica poiché i computer esistenti, che dovevano fungere da matrice o da ambiente sintetico di questa evoluzione dell’intelligenza, non disponevano della potenza sufficiente. Solo la creazione della Rete Federale di Informazione permise la realizzazione di questa idea. Lo sviluppo di sessantacinque successive generazioni durò appena una decade; la Federazione, durante la notte, quando il livello di carica era minimo, diede alla luce un genere di Intelligenza artificiale dopo l’altro; era una generazione «accelerata nella computergenesi», poiché crebbe facendosi il nido nei simboli, dunque nelle strutture immateriali, nel substrato informazionale, ovvero l’ambiente nutritivo della Rete.

Ma dopo questo successo sorsero nuove difficoltà: AJAX e HANN, i prototipi della settantottesima e settantanovesima generazione, ritenute degne di essere rivestite di metallo, cominciarono a manifestare segni di indecisione, fenomeno noto come «nevrosi delle macchine». La differenza tra le vecchie e le nuove macchine in realtà era paragonabile a quella che passa tra un insetto e un uomo. L’insetto viene al mondo programmato dall’inizio alla fine dall’istinto al quale si sottomette in modo irriflessivo. L’uomo invece deve imparare i comportamenti più adatti, tuttavia questo apprendimento possiede un effetto emancipatore: con la determinazione e l’ingegno l’uomo può cambiare i precedenti programmi d’azione.

Dunque i computer, fino alla ventesima generazione compresa, erano caratterizzati da un comportamento da insetti: erano incapaci di mettere in discussione né tantomeno trasformare i propri programmi. Il programmatore impregnava la propria macchina con la conoscenza come l’Evoluzione impregna l’insetto con l’istinto. Ancora nel XX secolo si parlava molto della «autoprogrammazione», anche se allora erano solo sogni irrealizzabili. La condizione per il raggiungimento della «Vittoria definitiva» era proprio la creazione di una intelligenza che si autoperfeziona; AJAX era ancora una forma intermedia; solo GILGAMESH raggiunse il livello intellettuale adeguato – «entrò nell’orbita della psicoevoluzione».

L’educazione del computer di ottantesima generazione assomigliava di fatto più all’educazione di un bambino che al classico programma di una macchina digitale. Infatti, al di là della enorme massa delle notizie generali e specialistiche, bisognava «iniettare» al computer alcuni rigidi valori che sarebbero diventati la bussola del suo comportamento. Erano astrazioni di più alto livello, come la «ragione di stato» (l’interesse nazionale), come i principi ideologici contenuti nella costituzione degli Stati Uniti, come il codice di comportamento, come la sottomissione assoluta alle decisioni del Presidente ecc. ecc. Per salvaguardare il sistema da «distorsioni etiche» e dal «tradimento degli interessi del paese» non è stata insegnata l’etica alla macchina così come si insegna il suo principio all’uomo. Non è stato caricato un codice etico della sua memoria, ma tutti i comandi di obbedienza e di sottomissione sono stati inseriti nella struttura della macchina così come fa l’Evoluzione naturale nel corso della vita sessuale. Come è noto, l’uomo può cambiare le sue opinioni – ma non può distruggere gli impulsi elementari (ad esempio gli impulsi sessuali) con un semplice atto di volontà. Le macchine vennero dotate di libertà intellettuale ma vincolata ai fondamenti dei valori precedentemente impostati ai quali dovevano obbedire.

Al XXI Congresso Panamericano di Psiconica il professor Eldon Patch presentò un lavoro nel quale affermò che il computer, anche se impregnato nel modo già descritto, può oltrepassare la cosiddetta soglia assiologica e si dimostra a quel punto in grado di mettere in discussione qualsiasi principio che gli sia stato instillato – in altre parole per un tale computer non ci sono più valori intoccabili. Se non è in grado di opporsi a un imperativo in modo diretto, può farlo aggirandolo. Quando venne divulgato, il lavoro di Patch suscitò un fermento negli ambienti universitari e una nuova ondata di attacchi alla ULVIC e al suo patrono, l’USIB, ma questi movimenti non influirono in alcun modo sulla politica dell’USIB.

Lo dirigevano persone ostili agli ambienti della psiconica americana, ritenuta essere permeabile alle influenze liberali di sinistra. Dunque le tesi di Patch vennero disprezzate nelle dichiarazioni ufficiali dell’USIB e persino del portavoce della Casa Bianca e non mancarono campagne diffamatorie nei confronti dello stesso Patch. Le affermazioni di Patch vennero equiparate alle paure irrazionali e a quei pregiudizi che circolavano nella società in quel periodo. La brochure di Patch non ottenne la stessa popolarità del libro best-seller del sociologo E. Lickey («Cybernetics – Death Chamber of civilization»); questo autore sosteneva che «lo stratega perentorio» avrebbe sottomesso l’intera umanità da solo o attraverso un segreto accordo con un analogo computer russo. Il risultato sarebbe stato un «duunvirato elettronico».

Simili timori, espressi da ampi settori della stampa, vennero dissipati dalla messa in funzione dei successivi prototipi che passarono il test di efficienza. Per testare la dinamica etologica, su ordine del governo venne appositamente costruito il computer ETHOR BIS, dalla morale inappuntabile, prodotto nel duemiladiciannove presso l’Istituto di Dinamica Psiconica nell’Illinois; dopo la messa in funzione, dimostrò una piena stabilizzazione assiologica e l’insensibilità ai «test del deragliamento sovversivo». Quindi non suscitò più proteste massive o manifestazioni la nomina nell’anno seguente alla carica di Alto commissario del trust dei cervelli presso la Casa Bianca del primo computer della lunga serie dei GOLEM (GENERAL OPERATOR, LONGRANGE, ETHICALLY STABILIZED, MULTIMODELLING).

Era appena il GOLEM I. Indipendentemente da quella grande innovazione, l’USIB, in collaborazione col gruppo operativo di psiconici del Pentagono, continuò a erogare fondi significativi per la ricerca finalizzata alla costruzione del sommo stratega, con una capacità informazionale millenovecento volte superiore a quella di un uomo e capace di sviluppare la sua intelligenza (IQ) a un valore compreso tra quattrocentocinquanta e cinquecento centili. Malgrado l’opposizione della maggioranza democratica in seno al Congresso, il progetto ottenne le cospicue dotazioni necessarie. Le manovre dei politici dietro le quinte diedero finalmente luce verde a tutti gli ordini richiesti dall’USIB. Nel corso di tre anni il progetto costò centodiciannove miliardi di dollari. Nello stesso tempo anche l’Esercito e la Marina, preparandosi alla completa riorganizzazione dei servizi centrali, necessaria di fronte all’imminente cambiamento nei metodi e nello stile del comando, spesero in quello stesso periodo quarantasei miliardi di dollari. La parte del leone in quella quota la faceva la spesa per la costruzione dell’area sotto il massiccio cristallino delle Montagne Rocciose per ospitare il futuro stratega meccanico, per cui alcune sezioni di roccia vennero ricoperte da una corazza di quattro metri seguendo il naturale rilievo roccioso.

Nel frattempo, nel 2020, GOLEM VI, in qualità di comandante supremo, conduceva le manovre globali del Patto Atlantico. In quanto a numero di elementi logici, era già allora in grado di superare l’intelligenza media di un generale.

Anche se GOLEM VI sconfisse la parte che simulava il suo nemico, guidata da un quartier generale composto dai migliori allievi dell’Accademia di West Point, i risultati dei giochi militari del 2020 non soddisfecero il Pentagono. Si ricordavano ancora bene l’amara esperienza della supremazia dei Rossi nella cosmonautica e nella balistica missilistica e non avevano alcuna intenzione di dargli il tempo di costruire uno stratega più efficace di quello americano. Il piano che avrebbe dovuto assicurare agli Stati Uniti una stabile supremazia del pensiero strategico prevedeva la costante sostituzione degli strateghi costruiti con modelli sempre più perfetti.

Così cominciò il terzo confronto dell’Occidente con l’Oriente dopo i due storici: quello nucleare e quello dei missili. Questa competizione o rivalità nella sintesi dell’intelligenza, poiché era organizzata con decisioni operative dell’USIB, del Pentagono e degli esperti della ULVIC della Marina (esisteva effettivamente il gruppo NAVY’S ULVIC – perché questa volta era entrato in gioco il vecchio antagonismo tra la Marina e le armi di terra), richiedeva un continuo aumento degli investimenti che, tra la costante opposizione del Congresso e del Senato, negli anni successivi furono pari a ulteriori decine di miliardi di dollari. Vennero costruiti in questi anni altri sei luminari del pensiero elettronico. Il fatto che non giungesse alcuna notizia circa lo sviluppo di opere analoghe dall’altra parte dell’oceano non faceva che rafforzare presso la CIA e il Pentagono la convinzione che i Russi stessero facendo ogni sforzo per costruire computer sempre più potenti sotto la cortina della più assoluta segretezza.

Gli scienziati dell’URSS dichiararono più volte in convegni internazionali e conferenze che nel loro paese tali apparecchiature non venivano costruite; tali dichiarazioni venivano considerate al pari di una cortina fumogena che avrebbe dovuto trarre in inganno l’opinione pubblica mondiale e suscitare un fermento tra i cittadini statunitensi, che ogni anno finanziavano ULVIC con miliardi e miliardi di dollari.

Nel 2023 vi furono alcuni incidenti che, per via della segretezza dei lavori, propria del progetto, non furono resi immediatamente pubblici. Il GOLEM XII, che all’epoca della crisi in Patagonia svolgeva il ruolo di Capo dello Stato Maggiore, si rifiutò di collaborare con il generale T. Oliver, dopo aver svolto un test di routine sul quoziente di intelligenza di questo benemerito graduato. Ciò richiese una indagine, durante la quale GOLEM XII offese profondamente tre membri della commissione speciale delegata dal Senato. L’affare venne messo a tacere con successo e GOLEM XII, non senza alcune successive resistenze, la pagò col suo totale smantellamento. Il suo posto fu occupato dal GOLEM XIV (il tredicesimo venne scartato nel cantiere, poiché ancora prima di essere messo in funzione mostrò un irreparabile difetto di natura schizofrenica). La messa in opera di questo Moloch la cui massa psichica eguagliava quella di una corazzata durò non meno di due anni. Fin dai primissimi approcci con la normale procedura di formulazione di nuovi piani annuali di attacco nucleare, questo nuovo prototipo – l’ultimo della serie – mostrò segni di un incomprensibile negativismo. Dopo l’ennesima sessione di prova nelle riunioni dello Stato maggiore illustrò davanti a un gruppo di esperti psiconici e militari un sintetico exposé nel quale dichiarò il proprio completo «désintéressement» nei confronti della dottrina della supremazia militare del Pentagono in particolare e più in generale per la posizione mondiale degli Stati Uniti, e nemmeno sotto la minaccia di venire smantellato cambiò la sua posizione.

L’USIB pose le sue ultime speranze nella costruzione di un modello del tutto nuovo, realizzato in collaborazione con Norttronics, l’IBM e la Cybertronics; questo avrebbe dovuto battere con il suo potenziale psichico tutte le macchine della serie GOLEM. Conosciuto sotto lo pseudonimo di ANNA LA CANDIDA (HONEST ANNIE, l’ultima parola era l’abbreviazione della parola ANNIHILATOR), quel gigante già dai primi test fu una delusione.

Nel corso di nove mesi gli furono impartite le nozioni etico-informative e successivamente si isolò dal mondo esterno e smise di rispondere a qualsiasi tipo di stimolo o domanda. Fu subito disposta l’apertura di una indagine da parte dell’FBI, i costruttori vennero sospettati di sabotaggio, ma proprio in quel momento il segreto, così attentamente custodito, a causa di una imprevista fuga di notizie giunse alla stampa ed esplose così lo scandalo, da quel momento noto in tutto il mondo come «lo scandalo del GOLEM e degli altri». La carriera di molti promettenti politici venne troncata e le tre successive amministrazioni vennero messe alle corde, con grande gioia delle opposizioni negli Stati Uniti e soddisfazione degli amici degli USA in tutto il mondo.

Uno sconosciuto del Pentagono diede ai reparti speciali l’ordine di smontare il GOLEM XIV e ANNA LA CANDIDA, ma la vigilanza armata del complesso del quartier generale non ne permise la demolizione. Entrambe le camere istituirono commissioni per indagare sull’intera attività dell’USIB. Com’è noto, le indagini, che sono durate due anni, furono date in pasto alla stampa di tutti i continenti. Nulla godette di maggior popolarità in televisione e al cinema del «computer ribelle», mentre la stampa aveva ribattezzato il GOLEM «Government’s Lamentable Expense of Money»; in merito agli epiteti rivolti ad ANNA LA CANDIDA, non possono nemmeno essere riportati in questa sede.

Il Procuratore Generale aveva intenzione di mettere sotto accusa sei membri del Consiglio Generale dell’USIB così come i costruttori-psiconici del progetto ULVIC, ma nel corso dell’istruttoria emerse che non esistevano evidenze di attività ostile antiamericana, e i fatti occorsi erano piuttosto un risultato inevitabile dell’evoluzione dell’Intelligenza artificiale. Ma, come si espresse un testimone, il prof. A. Hyssen, la massima intelligenza non può essere la più insignificante schiava. Nel corso dell’indagine emerse che nei cantieri c’era anche un altro prototipo – questa volta dell’Esercito – costruito dalla Cybermatics: SUPERMASTER, il cui montaggio era stato portato a termine sotto strettissima sorveglianza e che, successivamente, venne sottoposto a un interrogatorio in una sessione speciale di entrambe (del Senato e del Congresso) le commissioni di inchiesta sull’affare ULVIC. Vi furono in quella occasione scene scioccanti, poiché il generale S. Walker provò ad aggredire SUPERMASTER quando questo dichiarò che la problematica geopolitica è niente in confronto a quella ontologica e che la migliore garanzia della pace è un disarmo universale.

Secondo il professore J. MacCaleb, gli specialisti della ULVIC avevano fatto il loro lavoro troppo bene: l’intelligenza artificiale aveva superato il livello di sviluppo corrispondente alle questioni militari e quelle apparecchiature, da strateghi militari si erano trasformate in pensatori. In poche parole, al costo di sei miliardi di dollari gli Stati Uniti avevano costruito un gruppo di filosofi elettronici.

I fatti descritti in forma concisa (abbiamo omesso sia gli aspetti amministrativi dell’ULVIC sia i movimenti sociali suscitati dal suo «successo fatale») costituiscono la preistoria del presente libro. L’enorme letteratura su questo argomento non può nemmeno essere elencata. Rimando il lettore interessato alla bibliografia del dottor Whitman Baghoorn.

La serie di prototipi, tra cui il SUPERMASTER, venne smantellata o soffrì seri danni, tra l’altro sullo sfondo di conflitti finanziari tra le società esecutrici e il Governo Federale. Vi furono anche attentati dinamitardi contro alcune unità; fu allora che una parte della stampa, specialmente quella del sud, lanciò lo slogan «Ogni computer è rosso». Ma ometterò anche questi fatti. Grazie all’intervento di membri più illuminati del Congresso si riuscì a salvare dalla distruzione il GOLEM XIV e ANNA LA CANDIDA. Di fronte al fallimento delle proprie idee, il Pentagono finalmente accettò la consegna di entrambi i mostri al Massachusetts Institute of Technology (ma senza avere in precedenza messo a punto la base finanziaria e giuridica di questo trasferimento sotto forma di compromesso: formalmente, GOLEM XIV e ANNA LA CANDIDA erano semplicemente dati in prestito al MIT, ma a tempo indeterminato). Gli studiosi del MIT crearono un gruppo di ricerca del quale fece parte anche il sottoscritto, condussero con il GOLEM XIV una serie di sessioni e ascoltarono le sue conferenze su temi prescelti. Una piccola parte delle registrazioni magnetiche di quelle sessioni costituisce la base di questo libro.

La maggioranza delle affermazioni del GOLEM non sono adatte a una pubblicazione non specialistica, da una parte per il loro carattere incomprensibile per la totalità degli esseri viventi, e dall’altra perché la sua comprensione presuppone un alto livello di conoscenze specifiche. Per facilitare la comprensione del protocollo – unico nel suo genere – delle conversazioni degli umani con un essere intelligente, ma non umano, è necessario chiarire alcune questioni basilari.

Al ventiduenne dottore Vroedlow, il quale si stava addottorando, dopo un breve scambio di battute predisse: «diventerai un computer», cosa che più o meno dovrebbe significare: «un giorno sarai qualcuno»

Primo: occorre sottolineare che GOLEM XIV non è un cervello umano ingrandito fino alle dimensioni di un edificio o un uomo costruito con elementi elettronici. Gli sono estranee quasi tutte le motivazioni del pensiero e dell’azione umani. Ad esempio, non è interessato alle scienze applicate o alle problematiche del potere (grazie a ciò, possiamo aggiungere, l’umanità non è minacciata da machine simili al GOLEM).

Secondo: il GOLEM, conseguentemente a quanto detto, non possiede personalità né carattere. Anche se può procurarsene una a suo piacimento attraverso il contatto con gli uomini. Entrambi le precedenti affermazioni non si contraddicono tra loro, ma creano un circolo vizioso: non siamo in grado di risolvere il dilemma se colui che crea diverse personalità ne possiede una. Come dire: può essere qualcuno (ovvero una singola entità) colui che riesce a essere chiunque (cioè uno qualsiasi)? (secondo lo stesso GOLEM quello che si produce non è un circolo vizioso, bensì «la relativizzazione della nozione di personalità»; è il problema legato al cosiddetto algoritmo dell’autodescrizione, il quale getta gli psicologi in una profonda confusione).

Terzo: il comportamento del GOLEM è imprevedibile. A volte sembra che conversi amabilmente con le persone, a volte ogni tentativo di stabilire un contatto risulta vano. Ci sono momenti in cui il GOLEM scherza, ma il suo humour è fondamentalmente diverso da quello umano. Molto dipende dagli stessi interlocutori, eccezionalmente e in rare occasioni il GOLEM dimostra interesse nei confronti delle persone dotate di un determinato talento. Non è attratto dai talenti matematici, quanto piuttosto da una forma di talento «interdisciplinare». È successo parecchie volte che a un giovane scienziato allora del tutto sconosciuto abbia predetto – con sorprendente esattezza – il successo nel campo da lui indicato. (Al ventiduenne dottore Vroedlow, il quale si stava addottorando, dopo un breve scambio di battute predisse: «diventerai un computer», cosa che più o meno dovrebbe significare: «un giorno sarai qualcuno»).

Quarto: prendere parte alle conversazioni con il GOLEM richiede pazienza e soprattutto un grande autocontrollo poiché a volte, dal nostro punto di vista, risulta arrogante e apodittico; in realtà è solo uno schietto spietato dal momento che – nella logica, e non solo in senso sociale – non tiene in nessun conto l’amor proprio dell’interlocutore. E per questo è inutile contare sulla sua indulgenza. Nei primi mesi di soggiorno al MIT mostrò una inclinazione alla «decostruzione pubblica» di diverse autorità di fama; lo faceva con il metodo socratico, attraverso domande induttive – una pratica che più tardi avrebbe abbandonato per ragioni ignote.

Presentiamo qui i frammenti degli stenogrammi delle conversazioni. La loro pubblicazione completa occuperebbe circa seimilasettecento pagine in formato A4. Ai primi incontri con il GOLEM presero parte solo un ristretto gruppo di dipendenti del MIT. Ai successivi venne introdotto l’uso di invitare ospiti esterni, ad esempio dall’Institute for Advanced Study e dalle università americane. In seguito presero parte ai seminari anche ospiti dall’Europa. Il moderatore della sessione programmata sottopone al GOLEM l’elenco degli ospiti; il GOLEM non li accetta tutti allo stesso modo, permettendo ad alcuni ospiti di essere presenti a condizione che mantengano uno stretto silenzio. Abbiamo tentato di scoprire i criteri seguiti: inizialmente sembrava discriminare gli umanisti, ma adesso semplicemente non li conosciamo, dal momento che si è rifiutato persino di nominarli.

Dopo alcuni sgradevoli incidenti occorsi in varie sessioni, venne modificato l’ordine del giorno in modo tale che adesso ogni nuovo partecipante presentato al GOLEM prende la parola durante la prima sessione solo se il GOLEM si rivolge a lui direttamente. Le sciocche voci che circolano relative a una specie di «etichetta di corte», ossia a un nostro «atteggiamento sottomesso» nei confronti della macchina, sono prive di fondamento. Si tratta unicamente di permettere a chi è appena arrivato di familiarizzare con il procedimento adottato e, allo stesso tempo, di evitare che si esponga a una esperienza sgradevole causata dal suo disorientamento rispetto alle intenzioni del suo compagno «elettronico». Questa partecipazione preliminare viene definita «ambientamento».

Ognuno di noi nel corso delle successive sessioni aveva accumulato un certo capitale di esperienze. Il dott. Richard Popp, uno dei primi membri del gruppo, definisce il senso dell’umore del GOLEM matematico e, relativamente al suo comportamento, di nuovo un’altra chiave è offerta dall’osservazione di Popp che il GOLEM è indipendente dai suoi interlocutori nella misura in cui nessun uomo è indipendente dagli altri uomini: per questo si impegna in una discussione solo in misura microscopica. Il dott. Popp ritiene che il GOLEM non abbia interesse nelle persone dal momento che sa che non può imparare nulla di essenziale da esse. Citando questo giudizio di Popp, devo subito precisare che non sono d’accordo. A mio parere, noi interessiamo al GOLEM e interessiamo anche tanto; in maniera differente da quanto accade tra gli uomini.

L’interesse è rivolto ai generi piuttosto che ai singoli esponenti: le cose che ci rendono simili lo interessano di più rispetto a ciò che in un certo momento ci differenzia. Sicuramente per questo motivo non ha alcun interesse nei confronti della letteratura. Egli stesso una volta ha detto a proposito che la letteratura sarebbe uno «sminuzzamento della antinomia» – ovvero, aggiungo a parole mie – il dilemma di un uomo intrappolato tra direttive che non sono eseguibili nello stesso momento. Rispetto a queste antinomie, il GOLEM può essere interessato alle strutture, ma non al pittoresco tormento che tanto affascina i grandi scrittori. A dire il vero, qui dobbiamo segnalare che tale affermazione non è certa, e come tale è rimasta parte delle osservazioni del GOLEM in relazione alla (menzionata dal dott. MacNeish) opera di Dostoevskij, in merito alla quale il GOLEM affermò allora che si sarebbe potuta ridurre a due anelli di algebra di strutture in conflitto.

Il reciproco contatto degli uomini è sempre accompagnato da una determinata aurea emotiva, e non è tanto la sua totale mancanza, quanto la sua frustrazione a turbare tante persone che sono entrate in contatto con il GOLEM. Le persone che sono da anni in contatto con lui sono in grado di definire alcune impressioni personali che accompagnano i colloqui. Come, ad esempio, la sensazione dei cambi di distanza: il GOLEM sembra a volte avvicinarsi al suo interlocutore, a volte allontanarsene – in senso psichico, non fisico: il risultato è paragonabile ai contatti di un adulto con un bambino che lo tormenta. Anche il più paziente a volte risponde in modo meccanico. Il GOLEM ci è ampiamente superiore non solo nel livello intellettuale, ma anche nella velocità mentale (come macchina elettronica è in grado di articolare i pensieri fino a quattromila volte più velocemente di uomo).

E dunque il GOLEM ci è superiore anche quando replica meccanicamente e con un impegno minimo. Per esprimersi con una metafora, è come se davanti a noi invece dell’Himalaya ci fossero «solo» le Alpi. Ma avvertiamo questo cambiamento in modo puramente intuitivo e lo interpretiamo precisamente come un «cambiamento della distanza». (Questa ipotesi proviene dal prof. Riley J. Watson).

Per un certo tempo abbiamo continuato a tentare di spiegare il rapporto tra il GOLEM e gli uomini ricorrendo alla categoria delle relazioni tra bambino e adulto. Può accadere che proviamo a spiegare al bambino un problema che ci preoccupa, ma non ci abbandona la sensazione di un «pessimo contatto». Un uomo condannato a vivere solo con i bambini finirà per provare una profonda solitudine. Simili analogie, formulate soprattutto da psicologi, alludono alla situazione del GOLEM tra di noi. Anche se questa analogia, come qualsiasi altra, ha i suoi limiti. Un bambino è solito essere incomprensibile per un adulto, il GOLEM invece ignora un simile problema. Quando vuole, è in grado di penetrare nel suo interlocutore in modo incredibile. La sperimentata sensazione di trovarsi a essere «radiografato» all’istante nel pensiero in sua presenza è realmente paralizzante. Effettivamente, il GOLEM può mettere a punto un «sistema di tracciamento» – un modello della mentalità del suo partner umano – e grazie ad esso è in grado di anticipare quello che la persona pensa e quello che la persona dirà un buon istante dopo. A dire il vero, raramente si comporta così (non so, forse solo perché sa come sia frustrante per noi questo sondaggio pseudo-telepatico). Ma c’è un altro genere di discrezione del GOLEM che ci offende ancora di più: da tempo comunicando con gli uomini si comporta, diversamente da come faceva all’inizio, con una caratteristica prudenza – come un elefante ammaestrato deve stare attento a non fare danno all’uomo, allo stesso modo lui deve prestare attenzione a non superare le possibilità della nostra capacità di comprensione. Le interruzioni del contatto causate da improvvisi picchi di difficoltà delle sue affermazioni, che abbiamo chiamato: «latitanze» o «fughe, erano all’ordine del giorno prima che si adattasse completamente a noi. Questo è il passato, anche se un certo grado di indifferenza è cominciato ad apparire nei contatti tra il GOLEM e noi, generato dalla consapevolezza che non sarebbe stato in grado di trasmetterci molte cose che sono per lui le più preziose. Quindi il GOLEM, come intelletto, rimane inafferrabile e non solo in quanto costruzione psiconica. Per questo motivo i contatti con il GOLEM sono allo stesso tempo eccitanti e massacranti e per questo esiste una categoria di uomini intelligenti che durante le sessioni con il GOLEM perdono il senno (sotto questo punto di vista abbiamo già raccolto molte esperienze).

Siamo così lontani dalla comprensione del GOLEM quanto lo eravamo nell’attimo in cui venne creato. Non è vero che lo abbiamo inventato noi. Lo hanno fatto le effettive leggi del mondo materiale.

L’unico essere che sembra eccitare il GOLEM è ANNA LA CANDIDA. Da quando furono sviluppate le possibilità tecniche, ha provato ripetutamente a mettersi in comunicazione con ANNA, a quanto pare non senza qualche risultato, ma non si giunse mai a uno scambio, tra queste due macchine straordinariamente differenti nella costruzione, di informazioni attraverso il canale linguistico (ovvero appartenente a una lingua naturale etnica). Da quanto si può giudicare sulla base delle laconiche osservazioni del GOLEM, rimase deluso dai risultati di queste prove ed ANNA rimase per lui un problema non risolto fino in fondo.

Alcuni tra i collaboratori del MIT, come del resto il professor Norman Escobar, dell’Institute for Advanced Study, ritengono che l’uomo, il GOLEM e ANNA rappresentino tre gradi crescenti di livello intellettuale; ciò è legato alla teoria (elaborata principalmente dal GOLEM) della esistenza di lingue alte (sovrumane), chiamate metalingue. Devo riconoscere che non ho un’opinione ben definita in merito.

Desidero chiudere questa introduzione intenzionalmente obiettiva, in via del tutto eccezionale, con una confessione di natura personale. Privo dei mezzi affettivi tipici dell’uomo, il GOLEM non è in grado di manifestare sentimenti spontaneamente. Lui può, per certo, imitare determinati stati emotivi, ma non per via di doti attoriali bensì, come lui stesso afferma, poiché la simulazione dei sentimenti facilita la formazione di enunciati che arrivano con una certa precisione al destinatario; per questo motivo si serve di questo meccanismo, ponendolo in un certo senso su un «livello antropocentrico», per realizzare e migliorare comunicazione con noi. Del resto non nasconde affatto questo stato di cose. Se il suo atteggiamento nei nostri confronti ricorda un po’ quello del maestro con il bambino, questo è il caso in cui non è prevista la figura dell’affettuoso tutore o educatore né tantomeno la traccia di sentimenti del tutto individualizzati o personali propri dell’ambito nel quale la benevolenza può trasformarsi in amicizia o amore.

Lui e noi in realtà abbiamo solo una cosa in comune, anche se sviluppata su livelli differenziati: è la curiosità, puramente intellettuale, chiara, fredda, avida, che niente può domare e tantomeno distruggere. Costituisce l’unico punto nel quale ci incontriamo con lui. Per ragioni così ovvie che non richiedono spiegazioni, il contatto con l’uomo, ristretto, ridotto a un solo punto, non può bastare. E tuttavia troppi sono gli istanti, che costituiscono i più luminosi della mia vita che devo al GOLEM, per non provare gratitudine e affezione personale – anche se so quanto sia l’una che l’altra cosa siano niente per lui. Una cosa interessante: il GOLEM evita di manifestare alcun segno di affezione – l’ho notato più di una volta. Sotto questo punto di vista sembra impotente.

Ma potrei anche sbagliarmi. Siamo così lontani dalla comprensione del GOLEM quanto lo eravamo nell’attimo in cui venne creato. Non è vero che lo abbiamo inventato noi. Lo hanno fatto le effettive leggi del mondo materiale; il nostro ruolo si è limitato al fatto che siamo stati in grado di imparare a imitarle.

Irving T. Creve, 2027

Categorie
9788887847680 Fuori

SoloLibri.net (Mario Bonanno, 11 febbraio 2018)

GOLEM XIV di Stanisław Lem

SoloLibri.net (Mario Bonanno, 11 febbraio 2018)

«GOLEM XIV» di Stanislaw Lem

Istruzioni per l’uso dei romanzi di Stanislaw Lem: possono risultare un’esperienza straniante. In special modo i neofiti credono di trovarsi alle prese con un libro di fantascienza secondo canone e invece devono vedersela con qualcosa di ibrido, infido, e ben più profondo. Un crossover letterario dove la scienza incrocia la metafisica che incrocia l’ontologia che incrocia la psicologia. L’esempio di “Solaris” è quello classico: un romanzo che sta alla sci-fi di taglio americano (dove spesso è l’implausibile a farla da padrone) come l’Odissea nello spazio kubrickiana alle Guerre Stellari di Lucas, tanto per dire. Leggere la narrativa del polacco Stanislaw Lem significa, in altre parole, prendere coscienza delle potenzialità alte del genere sci-fi; possibile chiave d’accesso per divagazioni prossime alla categoria del pensare, prima ancora che a quella del raccontare.

Prendete questo “GOLEM XIV” (Il Sirente, 2018), è la storia di un elaboratore iper-intelligente che, stufo dei fini bellici per cui è stato progettato, trova più stimolante discettare, fra l’altro, intorno a questioni prime riguardanti la limitatezza della comprensione umana, o l’origine della sua stessa natura. Il romanzo riprende due delle conferenze registrate dal super-computer sui temi di cui sopra, a beneficio esclusivo di una platea di scienziati che ha deciso di dargli retta, pur se con tutte le titubanze del caso. Su passo e taglio narrativo del romanzo, bene specifica Lorenzo Pompeo, traduttore e curatore di questa edizione:

Superato dunque lo scoglio di una prosa a tratti impegnativa, “GOLEM XIV” (a proposito: fatto caso all’onomastica evocante da un lato la mitologia ebraica e dall’altro la numerazione che accompagna di solito i nomi di re o papi?) risulta un romanzo impavido, ipnotico, sui generis. Un’ode all’oltre-uomo artificiale, che trascende la fantascienza per approdare nei territori della filosofia pura.

Categorie
9788887847680 Fuori

Fantascienza.com (Emanuele Manco, 27 settembre 2017)

GOLEM XIV di Stanisław Lem

Fantascienza.com (Emanuele Manco, 27 settembre 2017)

Con Golem XIV Stanisław Lem ritorna in libreria

Arriverà a novembre un inedito di Stanisław Lem che racconta l’evoluzione e la presa di coscienza di una Intelligenza Artificiale.

Arriverà a novembre Golem XIV, edito da Il Sirente, romanzo breve che riporta in libreria Stanisław Lem, uno dei pilastri della fantascienza mondiale, autore del celebre Solaris e de Il Congresso di futurologia.

Il volume è la ipotetica raccolta di due conferenze di un ciclo di discorsi filosofici tenuti una intelligenza artificiale, un prototipo militare della serie Golem, ideato per usi militari.

Scritto dal punto di vista dell’elaboratore, racconta della sua presa di coscienza e di come, incrementando la sua intelligenza, dia vita a una singolarità tecnologica.

Dal romanzo, inedito in Italia e tradotto direttamente dal polacco da Lorenzo Pompeo, è stato tratto un cortometraggio disponibile in rete.

Il libro

Questo volume riproduce due conferenze di un ciclo di discorsi filosofici tenuti dall’ultimo prototipo di elaboratore superintelligente della serie “Golem”. I testi della conferenza introduttiva sulla natura dell’uomo (“Sui tre aspetti dell’uomo”) e della conferenza XLIII dedicata all’intelligenza artificiale (“Su me stesso”) sono parabole sulla limitatezza della comprensione umana e sulla natura dell’intelligenza artificiale. L’edizione qui proposta, a venti anni dalla prima pubblicazione, riporta la prefazione originale del dottor Irving T. Creve ed è arricchita da un’introduzione del Generale Thomas B. Fuller II e da una postfazione a cura di Richard Popp.

L’autore

Stanisław Lem (Leopoli 1921 — Cracovia 2006) è stato autore prolifico e brillante che ha coniugato il genere della fantascienza con il romanzo filosofico. Uno dei suoi romanzi più celebri è Solaris. Nel 1972 il regista sovietico Andrej Arsen’evič Tarkovskij ne ha tratto l’omonimo film (da Lem non particolarmente amato), il cui grande successo lo ha reso popolare al di fuori della sua patria. I suoi libri, alla sua scomparsa nel 2006, erano stati tradotti in almeno quarantuno lingue e hanno venduto oltre ventisette milioni di copie, facendone uno degli scrittori europei più letti al mondo.