Traduzione di Ugo
Spezza e David De Biasi
Di
Nick Bostrom - Dipartimento di Filosofia, Università di Oxford
-
http://www.nickbostrom.com
SOMMARIO:
Questo documento
sostiene che almeno una delle seguenti proposizioni è vera:
-
La specie umana è
molto probabile che andrà estinta prima di raggiungere una fase
"postumana”;
-
Qualsiasi civiltà
postumana è estremamente improbabile che riesca a realizzare un
numero significativo di simulazioni della loro storia evolutiva
(o variazioni di essa).
-
Siamo quasi
certamente vivendo in una simulazione al computer. Ne consegue
che la convinzione che non vi è una significativa probabilità
che si possa un giorno diventare postumani e gestire tali
simulazioni è falso, a meno che stiamo vivendo ora in una
simulazione. Un certo numero di altre conseguenze di questo
risultato saranno discusse.
I. INTRODUZIONE
Molte opere di fantascienza, nonché alcune previsioni da tecnologi e
futurologi prevedono che enormi quantità di potenza di calcolo
saranno disponibili in futuro. Supponiamo per un momento che queste
previsioni sono esatte. Una cosa che le future generazioni potranno
fare con i loro potenti super computer sarà gestire dettagliate
simulazioni storiche della vita reale dei loro antenati. Questo
perché i loro computer sarebbero così potenti, che potrebbero
eseguire un gran numero di tali simulazioni. Supponiamo che queste
persone simulate siano consapevoli (come sarebbero se le simulazioni
sono state sufficientemente precise e se una certa posizione
abbastanza ampiamente accettata nella filosofia della mente
risultasse corretta). Allora potrebbe essere il caso, che la
stragrande maggioranza delle menti come la nostra, non appartengono
alla storia originale dell’umanità, ma piuttosto siamo persone
simulate da discendenti avanzati tecnologicamente che riproducono la
nostra attuale storia in un elaboratore.
E’ quindi possibile
affermare che, se questo fosse il caso, che sarebbe ragionevole
pensare che ci troviamo probabilmente tra le menti simulate,
piuttosto che essere gli originali biologici. Pertanto, se non
riteniamo che stiamo vivendo in una simulazione al computer, non
abbiamo il diritto di credere che avremo discendenti, che
eseguiranno tali simulazioni al computer della vita dei loro
antenati. Questa è l'idea di base. Il resto di questo documento è
prettamente speculativo.
A parte l'interesse questa tesi può
detenere per coloro che sono impegnati in speculazioni futuristiche,
ci sono anche spunti più puramente teorici. L'argomento fornisce uno
stimolo per la formulazione di alcune questioni metodologiche e
metafisiche, e suggerisce naturalmente alcune analogie con
tradizionali concezioni religiose, che alcuni potrebbero trovare
divertenti o volutamente provocatorie.
La struttura del
documento è la seguente. In primo luogo, si formulerà una assunzione
che abbiamo bisogno di importare dalla filosofia della mente, al
fine di ottenere l'argomento di partenza. In secondo luogo, noi
considereremo alcune ragioni empiriche per pensare che l'uso di
simulazioni capaci di riprodurre la funzionalità di molte menti
umane sarebbe entro la capacità di una civiltà del futuro che ha
sviluppato molte di queste tecnologie e che esse possono essere
compatibili con le leggi fisiche conosciute e dei vincoli di
ingegneria già noti. Questa parte non è filosoficamente necessaria,
ma fornisce un incentivo per prestare attenzione a tutto il resto.
Poi seguirà il nucleo del ragionamento, che farà uso di una semplice
teoria delle probabilità e di una sezione che fornisce il supporto
di un principio detto “di indifferenza debole” che la discussione
impiega. Infine, si parla di alcune interpretazioni della
separazione, di cui, in astratto, che costituisce la conclusione
dell’argomento della simulazione.
II.
L'assunzione della indipendenza dal substrato fisico
Una
assunzione comune nella filosofia della mente è quella della
“indipendenza del substrato”. L'idea è che gli stati mentali possano
esistere indipendentemente dal substrato fisico materiale. Un
sistema che implementi il giusto tipo di calcolo delle strutture e
dei processi, può essere associato a esperienze coscienti. Non deve
essere considerata una proprietà essenziale della coscienza il fatto
di dipendere da un organismo biologico in base carbonio con reti
neurali all'interno di un cranio: un nucleo basato su processori di
silicio all'interno di un computer potrebbe, in linea di principio,
replicare la stessa funzione.
Le argomentazioni relative a questa tesi sono gia acquisite in
letteratura, e anche se esse non sono del tutto prive di
controversie, noi qui le acquisiremo come un dato di fatto.
L'argomento non si presenta, comunque, con una forte dipendenza
dalle tesi del funzionalismo o computazionismo. Per esempio, non
abbiamo bisogno di supporre che la tesi dell’indipendenza del
substrato risulti necessariamente vera (in senso analitico o
metapsichico), ma possiamo ritenere che, di fatto, un computer che
esegue un programma adatto potrebbe divenire cosciente. Inoltre, non
abbiamo bisogno di supporre che la mente creata sul computer, che
replica il comportamento di un essere umano, debba essere per forza
in grado di passare il test di Turing. Dobbiamo solo vagliare
l'ipotesi più debole, ossia che sarebbe sufficiente, per la
generazione di esperienze soggettive, che i processi di calcolo di
un cervello umano sono strutturalmente replicati in modo abbastanza
preciso, come ad esempio al livello di singole sinapsi. Questa
versione “attenuata” della teoria della indipendenza dal substrato è
abbastanza ben accettata.
Neurotrasmettitori, fattori di
crescita dei nervi e altre sostanze chimiche che fanno parte dei
meccanismi di azione delle microscopiche sinapsi, chiaramente
svolgono un ruolo nella cognizione e nella esperienza umana. La tesi
della indipendenza dal substrato non afferma che gli effetti di
queste sostanze chimiche sono piccole o irrilevanti, ma piuttosto
che essi incidono sulla esperienza soggettiva solo attraverso la
loro influenza diretta o indiretta sulle attività di calcolo. Per
esempio, non vi può essere alcuna differenza di esperienza
soggettiva senza che tale differenza sia replicata a livello di
scariche di sinapsi, quindi il dettaglio della simulazione va
ricercato a livello sinaptico (o superiore).
III. I
limiti tecnologici della computazione
Nel nostro attuale stadio di sviluppo tecnologico, non
abbiamo né sufficientemente potenza di hardware né di software
necessari per creare simulazioni di menti consapevoli in un
computer. Ma argomenti convincenti vengono presi dal ragionamento
secondo cui, se il progresso tecnologico continua inesorabile allora
queste carenze saranno eventualmente superate. Alcuni autori
sostengono che questa fase può essere solo a pochi decenni di
distanza. [1] Ma per i presenti fini non si richiedono ipotesi sulla
scala temporale. L’argomento della simulazione funziona altrettanto
bene per coloro che pensano che ci vorranno centinaia di migliaia di
anni per raggiungere una fase "postumana" di civiltà, in cui
l'umanità avrà acquisito la maggior parte delle capacità
tecnologiche che attualmente possono dimostrarsi coerenti con i
limiti delle leggi fisiche inerenti materia e di energia.
Una
fase matura di sviluppo tecnologico del genere consentirà di
convertire interi pianeti e altre risorse in enormi potenze di
calcolo astronomiche per computer. È attualmente arduo pensare di
scoprire quale sarà il limite massimo alla potenza di calcolo che
potrà essere messa a disposizione da una civiltà postumana. Dato che
ancora manca una "teoria del tutto", non si può escludere la
possibilità che i nuovi fenomeni fisici, non consentiti dalle
attuali teorie fisiche, che possano essere utilizzati per
trascendere quei vincoli [2] che nella nostra attuale comprensione
impongono limiti teorici sull'elaborazione delle informazioni
ottenibili negli attuali computer a base silicio.
Possiamo con
molta più fiducia stabilire limiti più bassi sul calcolo postumano,
assumendo solo i meccanismi che sono già accettati. Per esempio,
Eric Drexler ha delineato un progetto per un sistema delle
dimensioni di un cubo di zucchero (escluse le forniture di
elettricità e raffreddamento), che eseguirebbe 10^ 21 istruzioni al
secondo. [3] Un altro autore fornisce una stima approssimativa di
10^ 42 operazioni al secondo per un computer con una massa dell’
ordine di un grande pianeta. [4] (Se si potrebbe creare un computer
quantistico, o imparare a costruire computer da materia nucleare o
dal plasma, ci potremmo spingere più vicini ai limiti teorici.
Seth Lloyd calcola un limite superiore di 1 kg di elaboratore di 5 *
10 ^ 50 operazioni logiche per secondo effettuata su circa 10 ^ 31
bit. [5], tuttavia, è sufficiente per i nostri scopi utilizzare la
stima più prudente che presuppone attualmente solo noti principi di
progettazione). La quantità di potenza di calcolo necessaria per
emulare una mente umana può parimenti essere stimata
approssimativamente. Una stima, basata su come sia
computazionalmente difficoltoso replicare la funzionalità di una
parte di tessuto nervoso, le cui funzionalità sono da riprodurre in
silico, rende una cifra stimata di 10^ 14 operazioni al secondo per
l'intero cervello umano.
[6]. Una stima alternativa, in base al
numero di sinapsi nel cervello e la loro frequenza di attivazione,
dà una cifra di circa 10^16 o 10^17 operazioni al secondo. [7] In
linea di principio, ancora più potenza di calcolo potrebbe essere
necessaria se vogliamo simulare in dettaglio il funzionamento
interno delle sinapsi e degli alberi dentrici. Tuttavia, è probabile
che il sistema nervoso centrale umano abbia un alto grado di
ridondanza sulla microscala per compensare l'inaffidabilità e la
rumorosità dei suoi componenti neuronali. Si potrebbe quindi
aspettarsi un sostanziale guadagno di efficienza quando si usano
processori non biologici più affidabili e versatili.
La
memoria non sembra essere un vincolo stringente per la potenza di
elaborazione. [8] Inoltre, poiché la massima larghezza di banda
umana sensoriale è circa 10^8 bit al secondo, simulando tutti gli
eventi sensoriali si incorre in un costo di elaborazione
trascurabile rispetto al simulare l'attività corticale. Possiamo
quindi utilizzare la potenza di elaborazione necessaria per simulare
il sistema nervoso centrale come una stima del costo totale di
calcolo di simulazione di una mente umana.
Se l'ambiente è incluso nella simulazione, ciò richiederà
ulteriore potenza di calcolo - quanto dipende dallo spazio e dalla
precisione della simulazione che vogliamo ottenere. Simulare
l'intero universo, fino al livello quantistico è ovviamente
irrealizzabile, a meno che nuove rivoluzionarie leggi fisiche siano
scoperte. Ma al fine di ottenere una realistica simulazione
dell’esperienza umana, è necessaro molto meno per garantire che gli
umani simulati, che interagiscono in normali modi umani con il loro
ambiente simulato, non si accorgano di eventuali irregolarità. La
struttura microscopica all'interno della struttura della Terra può
ad esempio essere omessa. Oggetti astromici distanti possono avere
rappresentazioni altamente compresse: la verosimiglianza va estesa
alla stretta banda di proprietà che possiamo osservare dal nostro
pianeta o da veicoli spaziali nel sistema solare. Sulla superficie
della Terra, macroscopici oggetti in areedis abitate possono aver
bisogno di essere continuamente simulate, ma fenomeni microscopici
potrebbero probabilmente essere compilati ad hoc. Quello che si vede
attraverso un microscopio elettronico ha bisogno di essere visto
senza sospetti, ma di solito non si ha alcun modo di confermare la
sua coerenza con parti inosservate del mondo microscopico. Eccezioni
sorgono quando progettiamo deliberatamente sistemi per catalogare
inosservati fenomeni microscopici che operano in conformità con
principi noti per ottenere i risultati che siamo in grado di
verificare autonomamente. Il caso paradigmatico di tutto ciò è un
computer presente nell’ambiente simulato. La simulazione può
pertanto aver bisogno di includere una continua rappresentazione di
un computer fino al livello dei singoli elementi di logica. Questo
non presenta alcun problema, poiché la nostra attuale potenza di
calcolo è trascurabile per gli standards postumani.
Inoltre, un
computer-simulatore postumano avrebbe sufficiente potenza di calcolo
per tenere traccia dei dettagliati stati di conoscenza in tutti i
cervelli umani, per tutto il tempo in cui l’elaborazione si svolge.
Pertanto, quando si nota che uno scienziato che si trova
nell’ambiente simulato sta per fare una osservazione del mondo
microscopico, si potrebbe fornire alla simulazione un livello di
dettaglio necessariamente alto da coprire il dominio della
osservazione stessa.
In caso si verificasse un errore il programmatore del
computer-postumano potrebbe facilmente modificare gli stati di
coscienza dei cervelli simulati che abbiano preso coscienza della
anomalia prima che gli stessi si rendano conto della stessa.
Alternativamente tale programmatore potrebbe interrompere la
simulazione facendo tornare indietro di alcuni secondi la stessa e
farla poi ripartire in un modo che eviti il verificarsi del
problema.
E così sembra
plausibile che il principale costo computazionale nella creazione di
simulazioni che sono indistinguibili dalla realtà fisica per le
menti umane nella simulazione risiede nel simulare cervelli organici
fino al livello neuronale o subneurale. [9] Sebbene non è possibile
ottenere una stima esatta del costo di una simulazione realistica
della storia umana, siamo in grado di ipotizzare circa 10^33 - 10^36
operazioni come una stima approssimativa [10]. Poiché guadagnamo
esperienza con la realtà virtuale, potremo ottenere una migliore
comprensione delle esigenze di calcolo per far sì che tali mondi
appaiano realistici ai loro visitatori. Ma in ogni caso, anche se la
nostra stima è fuori di diversi ordini di grandezza, ciò non importa
molto per il nostro argomento. Abbiamo notato che una stima
approssimativa della potenza di calcolo di un computer con una massa
planetaria è 10^42 operazioni al secondo, e anche se assumiamo che a
tale civiltà siano già noti progetti di nanotecnologie, essi sono
probabilmente lontani dall'essere ottimali. Un unico super-computer
postumano di questo tipo potrebbe simulare l'intera storia mentale
dell'umanità (ancestor-simulation) utilizzando meno di un
milionesimo della sua potenza di elaborazione per secondo. Un
civiltà postumana può eventualmente costruire un numero astronomico
di tali computer. Possiamo concludere che la potenza di calcolo a
disposizione di un civiltà postumana è sufficiente per il
funzionamento di un numero enorme di simulazioni della storia dei
suoi antenati – anche se impiega solo una piccola frazione delle sue
risorse a tale scopo. Possiamo trarre questa conclusione, anche
lasciando un sostanziale margine di errore in tutte le nostre stime.
? Una civiltà postumana avrebbe sufficiente potenza di calcolo per
eseguire molte vaste simulazioni della storia dei suoi antenati
utilizzando solo una piccola parte delle loro risorse computazionali
a tale scopo.
IV.
Il nucleo dell’argomento della
simulazione
L'idea di base del presente documento può essere espressa
approssimativamente come segue: Se vi fosse una sostanziale
probabilità che la nostra civiltà potrà mai
raggiungere la fase postumana ed eseguire molte simulazioni della
storia dei suoi antenati, allora come mai non stiamo vivendo in un
tale simulazione?
Dobbiamo sviluppare questa idea in una argomentazione rigorosa.
Cerchiamo di introdurre le seguenti notazioni:
:
Frazione di tutti i livelli umani di civiltà tecnologiche che
sopravvivono nel raggiungere una fase postumana
:
Numero medio di simulazioni computerizzate della storia degli
antenati gestito da una civiltà postumana
:
Media del numero di persone che hanno vissuto in una civiltà ,
prima che raggiunga una fase postumana
L'attuale frazione di tutti gli osservatori con esperienze di tipo
umano che vive in simulazioni è quindi
Scrivendo
per
la frazione di civiltà postumane che sono interessate alla
gestione di simulazioni di antenati (o che contengono almeno alcuni
individui che sono interessati a questo e di risorse sufficienti per
gestire un numero significativo di tali simulazioni), e
Per il numero medio di simulazioni di antenati gestito da tali
civiltà interessate, abbiamo
E
quindi:
(*)
(*)
A
causa della grande potenza di calcolo di civiltà postumana ,
è
estremamente elevato, come abbiamo visto nella sezione precedente.
Dall’analisi (*) possiamo poi vedere che almeno una delle
seguenti tre proposizioni deve essere vera:
(1)
(2)
(3)
-
FINE PRIMA PARTE -
Nota:
la seconda parte dell'articolo è in fase di traduzione
(*) Al fine di
rispettare i diritti d'autore non è possibile effettuare il
copia-incolla di questa traduzione senza averne prima richiesto il
consenso ai due autori.
