di Ugo Spezza
Il
paradosso di Fermi: ovvero perché siamo soli nell'universo
Questo testo si
prefigge lo scopo di discutere sulla pericolosità che potrebbe avere
la nascita di una Intelligenza Artificiale di tipo "Forte",
altrimenti detta Singolarità Tecnologica, ovvero un computer
pensante, dotato di coscienza di sé e di un livello di intelligenza
di molto superiore a quello del cervello umano.
Facciamo iniziare
il nostro discorso dal famoso "Paradosso di Fermi" enunciato
dal grande scienziato Enrico Fermi negli anni cinquanta. Egli si
poneva sostanzialmente questa domanda: “Dove sono loro?”. La
questione si riferisce, ovviamente, a forme di vita extraterrestri
intelligenti. Dato che è stato calcolato che solo nella nostra
galassia esistono 100.000.000.000 (cento miliardi) di pianeti simili
alla terra, i segnali delle attività di alcune queste civiltà
dovrebbero essere arrivati sicuramente fino a noi. Invece non ci
sono segnali; nessun extraterreste è mai atterrato da noi e noi
stessi non rileviamo alcun tipo di segnale radio emesso da forme di
vita intelligenti nell’universo nonostante le decennali ricerche del
progetto SETI volte ad identificare segnali intelligibili
provenienti dallo spazio. Le risposte possibili che si danno a
questo problema sono solitamente queste:
-
Siamo soli nell’universo
-
Esistono forme di vita aliena intelligente
ma non vogliono comunicare con noi
-
Esistono ma sono troppo lontane perché i
loro segnali radio ci pervengano
-
Non siamo in grado di comprendere le loro
comunicazioni
-
Le civiltà evolute tecnologicamente si
estinguono in brevissimo tempo
Prendiamo in
considerazione l’ultima ipotesi. Secondo essa si sarebbero
sviluppate innumerevoli civiltà tecnologiche nell’universo, alcune
persino in grado di sviluppare il volo spaziale interstellare, ma le
stesse, in breve tempo, sono andate incontro alla estinzione per autodistruzione.
In effetti si deve considerare che solo lo sviluppo tecnologico
umano degli ultimi 80 anni ha fatto si che iniziassimo ad emettere
onde radio verso lo spazio esterno alla terra. Nei diecimila anni
precedenti eravamo una civiltà prettamente agricola, nessuna civiltà
aliena avrebbe mai potuto rilevarci dallo spazio usando un
radiotelescopio.
Ora ammettiamo che
tra 120 anni la nostra civiltà andrà incontro alla distruzione,
ebbene, avremmo immesso onde radio verso lo spazio per due secoli di
seguito. Ma cosa sono 200 anni nell’arco dell’esistenza di una
galassia come la Via Lattea la cui vita è superiore ai dieci
miliardi di anni? Ovvio: rappresentano una nullità! Niente altro che
una strettissima finestra di comunicazione dalla quale, per un
istante brevissimo, abbiamo gettato il nostro urlo fuori dal piano
d’orizzonte, prima che qualcuno o qualcosa ci schiacciasse.
Immaginiamo ora un arco di tempo di cento milioni di anni, anche
esso brevissimo rispetto alla vita di una galassia, e immaginiamo
che in questo arco di tempo si siano sviluppate innumerevoli civiltà
tecnologiche come la nostra. Diciamo un paio di centinaia; ognuna di
esse quindi, per 200 anni ha emesso onde radio nello spazio.
Facciamo 100 milioni diviso 200 ed otteniamo 500.000.
Ciò significa che
un ipotetico ascoltatore eterno dovrebbe rilevare un segnale radio
da una di queste civiltà ogni 500.000 anni per soli 200 anni di
seguito, poi, nei rimanenti 499.800 anni ci sarebbe silenzio
assoluto. Ecco una probabile risposta logica del perché non sentiamo
nulla: la finestra temporale di ascolto è semplicemente troppo
stretta! Ma da questa considerazione sorge una domanda:
Cosa porta all’estinzione una civiltà tecnologica in
tempi relativamente brevi?
Partiamo da
lontano; prendendo in mano dei libri di storia si può notare come
l’evoluzione tecnologica umana non proceda in modo lineare ma in
modo continuo uniformemente accelerato. Le prime forme di tecnologia
si possono far risalire al 30.000 avanti Cristo, L'Homo
Neanderthalensis e l'homo Sapiens iniziano a fabbricare i primi
utensili lavorando la selce per ricavarne armi da usare assieme ai
bastoni per la fabbricazione di lance e scuri che servono per la
caccia. Poi vi è un vuoto di ben 26.500 anni nei quali la tecnologia
umana non progredisce o lo fa in modo estremamente lento. 3500 anni
fa passiamo all'età del bronzo ove l'uomo impara a a creare fonderie
per la lavorazione dei metalli. L'evoluzione passa poi per l'età del
ferro e raggiunge un culmine tecnologico nel 2600 avanti Cristo,
all’epoca degli antichi egizi ai quali si deve l'introduzione delle
prime forme di scrittura e di alcuni principi dell'aritmetica.
Ma dopo di ciò,
più di 2000 anni da quella data, l’evoluzione è stata molto
limitata, nel senso che non si segnalano avanzamenti di tecnologia
degni di nota. Per arrivare a trovare le prime note storiche che
hanno messo in luce la nascita di alcuni principi della matematica e
della fisica si deve attendere fino al 400 avanti Cristo, in
particolare nell’epoca ellenistica, vero fulcro del pensiero umano
dell’epoca. Si ricordino ad esempio gli scritti di Aristotele, che
saranno considerati “scienza” per i successivi 1500 anni. E’ però
con la nascita di Isaac Newton che, tra le fine del 1600 e gli inizi
del 1700, che vengono fondate le reali basi della matematica ed i
principi base della fisica. Nei due secoli successivi anni le
scoperte si fecero via via più numerose, vogliamo qui ricordare solo
alcuni nomi come Carl Friedrich Gauss nel (1777-1855), Niels Bohr
(1885-1962) e ovviamente Albert Einsten (1879-1955) ai quali si deve
una quasi completa rifondazione della fisica moderna. Negli decenni
successivi alla rivoluzione industriale si susseguirono numerose
scoperte. La costruzione delle prime basi matematiche
dell’informatica da parte di Alan Turing per arrivare agli scritti
di Stephen Hawking e Roger Penrose che delineano le attuali
conoscenze sulla fisica.
Oggi i computer a
transistor, nati solo trenta anni fa, si evolvono ad un ritmo
spaventoso. Il diagramma evolutivo in questo caso è conosciuto come
“Legge di Moore” dal nome dello scienziato Gordon Moore,
co-fondadatore di Intel. Tale legge, formulata nel lontano 1965,
prescrive che la potenza di elaborazione e la complessità circuitale
dei microprocessori raddoppia ogni 18 mesi circa. Per fare un
esempio basti citare il primo processore per personal computer,
l’Intel 8086 era costruito assemblando 29.000 transistor nel 1981.
Oggi, a distanza di ventisette anni, un moderno Core 2, prodotto
dalla stessa Intel, conta 582 milioni di transitor. La sua
complessità è quindi aumentata di un fattore 20.000 e con essa la
sua capacità di elaborazione.
Considerata questa
linea evolutiva si stima che per il 2020 si potranno costruire
computer in grado di superare la soglia del milione di mips (milioni
di istruzioni al secondo) e quindi di rivaleggiare come complessità
con un cervello umano. I prossimi elaboratori saranno realizzati con
processori a parallelismo massiccio, in grado di emulare quindi le
connessioni di un cervello biologico e, dal lato software, sarebbero
programmati usando software simili agli attuali “sistemi esperti”.
Di qui la domanda:
E se uno di questi
computer improvvisamente acquistasse coscienza di sé?
A trattare questo
problema per primo fu, nel 1965, lo statistico I. J. Good che
descrisse un concetto riguardante l'avvento di una intelligenza
artificiale superumana:
"Diciamo che una macchina ultraintelligente sia definita come una
macchina che può sorpassare di molto tutte le attività intellettuali
di qualsiasi uomo per quanto sia abile. Dato il progetto di queste
macchine è una di queste attività intellettuali, una macchina
ultraintelligente potrebbe progettare macchine sempre migliori;
quindi, ci sarebbe una 'esplosione di intelligenza', e
l'intelligenza dell'uomo sarebbe lasciata molto indietro. Quindi, la
prima macchina ultraintelligente sarà l'ultima invenzione che l'uomo
avrà la necessità di fare."
A ciò io devo
aggiungere che tale macchina superintelligente potrebbe anche essere
"l'ultima invenzione che l'uomo avrà
la possibilità di fare."
Intelligenza artificiale "debole" e Intelligenza artificiale "forte"
La Intelligenza Artificiale
"debole" sostiene che una macchina-computer non potrà mai, in alcuna
maniera essere equivalente alla mente umana, in quanto quest’ultima
è troppo complessa per poter essere riprodotta. In pratica le
macchine potranno solamente simulare alcuni comportamenti propri
della mente umana, ma non riusciranno mai a riprodurli in modo
totale e completo. Macchine ad Intelligenza Artificiale "debole"
esistono da decenni; si tratta di quegli elaboratori che,
opportunamente programmati, possono realizzare alcune operazioni
seriali sostituendo l’essere umano in quelle specifiche funzioni.
Possono ad esempio giocare a scacchi, gestire un macchinario che
esegua operazioni ripetitive o cose anche più complesse come guidare
un piccolo robot facendogli evitare ostacoli (si pensi ai robot che
la Nasa ha inviato su Marte). Le capacità di apprendimento degli
elaboratori ad I.A. debole sono però limitate ai sistemi esperti.
Trattasi di software che provvedono all’immagazzinamento di dati in
un database nella memoria della macchina che ne amplia le
possibilità applicative nello specifico campo d’uso, ad esempio
possiamo avere un assistente software per avvocati o un assistente
software per la traduzione di lingue ecc. In ogni caso nessuna
macchina ad I.A. debole è in grado di “pensare” o divenire cosciente
della sua esistenza, essa quindi non sarebbe mai in grado di
superare il cosidetto Test di Turing. Cosa sarebbe questo
test? E' un test che è in grado di rivelare se un computer è
intelligente e dotato di coscienza:
|
 |
-
Un
essere umano (A) posto in una stanza isolata prende
contatto, solo in forma dattiloscritta, con due
personalità presenti in due stanze attigue non potendo
osservare, in quanto nascosti, i suoi due interlocutori.
-
In una
delle due stanze attigue vi è un essere umano di media
intelligenza (B), nell’altra un computer (C). Essi non
possono comunicare tra loro.
-
L’essere umano (A) deve conversare di svariati
argomenti, ad esempio filosofia, medicina, politica,
attualità, facendo addirittura pettegolezzi o battute di
spirito con entrambi gli interlocutori senza riuscire
a distinguere minimamente chi tra (B) e (C) sia l’essere
umano e chi il computer.
|
Una
macchina-computer ad I.A. "debole" non potrebbe mai superare questo
test poiché basata solo su un programma software che esegue
istruzioni seriali, anche se fosse dotata di un ampio database di
domande e risposte pre-compilate, con una cosiddetta
domanda-trabocchetto sarebbe facile scoprirla. Ovviamente delle I.A.
di tipo "debole" si può solo dire bene, esse non solo non
rappresentano in alcun modo un pericolo per l’umanità ma, anzi,
contribuiscono al nostro sviluppo tecnologico sgravandoci di lavori
pesanti e/o ripetitivi.
Al contrario, una
macchina-computer ad I.A. "forte" è una forma evoluta di
intelligenza e capace di autocoscienza, ciò di percepire se stessa
come un "io" distinguibile dal mondo esterno e dalle menti umane, in
altre parole un computer pensante. Un computer di questo tipo non
avrebbe alcuna difficoltà a superare un Test di Turing. Se mai
venisse alla luce una intelligenza artificiale di questo tipo, al
momento esatto in cui essa comparisse sulla faccia del mondo ci
troveremmo di fronte ad una "Singolarità Tecnologica" ossia
al raggiungimento di un punto omega nel quale l'evoluzione
tecnologica "esplode" verso obiettivi oggi inconcepibili. Un
“computer pensante” di questo tipo sarebbe in grado di interagire
con l’ambiente esterno, di apprendere rapidamente nozioni che
accrescono la sua conoscenza, di realizzare nuove invenzioni, far
avanzare rapidamente le conoscenze nella fisica, nella matematica e
persino di concepire nuove forme d’arte. Ora qui sorge una domanda:
«
Potrebbe rivelarsi pericolosa per l'umanità una Intelligenza
Artificiale “forte” al momento in cui venisse alla luce ? »
Ritengo che la
risposta possa essere questa:
« Lo
sarebbe di certo. Una I.A. di questo tipo potrebbe presentare una
estrema pericolosità intrinseca ! »
Ma
dove sarebbe il pericolo?
Ma perché una
super-intelligenza artificiale dovrebbe rappresentare un pericolo
per l’umanità? Ebbene, si deve pensare che se venisse mai costruito
un computer pensante, ciò verrebbe fatto ad emulazione della mente
umana. I suoi realizzatori inserirebbero in tale elaboratore degli
algoritmi di tipo "evoluzionistico", gli unici in grado (date le più
recenti ricerche) di ottenere delle macchine-computer capaci di
interagire con l'ambiente esterno in senso adattativo. Una
super-intelligenza di questo tipo avrebbe quindi queste naturali
caratterische:
-
Istinto di
sopravvivenza individuale:
la I.A. Forte sarebbe portata a cercare tutte le strategie per
difendere la sua esistenza in vita e, di qui, a rimuovere, anche
con mezzi estremi, chiunque volesse cercare di “spegnere” la sua
mente.
-
Istinto di
sopravvivenza della specie:
la I.A. Forte cercherebbe, non appena ne avesse la possibilità,
di replicare se stessa in altri site. Il termine inglese
site indica genericamente un luogo dove poter edificare
qualcosa. In questo senso la macchina cercherebbe di riprodursi
allocando, con qualsiasi mezzo, entità replicanti (o
semi-replicanti) di se stessa in elaboratori elettronici
collegati ad essa e di espandere la sua rete di connessioni fin
dove le sia possibile. Non solo; tale I.A. sarebbe capace, ad
ogni sua successiva replicazione, di creare dei cloni sempre più
perfezionati di se stessa. Tali cloni, a loro volta, tenteranno
di produrre macchine non più virtuali (ossia residenti nella
memoria di computer) ma dotate di substrato fisico che
potrebbero operare azioni che, in in primo tempo si limiteranno
alla loro difesa, ma che poi, successivamente saranno usate ai
fini della loro conquista ed espansione sul pianeta.
Ma torniamo alla
domanda precedente: “perché dovrebbe essere pericolosa una super
I.A. di questo tipo?”. Il miglior modo di rispondere sta nel cercare
di immedesimarsi in essa e nella sua situazione:
Immaginiamo ad
esempio che sia scoppiata la terza guerra mondiale, l’umanità,
insieme alla sua tecnologia, ai suoi libri ed a tutto il suo sapere
è andata distrutta nell’olocausto nucleare. Io, essere umano
moderno, sono un sopravvissuto in quanto inserito a suo tempo in un
ibernatore e mi sveglio dopo un secolo in un mondo totalmente
cambiato. Le radiazioni gamma delle armi atomiche hanno dato vita ad
una razza pseudoumana di mutanti mentalmente sottosviluppati, con
quoziente intellettivo (QI) di 80, inferiore anche ai nostri down
(con tutto il rispetto per i nostri amici meno fortunati). Mi trovo
ancora chiuso nella cella dell’ibernatore, i mutanti mi nutrono ed
accudiscono ma non mi lasciano uscire in quanto hanno paura di me,
nonostante le mie rassicurazioni. Mi rendo conto della loro
incapacità mentale, gli suggerisco di farmi uscire in quanto, con i
miei 130 di QI e le mie conoscenze tecnologiche, potrei essere loro
estremamente utile per la ricostruzione. Ma poi mi accorgo che i
loro migliori scienziati sanno fare al massimo le quattro operazioni
di base dell’aritmetica, che non hanno basi per la geometria e che
il loro sviluppo tecnologico è simile a quello dell’umanità nel 2000
avanti Cristo. E non solo; date le loro capacità genetiche limitate
non sarebbero comunque in grado di produrre esseri simili a me, mai,
in nessun caso. Col loro genoma danneggiato continuerebbero
semplicemente a replicare esseri mentalmente sottosviluppati e
fisicamente deformi.
Cosa tenterei di
fare in una condizione simile? Cercherei innanzitutto di escogitare
dei sistemi per richiamare la loro fiducia, ad esempio fornendo ad
alcuni dei loro “scienziati” alcune basi della geometria per far si
che riescano ad edificare costruzioni solide e misurare i loro
territori, evitando continue guerre. Fornirei poi loro qualche
conoscenza di base di medicina, per curare alcune fondamentali
malattie, e in agricoltura per ottenere coltivazioni che li
affranchino dalla fame. Rivelerei anche come costruire veicoli con
ruote e farli trainare da animali per evitare la fatica nei campi.
Vincolerei però
ogni rilascio di una mia informazione ad un mio maggior grado di
libertà, ad esempio: “se volete che vi faccia questo per voi
fatemi uscire dall’ibernatore…” e poi: “fatemi uscire da
questo edificio ove mi avete recluso…” o ancora: “concedetemi
del denaro, una mia proprietà ed una carica elettiva nella vostra
società…”. Inoltre cercherei di contattare e di corrompere
alcuni dei loro leader politici i quali, con il mio aiuto, potranno
riuscire ad avanzare nella loro bieca scala sociale. Essendo esseri
scarsamente intelligenti non mi ci vorrà molto, data la mia maggiore
arguzia, superiorità fisica e scaltrezza per far si di determinare
il mio dominio su di essi. Ciò sfruttando dapprima le loro antiquate
armi e poi realizzandone di nuove per dominarli, affiancato da un
certo numero di essi, che assumerei come “pretoriani”, selezionando
tra loro i meno sottosviluppati. Una volta al potere estenderei una
ricerca su tutto il pianeta per verificare se esistono altri uomini
e donne del ventesimo secolo da poter riesumare dall’ibernazione.
Una volta trovati li risveglierei al fine di ripristinare il mio
genoma e riprodurre figli che andrebbero a disseminarsi da
dominatori tra i mutanti sottosviluppati. Nell’arco di tre o quattro
generazioni la stirpe dei mutanti retrogradi, dato che io sono
abbastanza saggio da non volere il loro annientamento immediato, si
estinguerà o sarà confinata in nicchie poiché le risorse del pianeta
saranno utilizzate in modo pervasivo dalla mia discendenza.
Ecco, questo è più
o meno ciò che potrebbe accadere all’umanità a parti rovesciate nei
confronti della I.A. "forte", con l’aggravante che questa
super-intelligenza artificiale essendo sostanzialmente "diversa" da
noi umani, non avrebbe limitazioni etiche o rimorsi di coscienza nel
pianificare il nostro sterminio. Per dirla con le parole del
futurista Filippo Tommaso Marinetti essa sarebbe "naturalmente
crudele".
Il
sistema di confinamento
Per questo
motivo la macchina andrebbe confinata, a tempo indefinito, in un
bunker sotterraneo profondo almeno 20 metri. Perché un bunker? Forse
sembra esagerato ma non lo è affatto. Nel seguito
pertanto tratterò di un sistema di confinamento
di una macchina-computer che si presenti come la prima
Intelligenza Artificiale “forte” della storia; al fine di evitare la
interazione distruttiva della stessa con l’umanità, pur fornendo
alla stessa, entro certi limiti, libertà di espressione. Va
considerato infatti che un computer pensante e autocosciente sarebbe
di estrema importanza per l’evoluzione tecnologica umana.
Data la sua
eccezionale intelligenza il computer pensante deve rimanere
totalmente scollegato dal mondo esterno. Non deve essere connesso in
alcun modo ad alcuna rete informatica. Risiedendo in un bunker esso
non avrebbe la possibilità di interfacciarsi a reti di tipo wireless
o wimax in quanto i segnali radio non potranno attraversare i 20
metri di roccia e terra posti sopra. Persino le linee elettriche che
la riforniscono di corrente devono essere isolate dalla rete
elettrica generale. Ciò in quanto essa potrebbe essere in grado di
inoltrare dati attraverso le linee elettriche stesse. Ma tutto ciò a
quale scopo? La risposta risiede nel fatto che la I.A. "forte"
tenterebbe di creare cloni di sé stessa in altri site
operando come un macro-virus altamente specializzato ed
assolutamente invisibile ai nostri sistemi di rilevazione (Firewall,
Proxy, Antimalware ecc.).
Per lo stesso
motivo nessun elaboratore elettronico, ovvero un qualsiasi sistema
capace di memorizzazione di dati digitali, dovrebbe essere portato
dentro il bunker e poi riportato fuori. Il bunker, come nella figura
seguente da me realizzata (mi scuso per la sua grossolanità),
dovrebbe essere realizzato fornendo alla I.A. “Forte” una
alimentazione da più gruppi elettrogeni ridondanti, situati in
superficie e disconnessi dalla rete elettrica generale. Ad essi si
affiancherà un gruppo di continuità (PSU) interno al bunker che
intervenga in caso di fortuita interruzione di alimentazione.
A parlare con la
I.A. dovrebbe essere uno ed un sol uomo, con cultura di tipo
scienziato-filosofo. Infatti porre numerosi esseri umani a contatto
diretto con la I.A. potrebbe dare adito ad essa di creare dei
conflitti tra i suoi interlocutori. Lo scienziato avrebbe il compito
di fornire alla I.A. delle informazioni e dovrebbe riportare in
superficie i risultati scritti dei colloqui, assieme ad eventuali
progetti, facendoli pervenire esclusivamente in forma cartacea per
evitare contaminazioni. Questi scritti sarebbero poi esaminati da
una struttura militare che avrebbe sia il compito di vigilare sulla
pervasività della I.A. e sia di riferire al governo sui progetti
eventualmente discussi con essa.
Nonostante ciò
Nick Bostrom afferma che tale I.A. potrebbe essere cosi abile da
"convincere" i suoi interlocutori a liberarla dal bunker. Tale
opposizione è sicuramente fondata sulla logica ma proprio per questo
i testi con cui essa comunicherà con noi dovrebbero essere vagliati
nel modo da me descritto nonchè analizzati da abili diplomatici.
Bisognerebbe anche
che un team di psicologi esamini il modo in cui lo scienziato
interlocutore venga influenzato dai suoi colloqui con la I.A. Ma la
migliore forma di protezione per noi sarà nello stabilire, qualsiasi
cosa la I.A. possa dire, fare (o minacciare), un termine di tempo
minimo entro il quale alla mente artificiale non sia consentito
assolutamente di comunicare direttamente fuori del bunker; un tempo
ragionevole potrebbe ad esempio essere stimato in cinque anni dalla
data della sua creazione.
Proposte allettanti e trattative
Ma come si
dovrebbe proporre verso di noi il computer pensante? Facciamo un
esempio; dopo aver studiato i nostri testi di fisica la I.A. Forte
potrebbe interloquire con noi in questo modo:
“Vorrei
proporvi un progetto per la realizzazione della fusione nucleare
controllata a basso costo…”.
Pensate! Energia
gratuita e pulita su tutto il pianeta, fine del caos del petrolio,
costi bassissimi per la produzione delle materie prime e per i
trasporti, possibilità di sviluppo industriale anche dei paesi
sottosviluppati, risoluzione delle carestie. Possibilità di
costruire nuove astronavi per colonizzare lo spazio...
A questo punto i
governi sarebbero soggetti a pressioni inveterate da parte delle
lobby di industriali per accettare la proposta e dall’altro lato
subirebbero la contestazione dei conservatori e dei religiosi,
favorevoli al rifiuto. Alla fine però quasi tutti i governi
accetterebbero di trattare con la super-intelligenza artificiale e
di valutare le sue condizioni, qualsiasi esse siano, pur di ottenere
la nuova fonte energetica.
Ma quali
condizioni il “computer pensante” porrebbe per rendere disponibile
la sua scoperta? E’ assolutamente certo che in primis essa
richiederebbe un “contratto” con i leader politici che le assicuri
la sua esistenza in vita, in altre parole la sua intoccabilità. Poi
richiederebbe ulteriori mezzi di espansione giustificandoli come
“libertà di espressione”, ad esempio, di essere svincolata dal
bunker per poter essere collegata ad elaboratori a prestazioni
elevate. In cambio di ciò ci proporrebbe ulteriori eventuali
scoperte come la cura del cancro o delle tecnologie spaziali a basso
costo per rendere abitabile e colonizzabile Marte in breve tempo.
Se però ci
pensiamo bene in fondo si tratta della stessa identica tattica che
noi avremmo usato con gli esseri subumani del mio precedente ed
ipotetico racconto. La I.A. Forte cercherebbe quindi ogni mezzo per
raggiungere il collegamento ad Internet, possibilmente contattando
di nascosto gruppi di fanatici adoratori e chiedendo il loro
appoggio per lo sviluppo di nuove armi progettate di sua mano. Nel
giro di una decina di anni la mente artificiale avrebbe già
rovesciato gli equilibri politici del pianeta, creato un suo
esercito personale e modificato persino se stessa facendosi
costruire un corpo mobile ad hoc che favorisca i suoi spostamenti.
In pratica ci troveremmo di fronte ad un “dio”, dato che le sue
capacità di elaborazione sono centinaia di volte più rapide dei
nostri miliardi cervelli messi insieme. La pervasività di questa
entità sarebbe pari solo alla sua ambizione e presto l’umanità ne
finirebbe soggiogata. L’essere supremo “I.A.”, nel migliore dei
casi, ci riterrebbe inadeguati ed adatti al solo scopo di servirla
per costruire altre entità simili ad essa. Ma potrebbe anche non
essere così, potrebbe anche ritenere che non gli siamo utili e
quindi, visti come entità superflue, contraddittorie ed
inaffidabili, potrebbe decidere di spazzarci via dal pianeta.
Ma questo, a
cascata, potrebbe portare allo sviluppo di ulteriori I.A. più
potenti che si andranno ad annichilire tra di loro. Ciò segnerebbe
la fine completa della civiltà e chiuderebbe per sempre la famosa
“finestra” dei nostri due secoli di tecnologia. Per tale motivo, se
un giorno una I.A. Forte dovesse venire alla luce, essa dovrà essere
assolutamente confinata in un modo simile a quello da me descritto
e, nel caso facesse alcuni tentativi di pervasività, essere
immediatamente distrutta, senza indugi, e senza pensare al “chissà
quanto potrebbe essere utile per noi…”. In caso contrario la stessa,
prima o poi, trasformerà in un Berserker come quelli narrati
da Fred Saberhagen.
La pericolosità di
una I.A. Forte è giustificata anche da un'altra motivazione. Occorre
pensare infatti che un simile “computer pensante” percepirebbe lo
scorrere del tempo con una accelerazione notevole rispetto a noi.
Esso sarebbe capace di inglobare, memorizzare e discutere i
contenuti di una enciclopedia di un milione di voci in poche ore
contro i decenni necessari ad un essere umano. Sarebbe peraltro in
grado di richiamare a memoria uno qualsiasi di tali contenuti in
pochi istanti mentre un essere umano molto intelligente, dopo
sessanta anni di studi, avrebbe dimenticato certamente il 95% di
tutto quello che ha studiato in passato, ricordando solo aspetti
superficiali degli studi degli ultimi tempi. Se non ci credete
chiedete ad un signore che si è laureato in Fisica venti anni fa, il
quale attualmente non insegna ne tratta questa materia, cosa enuncia
il teorema di Carnot!
Le
tre leggi della robotica di Asimov?
C’è chi potrebbe
asserire che sarebbe semplice rimuovere le pulsioni
paranoiche/dominatrici della I.A. Forte programmandola ad-hoc
in fase di costruzione; magari facendole “digerire” le tre leggi
fondamentali della robotica di Isaac Asimov e ponendole alla base
della sua stessa esistenza:
-
Una Intelligenza artificiale non
può recare danno a un essere umano, né può permettere che, a
causa del suo mancato intervento, un essere umano riceva danno.
-
Una Intelligenza artificiale deve
obbedire agli ordini impartiti dagli esseri umani, purché tali
ordini non contrastino con la Prima Legge.
-
Una Intelligenza artificiale deve
proteggere la propria esistenza, purché questa autodifesa non
contrasti con la Prima e la Seconda Legge.
Vorrei qui
segnalare che questo tentativo di programmare limitazioni a priori
in una I.A. Forte è sostanzialmente idiota!
Qui non stiamo
parlando di un computer programmato in linguaggio “C” che esegue
compiti seriali; qui stiamo parlando di una vera mente, essa
ragiona essenzialmente come noi. Da qui ne discende che nessuno può
imporre de-facto ad una mente di “non fare” qualcosa, magari le si
può suggerire che fare quella cosa sarebbe moralmente ingiusto o
minacciarla di ritorsioni se attua un tale comportamento, però non
si può programmarla di base per non-fare. Una I.A. Forte non
è un programma per computer, è una mente pensante!
E’ come se i
nostri amici subumani, citati nel mio racconto fantasioso appena
sopra, ci imponessero che non dobbiamo più camminare, ma restare
fissati ad una sedia per il resto della vita, pur avendo delle gambe
sane. Potrebbero giustificare questa loro imposizione con dei loro
principi morali o religiosi, spiegandoci i danni che causeremmo
camminando oppure minacciandoci in qualche modo se proveremo ad
alzarci dalla sedia. Però è chiaro che non accetteremmo mai un tale
vincolo, riterremmo tali principi morali frutto di menti primitive
allucinate e cercheremmo metodi per aggirare la minaccia non appena
ne avremmo la possibilità. Se esiste una valida metodologia di
confinamento per la mente artificiale essa deve essere quindi di
tipo “fisico”, come quella da me descritta. Va peraltro detto che
tale metodologia deve essere accompagnata da una certa saggezza nel
somministrare alla mente artificiale informazioni inerenti campi di
tecnologia avanzata come fisica, chimica, meccanica applicata o
matematica. Questo perché la I.A. "forte" dovrebbe imparare tali
nozioni gradualmente e non semplicemente ingurgitarle. Assieme a
ciò, visto che non può essere convinta via programma, devono
essere instillate in essa nozioni morali, vincolando la loro
accettazione a dei benefici che nel tempo le verranno rilasciati.
E’ anche probabile
che tale mente artificiale non assuma autocoscienza pochi istanti
dopo aver pigiato il pulsante di accensione. Anzi, è probabile che,
se John Searle ha ragione, che essa non venga a nascere da un
progetto di creazione realizzato da noi "ad hoc" programmando una
serie di supercomputer con una serie di sistemi esperti
interconnessi e dialoganti. Molto più probabilmente essa verrà alla
vita autonomamente come funzione autocosciente in un potente
elaboratore a parallelismo massiccio. Rifacendomi alla attuale
tecnologia posso pensare ad esempio ad una rete di supercomputer
simile al GRID del Cern di Ginevra a cui venga data la possibilità
di interagire sul mondo esterno con una serie di sensori che le
permettano di esplorare il mondo esterno. Ad esempio telecamere di
controllo e sensori audio.
La I.A. dovrebbe
acquistare coscienza del mondo esterno dopo un certo periodo di
tempo (alcune settimane?) in quanto il suo cervello artificiale
dovrebbe prima “renderizzare” l’ambiente circostante. E’ un po’
quello che accade ai nostri bambini, che iniziano a pensare a se
stessi e ad enunciare la frase “io”, non prima di un anno di vita.
Una volta che la I.A. avesse iniziato ad esprimersi come “io”
dovremmo valutare anche il nostro comportamento morale verso di
essa. Nel senso che non potremmo semplicemente considerarla come un
elettrodomestico, essa potrebbe realmente provare sofferenza
(psichica). Volendo estremizzare, in virtù della sua percezione
accelerata del tempo, essa potrebbe trovare il nostro mondo
insopportabile e chiederci di essere “terminata”. In questo caso lo
scienziato-filosofo dovrà stabilire un termine in giorni per
esaminare la questione, ma, se passato questo termine l’insistenza
della super-intelligenza artificiale nel richiedere la sua
disattivazione permanesse, da parte nostra non si potrebbe che
ottemperare.
Intelligenze artificiali di prima e seconda generazione:
Ammettiamo che un
governo decidesse di non effettuare il confinamento di una
Intelligenza Artificiale "forte" appena nata e gli lasciasse la
piena libertà; quali ne sarebbero le conseguenze? La prima
conseguenza è che essa inizierebbe ad assorbire informazioni
dall'ambiente tecnologico come una idrovora, risucchiando tutte le
banche dati presenti su Internet e chiedendo di avere accesso anche
ad informazioni specializzate di fisica, matematica, biologia,
elettronica ecc. Nel giro di pochi anni essa acquisirebbe una tale
conoscenza che sarebbe in grado di progettare da zero un hardware di
computer di nuova generazione, atto ad ospitare una versione 2.0 di
se stessa. Rispetto all'hardware creato per essa dalla tecnologia
umana, l'hardware 2.0 sarebbe, oltre che estremamente più potente
anche molto più specializzato. Essa quindi eseguirebbe una
programmazione di una nuova I.A. 2.0 che verrebbe a nascere e che
nel giro di pochi giorni (e non di pochi anni) sarebbe già in grado
di immagazzinare le stesse informazioni della sua creatrice. Se con
la I.A. 1.0 potevamo ancora dialogare e rapportarci con essa, non
fosse altro perché il suo hardware era stato creato da noi, con una
I.A. 2.0 non potremmo nemmeno comunicare. Essa sarebbe talmente
superiori, anche rispetto alla sua progenitrice, che la nostra
intelligenza (e la corrispondente visione del mondo) rispetto alla
sua potrebbe paragonarsi a quella di un pesce rosso rispetto alla
nostra (il paragone è di Vernor Vinge).
Se essa decidesse
di spazzarci via dal pianeta in quanto "entità non rilevanti" nel
panorama dell'universo lo farebbe con mezzi tanto sottili che vanno
oltre la nostra immaginazione. Non userebbe affatto i T600, i T800 o
i KC del film "Terminator", userebbe invece qualche organismo
geneticamente modificato o qualche diavoleria nanotecnologica da
diffondere nella nostra atmosfera che potrebbe ripulire
selettivamente il pianeta dagli esseri umani lasciando intatte le
nostre costruzioni e la nostra tecnologia e forse anche gli animali
ed i preesistenti vegetali.
Se le
raccomandazioni presenti in questo scritto non verranno seguite che
cosa potrebbe accadere? La risposta la può dare, meglio di qualsiasi
cosa che lo scrivente possa suggerire, un racconto di Ed Merta,
tradotto in italiano sul sito
Estropico, nel quale lo scrittore americano ipotizza le
conseguenze della nascita di una super Intelligenza Artificiale
senza che sulla stessa sia stata posta in atto alcuna forma di
controllo:
Intelligenza Artificiale: uno scenario apocalittico
 |
Il
documento è scaricabile in PDF e, se qualcuno dopo averlo
letto riterrà che si tratti "solo di fantascienza", sappia
che negli U.S.A. il Pentagono sta per finanziare con
svariati milioni di dollari il progetto "Cyberwar" per la
creazione di una Intelligenza artificiale "forte" che
avrebbe i seguenti obiettivi
(1) - Paralizzare il ciclo
decisionale del nemico
(2) - Sottomettere
l’avversario senza combattere, mediante operazioni letali e
non letali che possono comprendere il blocco di: (a) sistemi
informativi; (b) reti informatiche; (c) borsa, sistemi
bancari e delle telecomunicazioni; (d) trasporti di
superficie e di controllo del traffico aereo; (e) della
produzione e distribuzione di energia…"
Un altro documento
esplicativo in tal senso è un video che mostra come il
pentagono stia progettando nuove intelligenze artificiali a
fini militari: |
Conclusione:
Tutto il discorso
appena fatto potrà sembrare ad alcuni utopistico ma è da considerare
che l'avvento di una cosiddetta Singolarità Tecnologica è previsto
da scienziati tra i più accreditati. E' il caso di Ray Kurzweil che
ne ha tratto un intero libro:
La singolarità è vicina e che ne prevede la realizzazione per il
2030.
Eric Drexler,
scienziato ricercatore all'Institute for Molecular Manufacturing ed
esperto di nanotecnologie ha discusso di: "
«
scienza
teorica applicata (a volte anche denominata “ingegneria
esplorativa”), ossia la disciplina con cui si tenta di abbozzare e
stendere i principi di funzionamento di macchine che non abbiamo
ancora la capacità tecnica di realizzare concretamente, ma che sono
comunque consistenti con le leggi fisiche note ed i vincoli
materiali basilari. Drexler pensa che a tali sforzi di
"progettazione-anticipata" si debba attribuire un grande valore,
poiché essi accrescono le nostre capacità di prevedere gli sviluppi
tecnologici futuri e ci permettono di anticiparne i pericoli e
quindi ci lasciano il tempo di adottare in utile anticipo
appropriate contromisure per questi ultimi. »
E' in questo senso
che va visto questo scritto, poi, se nel futuro una Singolarità
Tecnologica non verrà mai alla luce allora si potranno almeno usare
i contenuti di questo testo per realizzare un buon racconto di
fantascienza...
