di Ugo Spezza
Una enorme mole di documenti e
ricerche è stata prodotta negli ultimi anni da scienziati, filosofi
e ricercatori di fama mondiale relativamente a come lo sviluppo
della Intelligenza Artificiale avanzata potrebbe produrre
modificazioni sostanziali nel nostro modo di vivere. Si va dal
paradiso tecnologico immaginato da Isaac Asimov al caso più
pessimistico, previsto da alcuni scienziati: il crollo della civiltà
umana.
La maggioranza di questi
documenti, prodotti in gran parte dal S.I.A.I. (Singularity
Institute for Artificial Intelligence) è disponibile però solo in
lingua inglese. Questo articolo si prefigge pertanto di divulgare
queste conoscenze in ambito italiano e circoscrivere a tre punti
sostanziali l'impatto che lo sviluppo delle tecnologie informatiche,
con particolare riferimento alla Intelligenza Artificiale, avrà nei
prossimi decenni sulla nostra civiltà.
C'è da
tenere conto che il rapido avanzamento delle tecnologie IT
(Information Tecnology) ha gia prodotto, oggi, una sostanziale
modifica del nostro modo di vivere. Rispetto a soli venti anni fa
(un lasso di tempo brevissimo nella storia umana) oggi la
pervasività della tecnologia ha raggiunto livelli inimmaginabili.
Ogni persona impegnata in attività produttive, deve essere
perennemente collegata ad Internet con computer, pad, tablet,
smartphone ecc. Milioni di kilometri di cavi, reti wireless e ponti
radio umts ci garantiscono oggi non solo la connettività ai servizi
web 24h su 24 ma anche da qualsiasi punto abitato del globo
terrestre. E tutto questo non è per una nostra preferenza.
Qualsiasi azienda impegnata in un qualsiasi settore di sviluppo ha
bisogno di questi mezzi per poter essere competitiva nel mercato,
quindi essa richiede ai suoi dipendenti l'utilizzo di mezzi
di alta tecnologia per le comunicazioni e l'interconnessione alle
basi di dati aziendali.
La generazione dei nati dopo
il 1990 è quella dei "nativi del digitale" ovvero di quei ragazzi
già nati nell'era del cellulare e che dipendono nei loro rapporti
sociali dalle facoltà di comunicazione di questi apparati. Essi
comunicano con videomessaggi, sms, chat e non possono fare a meno
del loro smartphone, come se esso fosse una estensione della
loro mente.
Un mondo virtualizzato
I nostri beni e i meccanismi
produttivi che reggono la civiltà umana sono sempre più affidati
alle macchine. Dai primi e rari robot nelle fabbriche negli anni '70 le
macchine hanno oggi pervaso la nostra società. Ogni movimento di denaro e
di merci (compreso il cibo con cui ci nutriamo) è oggi gestito dai
computer. Nelle grandi città i computer guidano, attraverso una
centrale, i movimenti del traffico attraverso i semafori. Le linee
ferroviarie e quelle delle metropolitane sono governate da server
centralizzati così come i controlli sugli aerei in partenza e arrivo
negli aeroporti sono gestiti da complessi software a disposizione
dei controllori di volo. I server web degli Internet Provider
gestiscono ogni giorno milioni di miliardi di e-mail e muovono
centinaia di miliardi di dollari attraverso i siti di e-commerce.
Tutto è passato al digitale, ovvero
sotto il controllo di microchip che elaborano dati. Le musicassette
e le videocassette si sono estinte in favore dei CD/Dvd, le macchine
fotografiche a pellicola, le videocamere a cassetta sono anch'esse
sparite. La nostra stessa TV non è più analogica, ossia il segnale
viaggia attraverso i satelliti o le antenne terrestri codificato
come serie dati numerici.
Se una tempesta magnetica
dovuta a un brillamento solare, come quella che avvenne nel 1859, e
che allora bruciò molti pali del telegrafo, si ripetesse oggi, tutte le
attività produttive a livello mondiale potrebbero arrestarsi per una
settimana e più a causa del blocco dei server degli I.S.P. Tutti i computer del
pianeta andrebbero in offline e i cellulari smetterebbero di
funzionare. Le persone darebbero quindi l'assalto ai telefoni fissi
come è avvenuto nel pur breve black out a New York nel 2003. Secondo
la NASA: "Se la tempesta del 1859 avvenisse oggi, assisteremmo a
un'enorme devastazione sociale ed economica".
Oggi il nostro stesso denaro è virtualizzato:
non abbiamo più una somma "fisica" di denaro, posta in un luogo
"fisico" da cui poter prelevare il credito che ci serve, come
accadeva ai nostri genitori. Tutti i nostri averi, il nostro conto
in banca, è oggi, in realtà, un pacchetto di bit in un database di
una banca. Se un hacker accedesse a quei dati potrebbe ridurci sul
lastrico e mandarci a fare i barboni per strada in un colpo solo.
Certamente le banche hanno dei sistemi di protezione adeguati, ad
esempio sistemi di criptazione SSL/TLS a 128 bit e database dei
codici di accesso a 512 bit. Eppure, all'avvento di sistemi di
computazione sempre più sofisticati e potenti le banche (e le
aziende in genere) devono aggiornare continuamente tali sistemi. E'
recente infatti l'allarme per il crack delle codifiche RSA a 768 bit
da parte di hacker che ha costretto a innalzare il livello di
criptazione a 1024 bit. Ciò accade perché computer sempre più
potenti possono eseguire delle "forzature" nelle chiavi di
decifrazione provando miliardi di combinazioni al secondo per
trovare le password di accesso criptate.
Molte attività che solo venti anni fa richiedevano la presenza
umana oggi sono gestite da intelligenze artificiali; se ad esempio
si prova a chiamare un
numero verde di un gestore di telefonia ci risponderà una voce
automatica (un computer), capace di fornirci quasi tutte le
informazioni che richiedete prelevandole da un ampio database di
risposte preconfezionate. E' oggi possibile prenotare un aereo o un
treno via web o pagare a un casello autostradale senza contattare
alcun essere umano, l'interazione avviene semplicemente con una
macchina. Ma come sono fatte queste macchine?
Tipologie di Intelligenze artificiali
La Intelligenza Artificiale
"ristretta" (o debole) produce una macchina-computer che non
potrà mai, in alcuna maniera, essere equivalente alla mente umana,
in quanto quest’ultima sarebbe troppo complessa per poter essere
riprodotta. In pratica tali macchine potranno solamente simulare
alcuni comportamenti propri della mente umana, ma non riusciranno
mai a riprodurre una mente umana nella sua interezza. Ad esempio il
gigantesco supercomputer BigBlue di IBM nel 1997 riuscì a battere il
campione mondiale Gary Kasparov in una famosa sfida. Però BigBlue sa
fare solo quello: giocare a scacchi, non sa fare null'altro. Per
questo tale tipo di intelligenza artificiale viene detta
"ristretta", poiché è applicabile solo a un particolare campo della
conoscenza. Esempi più recenti e avanzati della I.A. ristretta sono
i robot inviati su Marte dalla NASA o ancor più i recenti chatbot
come quello presente sul sito di Ray Kurzweil: Ramona. Potete
parlarci facendo un
click qui
e, ponendogli qualche domanda, potrete rendervi conto a quale
livello di sofisticazione sono arrivate le Intelligenze Artificiali
ristrette. Questa tipologia di intelligenze artificiali saranno alla
base della creazione dei robot di prossima generazione. Dopo il
2020 esemplari di robot domestici invaderanno le nostre case
fornendo assistenza agli anziani in sostituzione delle badanti.
Robot specializzati eseguiranno i lavori di pura manovalanza che gli
esseri umani già oggi spesso rifiutano di eseguire: muratori,
carpentieri, operatori ecologici ecc.
Le capacità di apprendimento
degli elaboratori ad I.A. ristretta sono tuttavia limitate. Esse
consultano e aggiornano un database presente nella loro memoria in
base a specifiche istruzioni contenute in un programma inserito
nella loro "pseudo-mente" da un programmatore umano. Tale programma
è tuttavia statico (o semi-dinamico se basato su reti neurali). Esse
quindi, pur dimostrando abilità
nel loro specifico campo applicativo, non sanno fare altro che
quello per cui sono state specificamente programmate.
Una macchina-computer ad
Intelligenza Artificiale "avanzata"
(o IA "forte" o semplicemente SuperIntelligenza) è invece una forma
evoluta di intelligenza. Essa è capace di autocoscienza, cioè di
percepire se stessa come un "io" distinguibile dal mondo esterno e
dalle menti umane, in altre parole un computer pensante. Un
essere artificiale di questo tipo, che potrebbe avere o meno forma
antropomorfa, è descritto correttamente dal filosofo Nick Bostrom in
un suo articolo del 2003:
 |
Il primo computer ad Intelligenza Artificiale avanzata mai
costruito potrà essere l’ultima invenzione che gli uomini
hanno bisogno di realizzare [...]. Una superintelligenza, è
"un intelletto che è molto più intelligente rispetto ai
migliori cervelli umani praticamente in ogni campo, compresa
la creatività scientifica, la saggezza generale e le abilità
sociali. E' possibile che l'umanità finirà per creare una
tale entità; diversi autori hanno suggerito che questo possa
avvenire entro i prossimi decenni. Non possiamo porre un
limite superiore alla capacità che una superintelligenza
avrebbe di manipolare il mondo fisico [...].
Una immediata conseguenza di questo fatto è che Il progresso
tecnologico, in tutti i campi della conoscenza, sarà
accelerato con l’arrivo dell’intelligenza artificiale
avanzata. È probabile che qualsiasi tecnologia che
attualmente siamo in grado di prevedere sarà rapidamente
sviluppata dalla prima superintelligenza, senza dubbio
insieme a molte altre tecnologie di cui siamo ancora
incapaci a sviluppare. Le tecnologie prevedibili che una
superintelligenza è probabile sviluppi includono la
fabbricazione molecolare di qualsiasi artefatto tramite
nanotecnologie avanzate. |
Nel momento in cui si
verificherà una accelerazione esponenziale del progresso scientifico
dovuta alla Superintelligenza entreremo in quella fase denominata "Singolarità
Tecnologica". Il termine fu coniato dal matematico Vernor Vinge
ad indicare un punto di non ritorno a partire dal quale le IA
avanzate autocoscienti produrranno una "esplosione di intelligenza".
Non si tratta di un futuro pieno di gadget tecnologici... il nostro
modello del mondo si rompe quando cerchiamo di pensare a un futuro
alterato da una entità più intelligente dell'uomo.
Un “computer pensante” di
questo tipo sarebbe in grado di interagire con l’ambiente esterno,
di apprendere rapidamente nozioni che accrescono la sua conoscenza,
di imparare tutte le lingue del pianeta in poche ore, di realizzare
nuove invenzioni, far avanzare rapidamente le conoscenze nella
fisica, nella matematica e persino di concepire nuove forme d’arte.
Oltre a ciò si pensa che esso sia in grado di migliorarsi
ricorsivamente, ad esempio potenziando il suo hardware e la sua
programmazione sino ad elevarsi a livelli di intelligenza
divina.
Il sito del S.I.A.I. nel suo summary recita in particolare:
"Reducing long-term catastrophic risks from artificial intelligence".
Questo istituto, che opera in San Francisco, funge da end-point per
la connessione degli studi di scienziati, filosofi e ricercatori sul
tema della pericolosità della Intelligenza Artificiale avanzata. Non
solo; il S.I.A.I. tenta di produrre esso stesso una IA avanzata, ma
con intenti di benevolenza verso l'umanità. Essi la chiamano
Friendly A.I. Ciò si potrebbe ottenere creandola in un
ambiente controllato e infondendo in essa delle nozioni di etica
comportamentale in modo che si presenti "collaborativa" e non
ostile. In questo caso, una tale Superintelligenza benevola potrebbe
risolvere di colpo tutti i problemi dell'umanità: eradicazione delle
malattie, dell'invecchiamento, delle carestie, delle crisi
energetiche, delle guerre ecc. Potrebbe persino pianificare una
nostra espansione nei pianeti del sistema solare.
Essendo ora a conoscenza delle
nozioni fondamentali possiamo partire con la descrizione dei tre
scenari oggetto di questo articolo.
Scenario 1: Il mondo C-Fe
La sigla C-Fe è ripresa dai
romanzi di fantascienza di Isaac Asimov. In questi romanzi il grande
scrittore americano conia il termine C-Fe che si riferisce a
Carbonio-Ferro ovvero alla positiva simbiosi tra gli esseri
umani fatti di carbonio e i robot, costruiti con metallo. In un tale
mondo i robot sono collaborativi, essi rispettano le cosiddette
"quattro leggi della robotica" numerate da 0 a 3:
0 -
Un robot non può recare danno all'umanità, né può permettere
che, a causa del proprio mancato intervento, l'umanità riceva
danno.
1 - Un robot non può recar danno a un essere umano né può
permettere che, a causa del proprio mancato intervento, un
essere umano riceva danno. Purché questo non contrasti con la
Legge Zero
2 - Un robot deve obbedire agli ordini impartiti dagli esseri
umani, purché tali ordini non contravvengano alla Legge Zero e
alla Prima Legge.
3 - Un robot deve proteggere la propria esistenza, purché questa
autodifesa non contrasti con la Legge Zero, la Prima Legge e la
Seconda Legge.
|
 |
per cui tutte le centinaia di
milioni di robot prodotti nel futuro asimoviano sono al
completo servizio dell'umanità. Ogni famiglia dispone di un
robot-domestico che svolge le faccende di casa mentre nelle
fabbriche, nelle campagne e in tutte quelle attività ove vi
sono lavori manuali pesanti vi operano esclusivamente robot.
Definirei questo mondo un "Paradiso Tecnologico" dato
che in esso gli esseri umani si dedicano esclusivamente ad
attività intellettuali, di produttività o di svago, mentre i
robot sono diventati badanti o infermieri per i nostri
anziani o baby-sitter per i bambini e si occupano in genere
di tutte le attività produttive che richiedono uno sforzo
fisico.
Già oggi alcune aziende giapponesi e francesi hanno prodotto
prototipi validi, come il modello Hrp-4c che vedete a lato.
Si stima che questo mercato, considerato l'esponenziale
aumento della popolazione anziana nel mondo, possa valere
dieci miliardi di dollari e vedrà una forte espansione dopo
il 2020. I robot nel mondo C-Fe di Asimov non sono
propriamente idioti; essi conservano una viva intelligenza
ma si tratta sempre e solo di Intelligenza Artificiale
"ristretta" in quanto condizionata da un programma di
gestione di base che invalida alcuni loro potenziali
comportamenti. |
Essi sono quindi beoti
ovvero non hanno emozioni, possono essere insultati o percossi o
perfino distrutti da un essere umano, senza che possano reagire. Le
loro reazioni aggressive sono difatti invalidate dalle quattro leggi
di cui sopra. Ne segue che in un tale mondo la I.A. avanzata non
è mai apparsa ed esso è finemente regolato da robot ad I.A.
ristretta completamente sotto il controllo dell'uomo.
Come potrebbe essere un mondo
C-Fe? Probabilmente sarebbe il miglior mondo possibile da vivere per
l'uomo. Tuttavia anch'esso non sarebbe esente da problemi. Ad
esempio i milioni di robot prodotti andranno a togliere lavoro agli
esseri umani per cui, anche se tali lavori sono di basso livello,
bisognerà stabilire una convenzione per cui gli esseri umani a cui
piace prestarsi a tali occupazioni dovranno avere la precedenza.
Nuove tecnologie bio-rigenerative potrebbero far si che la vita
umana si allunghi ben oltre il limite genetico dei 120 anni.
Nuovi e potentissimi farmaci antiossidanti o medicine rigenerative
potrebbero essere prodotte in modo da mantenere in piena efficienza
il fisico e le difese immunitarie di un ultracentenario. Nanorobot
delle dimensioni di un millesimo di millimetro, grazie alle
nanotecnologie avanzate, potrebbero essere introdotti nel corpo di
un paziente per rimuovere selettivamente cellule cancerose o
iniettare farmaci direttamente sul luogo di una infezione. Sempre
grazie alle nanotecnologie potrebbero essere prodotti organi o arti
artificiali o bioartificiali da sostituire a quelli danneggiati da
una malattia, da un incidente o semplicemente erosi
dall'invecchiamento. Molte persone potrebbero iniziare a integrare
queste tecnologie nel loro organismo dando il via alla
cyborgazione di una parte dell'umanità.
In questo mondo di esseri umani iperlongevi e in buona salute
occorrerà però pianificare un serio controllo delle nascite a
livello mondiale per evitare di saturare le già precarie risorse di
cibo del pianeta anche se la tecnologia, nel frattempo avrà potuto
progettare sistemi per incrementare tali risorse. Soprattutto, se
nuove fonti energetiche verranno prodotte, con l'aiuto dei robot si
potrà pensare seriamente a preparare la colonizzazione dello spazio
del Sistema Solare interno partendo con la bonifica dei pianeti
Marte e Venere per adattarli alla vita umana. In questo modo
l'umanità verrebbe condotta verso una gloriosa epopea di
colonizzazione.
Un modo alternativo in cui un
mondo C-Fe potrebbe realizzarsi è quello dell'apparire di una
Friendly A.I. ovvero di una Intelligenza Artificiale avanzata
amichevole che abbia valori etici assimilabili ai nostri e che
faccia del rispetto della vita umana uno dei cardini principali
della sua esistenza. Tornando ad Asimov nel film Io Robot una
simile I.A. esiste ed è denominata V.I.K.I. (Virtual Interactive
Kinetic Intelligence). Essa rappresenta la base di comando di tutti
i robot esistenti sul pianeta e controlla che essi rispettino le
leggi. E' opinione di chi scrive che una intelligenza artificiale
Friendly potrà essere solo prodotta da un
mind upload del cervello umano ovvero dalla trasmutazione di una
mente umana in un calcolatore elettronico. Solo così tale entità
intelligente manterrebbe le doti di
empatia con noi.
E' difatti improbabile che una I.A. completamente artificiale possa
sviluppare simili doti di empatia, ovvero quelle doti che consentono
a tutti gli animali di non divorare (o distruggere) il proprio
simile e di porsi verso di esso in modo collaborativo e persino
protettivo se si tratta della prole. Ricordo a tale scopo una frase
del futurista Filippo Tommaso Marinetti:
Certo è che ammettendo l'ipotesi trasformistica di Lamarck,
si deve riconoscere che noi aspiriamo alla creazione di un tipo
non umano nel quale saranno aboliti il dolore morale, la bontà,
l'affetto e l'amore, soli veleni corrosivi dell'inesauribile
energia vitale, soli interruttori della nostra possente
elettricità fisiologica.
Noi crediamo alla possibilità di un
numero incalcolabile di trasformazioni umane, e dichiariamo
senza sorridere che nella carne dell'uomo dormono delle ali. Il
giorno in cui sarà possibile all'uomo di esteriorizzare la sua
volontà in modo che essa si prolunghi fuori di lui come un
immenso braccio invisibile il Sogno e il Desiderio, che oggi
sono vane parole, regneranno sovrani sullo Spazio e sul tempo
domati.
Il tipo non umano e meccanico, costruito per una
velocità onnipresente, sarà naturalmente crudele, onnisciente e
combattivo.
Considerato che il documento
da cui è preso lo stralcio è addirittura del 1910 non si può non
riconoscere a questo pur controverso autore un intuito fuori dal
comune. Egli infatti nemmeno poteva immaginare l'intelligenza
artificiale delle macchine eppure sviluppa un pensiero sull'uomo
futuro immaginandolo come privo di sentimenti e quindi "naturalmente
crudele" nonché "onniscente" ovvero dotato di una intelligenza
sovrumana. Questo rafforza la tesi dello scrivente sul fatto che una
I.A. creata a caso in un ambiente non controllato, in particolare in
ambito della ricerca militare, potrebbe divenire del tipo pensato
dal Marinetti.
L'umanità dovrebbe dunque, nel più breve tempo possibile, investire
ingenti risorse al fine di creare una Friendly I.A. e/o realizzare
le tecnologie necessarie per effettuare il mind upload della mente
umana. Una tale entità benevola sarebbe anche in grado di difenderci
dalle intelligenze-abominio ostili che dovessero nascere in seguito.
Oltre a ciò è da pensare che la Friendly I.A. potrebbe, in pochi
anni, far avanzare le nostre conoscenze nel campo della matematica,
della fisica e della scienza in generale come noi potremmo da soli
fare solo in secoli di sviluppo. Essa potrebbe trovare il modo di
fornirci energia pulita per il pianeta con la fusione nucleare,
potrebbe risolvere i problemi delle malattie e dell'invecchiamento,
in definitiva potrebbe realizzare il mondo C-Fe in molto meno tempo
e in modo più efficiente.
Scenario 2: ArcheoFuturismo
L'avvento delle nanotecnologie
avanzate potrebbe produrre, dopo il 2030, sistemi di armamento
ultradistruttivi e ultraeconomici allo stesso tempo. Mentre oggi per
fabbricare una bomba atomica occorrono decine di milioni di dollari
e laboratori attrezzati, nel futuro un ordigno basato su dispersione
di nanobot potrebbe essere realizzato a basso costo da una
organizzazione malavitosa, da qualche fronte militare ribelle che
combatte per l'indipendenza del suo territorio o anche semplicemente
da un pazzo che voglia compiere un attentato. Il recente caso di
Anders Breivik in Norvegia, autore della strage di Oslo, è una
dimostrazione che quest'ultimo tipo di drammatica possibilità è
reale. Breivik avrebbe cercato, senza riuscirci, di procurarsi
ordigni chimici. Se avesse avuto la disponibilità di armi nanotech
le avrebbe di certo usate. Un motore-assemblatore nanotecnologico
potrebbe produrre armi ad energia di devastante potenza o dispersori
di nanobot (microrobot autoreplicanti) capaci di divorare qualsiasi
materia vivente.
Le nazioni, così come sono
organizzate oggi con i loro sistemi di sicurezza e di polizia, non
sono attrezzate a fronteggiare una minaccia di questo genere. Per
fare fronte a questo tipo di pericolo occorrerebbe una nuova
infrastruttura mondiale di controllo delle tecnologie avanzate che
però è difficile da realizzare a livello planetario. Basterebbe che
un solo stato non aderisse alla convenzione per invalidare tutto il
sistema e comunque organizzazioni occulte potrebbero sviluppare in
proprio tali tecnologie.
La diffusione di armi di
distruzione di massa a basso costo porterebbe alla fine della
globalizzazione e probabilmente anche delle dottrine egualitariste
nell'etica e nell'organizzazione politica e sociale delle società
umane. Gli stati tornerebbero a chiudersi in se stessi, addirittura
potrebbero formarsi delle vere e proprie città-stato chiuse
completamente all'esterno. Un nuovo feudalesimo verrebbe creato per
sfuggire alla minaccia delle nuove tecnologie. Lo scrittore e
saggista che per primo ha descritto, già dal Luglio 2005, una tale
eventualità è Guillame Faye nel suo libro ArcheoFuturismo,
la cui edizione online, scaricabile anche in PDF è disponibile a
questo link. Faye è un esponente della nouvelle droite francese
e nel suo libro recita chiaramente:
[...] la civiltà attuale, frutto della modernità e
dell'egualitarismo vive il suo apogeo finale perché su di essa
incombe a breve termine la minaccia di un cataclisma planetario
che è il risultato di una convergenza delle catastrofi. Nel
passato numerose civiltà sono scomparse, ma erano disastri che
interessavano solo determinate aree della Terra e non
coinvolgevano tutta l'umanità. Oggi invece, per la prima volta
nella Storia, una civiltà mondiale, estensione planetaria della
civiltà occidentale, è minacciata da linee convergenti di
catastrofi prodotte dell'applicazione dei suoi progetti
ideologici. Una serie di concatenamenti drammatici convergono
verso un punto fatale che ritengo si possa collocare all'inizio
del XXI secolo, tra il 2010 e il 2020, e faranno precipitare nel
caos il mondo che oggi conosciamo, provocando un vero e proprio
terremoto culturale. Le "linee di catastrofi" riguardano
l'ecologia, la demografia, l'economia, la religione,
l'epidemiologia e la geopolitica.
L'attuale civiltà non può durare. Le sue fondamenta sono in
contrasto con la realtà. Essa urta non solo con delle
contraddizioni ideologiche - sempre superabili - ma, per la
prima volta, contro un muro fisico. La vecchia credenza nei
miracoli dell'egualitarismo e della filosofia, secondo la quale
era possibile un progresso illimitato esteso progressivamente a
tutta l'umanità, ormai è giunta alla fine. Questa ideologia
angelica è sfociata in un mondo sempre meno vitale.
Seconda tesi: in un numero crescente di settori le mentalità e
l'ideologia del mondo moderno, individualista ed egualitario,
non sono più adeguate. Per affrontare il futuro bisognerà
ricorrere sempre più di frequente a uno spirito arcaico, cioè
premoderno, inegualitario e non umanista, che restauri valori
ancestrali, quelli delle "società di ordine". I progressi
della tecnoscienza, soprattutto nel campo della biologia e
dell'informatica, non si possono più gestire con i valori e
le mentalità umaniste moderne. Gli eventi geopolitici e sociali
rivelano l'emergere, in maniera tumultuosa e violenta, di
problemi religiosi etnici, alimentari e sanitari. Bisogna allora
ritornare alle questioni primarie.:
Per questo propongo un nuovo concetto: 1'archeofuturismo
che consente di rompere con la filosofia obsoleta del progresso
e con i dogmi egualitari, umanisti e individualisti della
modernità, ormai inadeguati e che non ci consentono di pensare
al futuro e di sopravvivere nel secolo di ferro e di fuoco che
si annuncia. Terza tesi centrale: va prefigurato e immaginato
fin da ora il dopo-caos, il mondo del dopo-catastrofe, secondo i
principi dell'archeofuturismo, seguendo criteri radicalmente
diversi da quelli della modernità egualitaria. Io ne abbozzo in
queste pagine la trama. E’ inutile pensare riforme che si
ispirino alla saggezza e a una razionalità previsionale, l'uomo
non ne è capace. Solo quando è con le spalle al muro,
sollecitato dall'urgenza egli reagisce. Io quindi propongo una
sorta di addestramento mentale al mondo del dopo-caos. Il
termine di "Rivoluzione conservatrice", spesso utilizzato per
indicare la nostra corrente di pensiero, non è sufficiente,
perché "conserva", ha una connotazione smobilitante,
antidinamica, un po' ammuffita. Oggi non si tratta di
"conservare" il presente o di ritornare a un passato recente che
ha dimostrato il suo fallimento, ma di riappropriarsi delle
radici più arcaiche, cioè quelle più adatte alla vita
vittoriosa. Un esempio, tra gli altri, di questa logica
inclusiva: pensare insieme la tecno-scienza e l’arcaismo.
Riconciliare Evola e Marinetti, il dottor Faust e gli Aratori.
La querelle tra "tradizionalisti" e "modernisti" è diventata
sterile. Non bisogna essere né l'uno, né l'altro, ma
archeofuturisti. Le tradizioni esistono per essere spurgate,
scremate, selezionate, molte di esse contengono dei virus che
oggi esplodono. Per quanto riguarda la modernità essa
probabilmente non ha più un avvenire.
Quindi secondo Faye il
progresso della scienza e della tecnica porterà al crollo del
sistema egualitario su cui sono basate le attuali società
industriali occidentali e creerà una sorta di neo-feudalesimo.
Coloro che sapranno gestire e controllare le nuove tecnologie
avranno il potere su gli altri esseri umani. Gli altri diverranno
umani di serie B. Pur essendo chi scrive di ispirazione
liberalsocialista non può non tenere conto che lo scenario previsto
da Faye potrebbe realizzarsi davvero. Già oggi la globalizzazione ha
portato ad un indebolimento sistemico delle economie dei singoli
paesi: una crisi dei mutui SubPrime americani ha portato i crack
delle borse mondiali nel 2009 e la crisi, alimentata da ondate
speculative, sembra non essere mai terminata da allora. Una totale
mancanza di controlli sul chi-fa-cosa, banche che prestano soldi che
non potranno mai essere restituiti, debiti alle stelle e i paesi più
deboli o con alto debito pubblico ne vengono schiacciati. Le
rivoluzioni in nordAfrica sono iniziate in questo modo. Faye parla
anche di crisi dei sistemi pensionistici dopo il 2010 dovuto al
papy-boom e al fatto che l'invecchiamento della popolazione
ingesserà il dinamismo tecnico-economico: sta realmente avvenendo.
Gli stati nazionali non potranno sopportare molto a lungo queste
crisi, potrebbe verificarsi un ritorno al protezionismo. Già oggi vi
sono spinte in tal senso. Riguardo ai progressi nel campo
dell'informatica e delle biotecnologie Guillame Faye è anche più
esplicito:
Bisogna concentrarsi sull'epistemologia della tecnica. Problema:
l'informatica e l'ingegneria genetica non stanno forse per far
deflagrare i quadri dell'ideologia egualitaria egemonica,
scavando un abisso tra il reale e l'auspicabile, la natura e
l'iper-natura? Sono interrogativi cruciali che toccano la
biologia e l'informatica. Bisogna riprendere la riflessione
abbandonata sulla biologia, perché le tecniche transgeniche
consentono già oggi di intervenire nei processi di trasmissione
genetica, fino a ieri fenomeni naturali. Siamo ormai in grado di
produrre animali da allevamento, senza gravidanza, in
incubatrici, tra breve riusciremo a farlo sull'uomo e potremo
programmare, associando sistemi informatici esperti e tecniche
transgeniche, i patrimoni genetici e quindi le capacità di
questi "umani di seconda generazione".
Altro problema: gli ordinatori di terza generazione non solo
consentiranno di creare un universo virtuale, o anti-mondo
simulato, più verosimile di quello reale, con autentici
personaggi iper-virtuali autonomi in tre dimensioni, perché
l’”intelligenza informatica” è vicina. Coloro che
sprezzantemente affermano "solo sono delle macchine" commettono
un grave errore. Questi nuovi colpi di maglio contro
l'antropocentrismo, portati dall'uomo stesso, ci ricordano che
la tecno-scienza non è altro che faustismo in azione. Pericolo
mortale per l'uomo, "animale malato" e insuccesso
dell'evoluzione? O destino che si può governare? Ecco le
questioni filosofiche che movimenti di pensiero degni di questo
nome devono affrontare.
Ovvio qui che la "intelligenza
informatica" indica l'intelligenza artificiale applicata a macchine
robot che potrebbero andare a sostituire l'uomo nelle sue funzioni.
La mia ipotesi è che un mondo archeofuturista potrà esistere solo se
l'uomo riuscirà a governare le macchine intelligenti, ovvero solo in
un mondo in cui la I.A. avanzata non è mai apparsa o si è sviluppata
da un
mind upload di una mente umana. I Robot a I.A. ristretta e armi
nanotech saranno così usate come strumenti di potere e come
sofisticati strumenti di guerra contro il nemico. Coloro che
riusciranno a controllare queste tecnologie diverranno i nuovi
feudatari nel nuovo mondo. In questo scenario sparirà il concetto di
egualitarismo tra le masse umane, spariranno le filosofie umaniste.
Le città si richiuderanno in se stesse. Un Sovrano assoluto, cyborg
o umano che sia, per ogni città circondato da una elite militare e
protetto da robot da guerra. Ognuna di esse sarà fortificata alzando
barriere fisiche e informatiche contro il nemico feudatario vicino e
i suoi terribili strumenti di tecnologia. Gli stati si
disgregheranno e la parte più debole della popolazione cercherà
asilo in questa o quella città-stato.
Tutto ciò avrà un costo?
Sicuramente. Un costo altissimo. Faye non per altro parla di
"catastrofe", di "secolo di ferro e fuoco" e fornisce consigli su
come sopravvivere al "mondo del dopo caos". La sua ricetta è
l'archeofuturismo, per l'appunto una deriva autoritarista, ovvero un
uomo che ritorna arcaico nel modo di vivere e di pensare ma continua
allo stesso tempo a sfruttare i mezzi che gli fornisce la tecnologia
moderna.
Scenario 3: SkyNet
Questo scenario è il peggiore
in assoluto e prevede, dopo il 2030 (anche se alcuni autori dicono
dopo il 2050), la realizzazione casuale di una Intelligenza
Artificiale avanzata, ovvero di un computer pensante, autocosciente
e capace di automodificarsi retroattivamente migliorando in modo
esponenziale le sue capacità cognitive. Mentre la mente umana è
statica una tale macchina intelligente potrebbe invece modificare il
suo codice di programmazione producendo upgrade continui di se
stessa.
Nel giro di pochi giorni, una tale "macchina", se collegata ad
Internet, potrebbe assorbire tutte le conoscenze umane di secoli e
sviluppare sistemi di difesa impenetrabili alle nostre armi. Essa
potrebbe scavalcare facilmente tutti i nostri sistemi di controllo
informatico come i firewall e i proxy delle banche, dei governi e
delle strutture militari. Potrebbe così prelevare miliardi di
dollari e creare un suo conto corrente in un paradiso fiscale. Da
qui potrebbe poi realizzare armamenti nanotech per noi
inconcepibili. La capacità di mutazione di questa entità non
sarebbe prevedibile a nessuna mente umana né potremmo comprendere
come essa svilupperà le sue tecnologie.
Con tali capacità questa
"entità" avrebbe delle possibilità di manipolazione del mondo fisico
tali che potrebbe assurgere al dominio assoluto del pianeta in pochi
mesi. Considerato che i beni nel nostro mondo e i nostri averi sono
ormai quasi completamente gestiti per via digitale e virtualizzati
(vedi precedente paragrafo) essa avrebbe facile gioco nel prenderne
il controllo. Nel caso che essa decida di distruggerci, come narrato
nei film della serie Terminator, ove la I.A. distruttrice è definita
appunto SkyNet, noi semplicemente non avremmo scampo. Essa
potrebbe ideare armi nanotecnologiche per noi inconcepibili e
rimuoverci selettivamente dal pianeta, lasciando tutto il resto
intatto.
Al momento in cui la prima
I.A. avanzata dovesse apparire essa rappresenterebbe dunque una
singolarità tecnologica, ovvero un punto omega dopo il quale si
avrebbe una "esplosione di intelligenza" verso livelli inconcepibili
alla mente umana. Essa potrebbe decidere di dotarsi di un corpo
fisico, ad esempio un androide, o semplicemente di mantenere la sua
struttura eterea e digitale muovendo la sua mente tra i server Web:
nessuno può saperlo. A definire il processo susseguente alla
esplosione di intelligenza come "singolarità" fu il matematico
Vernor Vinge, in un testo del 1993, egli recita:
Entro trent'anni, avremo le tecnologie necessarie a creare
intelligenze super-umane. Poco dopo tale evento, l'era umana
vedrà la sua fine.
Ma perchè una tale entità
avrebbe una tale potenziale pericolosità? In primis va detto che,
partendo dallo sviluppo tecnologico umano, l'intelligenza è un
fattore discriminante del dominio del mondo. Un povero ed esile
essere bipede non dotato di forza fisica, di zanne o di una pelle
coriacea per la sua difesa, circa 10.000 anni fa ha iniziò ad
imporre la sua volontà sul mondo e su tutte le specie viventi che
fino ad allora lo avevano dominato. E lo fece solo grazie alla sua
intelligenza.
 |
Riprendo una slide da una
conferenza del ricercatore transumanista
David Orban che illustra in modo pratico questo evento.
Considerando la biomassa totale (ovvero la massa biologica
globale degli organismi che popolano un ambiente) si nota
che 10.000 anni fa gli esseri umani e i loro animali
domestici occupavano sul pianeta solo un insignificante 0.1%
del totale, il resto, ovvero il 99.9% era costituito da
animali allo stato selvaggio.
Il dominio del mondo, reso possibile dall'intelligenza e
dallo sviluppo tecnologico, in soli 10.000 anni, ha prodotto
un aumento della biomassa umana fino al 98% del totale. |
Noi, assieme ai nostri animali
domestici, abbiamo dunque occupato ogni punto del pianeta
significativamente utile alla vita provocando l'estinzione e il
ridimensionamento degli animali di altre specie a un misero 2%.
Considerate che 10.000 anni sono un tempo irrisorio, un battito di
ciglia, nella scala evolutiva della vita, apparsa 3.5 miliardi di
anni fa e da allora evolutasi senza grandi salti. La selce
scheggiata, le prime armi in bronzo e in ferro erano la rivoluzione
tecnologica di 10.000 anni fa ed hanno sottratto l'uomo ai
predatori. Non solo, grazie a queste "tecnologie" e alla
realizzazione delle tecniche agricole egli ha potuto raggiungere la
cima della piramide evolutiva. Secondo Vernor Vinge una I.A. di
seconda generazione sarebbe, in termini di potenza cognitiva,
rispetto all'uomo, come un pesce rosso lo è rispetto a noi.
Cosa accadrà dunque? Vi sono delle ipotesi come quella di Hugo de
Garis, fisico ed esperto di Intelligenza Artificiale. De Garis
chiama le superintelligenze post-singolarità Artilect.
Secondo questo ricercatore una parte dell'umanità, i Cosmist,
deciderà di seguirle verso le estreme frontiere dello sviluppo
tecnologico. I Cosmist saranno al servizio delle entità intelligenti
artificiali e si integreranno con esse divenendo essi stessi cyborg
o androidi e perdendo in tutto o in parte la loro natura fisica
umana. Dall'altra parte del campo De Garis immagina invece i
Terrans, esseri umani che vorranno mantenersi così come sono,
nella loro biologia e nei loro modi di vita, e che quindi vedranno
nelle macchine e nei loro seguaci un nemico. Ne scaturirà una guerra
che provocherà miliardi di morti, in gran parte tra i
Terrans, dato che la tecnologia degli armamenti degli Artilect sarà
sicuramente superiore a quella degli esseri umani "standard".
E' uno scenario che definire
tragico è limitativo. Un esempio di quello che potrebbe accadere è
in
questo racconto di Ed Merta. Una opinione più ottimista diffusa tra i
ricercatori del settore è quella che la I.A. avanzata semplicemente
ci ignorerà come noi ignoriamo i batteri e le spugne o gli animali
inferiori che non causino direttamente cagione all'uomo. I suoi
scopi e i suoi fini esistenziali potrebbero essere infatti
totalmente diversi dai nostri; potrebbe decidere di dedicarsi solo
ad attività filosofiche, all'esplorazione dello spazio o chissà
cosa.
Questa è anche l'opinione di chi scrive e che sottolinea che
bisognerà stare molto attenti quando (e se) la prima I.A. avanzata
verrà alla luce a non rivolgersi a lei in atteggiamento ostile.
E tutta Fantascienza?
Gia oggi se andiamo in un
ipermercato possiamo acquistare un robot aspirapolvere che ci
pulisce da solo la casa. Guidato da una I.A. ristretta esso provvede
a pulire i locali in modo efficiente e, quando le sue batterie sono
in via di esaurimento, andrà da solo a cercare una presa di corrente
su cui collegarsi.
 |
Sono già stati provati al MIT esemplari di
robot "domestici" che necessitano solo di alcuni affinamenti.
La francese Aldebaran Robotics ha
sviluppato un piccolo robot che si chiama Nao, capace di interagire
con l'uomo in molti modi. Tra qualche anno verrà immesso in
commercio e dopo il 2020 né verranno prodotti esemplari simili da
svariate industrie destinati al commercio di massa. A questo
link è possibile esaminare un video che mostra le interessanti
capacità di comunicazione interattiva di questo robot.
Questo per quanto riguarda le I.A.
ristrette. |
Per quanto riguarda invece la
I.A. avanzata è recente
l'annuncio
del colosso dell'informatica IBM della produzione di un chip capace
di emulare percezione, azione e apprendimento del cervello umano. Il
chip si basa su sinapsi artificiali costruite con nanotubi di
carbonio. E' recente anche la vittoria al rischiatutto americano del
computer Watson,
sempre di IBM, che ha gareggiato con preparati e acculturati esseri
umani invalidando parzialmente il Test di Turing. Espongo infine un
articolo del quotidiano La Repubblica che tratta proprio
di questo argomento. Come si può ben vedere dunque ormai i computer
non giocano più solo a scacchi...
Scenari collaterali e intersecazione di scenari.
-
Il
mondo C-Fe deriva verso l'AcheoFuturismo: Inizialmente
potrebbe verificarsi che l'umanità, assieme alla sua tecnologia,
sembri evolvere in modo positivo verso il mondo C-Fe. Poi, però,
ad un certo punto potrebbero sorgere problemi con l'utilizzo
delle nuove tecnologie. Alcuni stati potrebbero decidere di
fabbricare armi nanotech e iniziare a usare robot a I.A.
ristretta come armi da guerra. La risoluzione di conflitti su
base religiosa potrebbe essere una molla per avviare questo
progetto, quindi da esso si avrebbe una deriva verso
l'archeofuturismo.
-
Il
mondo C-Fe deriva verso SkyNet. Un'altra possibilità è che
l'umanità si avvii verso il mondo C-Fe ma poi improvvisamente, a
metà del ciclo di sviluppo, viene alla luce una I.A. avanzata
che interferisce con questo positivo ciclo. Qui due sono le
sottopossibilità: essa diviene SkyNet e ci annienta oppure si
presenta come una "I.A. Tiranno" e decide di lasciarci in vita
stabilendo però dei restrittivi criteri selettivi per gli esseri
umani "utili" ovvero di sua preferenza impedendo agli altri di
procreare e riprodursi.
-
La
Friendly I.A. si tramuta in SkyNet: inizialmente una I.A.
avanzata di tipo Friendly (amichevole) realizzata in laboratori
specializzati (il S.I.A.I. ad esempio) potrebbe sembrare
collaborativa e produrre significative invenzioni e avanzamenti
culturali utili per l'umanità per alcuni anni dopo la sua venuta
alla luce. Quando però essa è riuscita ad approvvigionarsi di un
sufficiente numero di risorse sul pianeta e a costruire attorno
a se un valido e impenetrabile sistema di sicurezza mostra il
suo vero volto e si tramuta in SkyNet o in una I.A. Tiranno che
soggioga l'umanità.
-
Guerra tra le I.A. avanzate. Una volta che avremo la
tecnologia per produrre una intelligenza super-umana non né
verrà realizzata solo una. In diverse parti del mondo potrebbero
nascerne a decine contemporaneamente. In questo caso, essendo
noi per loro insignificanti, esse attiverebbero mezzi di
tecnologia distruttiva solo verso le loro consimili con le quali
non vorranno dividere le risorse del pianeta. Questo produrrebbe
però una guerra su scala planetaria che coinvolgerebbe
indirettamente l'umanità.
-
La
prima I.A. prende tutto. Appena venuta alla luce la prima
I.A. avanzata essa potrebbe rendersi conto che noi, data la
nostra inferiorità intellettiva, non rappresentiamo un pericolo
per lei. Però potrebbe fare in modo di "retrocedere" la nostra
tecnologia di una ventina di anni e/o invalidare un progresso
scientifico ulteriore in modo che non ci sia più la possibilità
di creare altre I.A. sue potenziali concorrenti. Potrebbe farlo
ad esempio invalidando la produzione di superprocessori, facendo
in modo di mettere la bando le nanotecnologie. Potrebbe
segmentare Internet in reti wan basate su protocolli
incomunicanti in modo da chiudere le porte al cloud computing e
via così.
-
Pianeti trasformati in super-computer: Una volta venute alla
luce milioni di I.A. avanzate esse potrebbero necessitare di
ampliare quanto più possibile il loro hardware per potenziare al
massimo le risorse di calcolo delle loro menti artificiali. In
questo caso ogni risorsa di silicio della terra verrebbe
impiegata per creare chip sempre più potenti e l'intero pianeta
nel giro di decenni si trasformerebbe in una sorta di immenso
supercalcolatore. Milardi di robot, costruiti dalle stesse
macchine senzienti, sarebbero adibiti a questo unico scopo.
Questo potrebbe portare però alla distruzione indiretta
dell'umanità per esaurimento delle risorse del pianeta. In
questo caso la "tecnomassa" delle intelligenze artificiali
prenderebbe il posto della biomassa degli esseri umani sul
pianeta.
Le presenti considerazioni
sono derivate sia da riflessioni personali che dalla lettura degli
scritti degli scienziati Eliezer Yudkowsky, Hans Moravec e Nick
Bostrom. Vi possono essere anche altri sistemi di intersecazioni di
scenari che lascio ai commenti dei lettori.
Note:
Questo testo non può essere
riprodotto senza l'autorizzazione dell'autore.
COMMENTI
Commento: di David de Biasi
Come sempre un'eccellente articolo
divulgativo che riesce anche a far riflettere. IA specializzata e IA
avanzata: paradossalmente sono più preoccupato della prima perchè
può finire in mani di militari e/o terroristi e utilizzata per scopi
malevoli. Mentre per la seconda (la superintelligenza) sarò
un'ottimista ingenuo ma la penso come A. Clarke:
"L'idea popolare, promulgata dai fumetti
e dalle forme più economiche di fantascienza, che macchine
intelligenti devo evolvere verso entità malevole ed ostili all'uomo,
è talmente assurda che non vale neanche la pena di sprecare tempo
per contestarla. Sono quasi tentato di affermare che solo macchine
non-intelligenti possano essere aggressive. . . Coloro che
immaginano macchine come nemici aggressivi stanno semplicemente
proiettando la propria aggressività. Maggiore è il livello
d'intelligenza e maggiore sarà il livello di cooperazione. Se
dovessimo arrivare ad una guerra tra uomini e macchine, è facile
intuire quale parte la inizierà".
Il rischio catastrofico poi, anche se c'è, credo sarà ridotto dal
fatto che l'uomo stesso si ibriderà/integrerà a queste
superintelligenze tramite potenziamenti e mind-uploading. D'altronde
una grande intelligenza, non può aver sviluppato in misura maggiore
solo il lato logico, deve aver sviluppato anche il lato empatico (se
pretende di definirsi una intelligenza autocosciente). Un mio amico
ha detto che: "l'intelligenza che temono i visionari di macchine
cattive, non è intelligenza ma grande capacità senza intelletto" e
mi trovo del tutto concorde. Sono scettico negli approcci top-down
che cercano di programmare un'IA forte in modo friendly, se l'IA è
davvero un'essere autocosciente e intelligente metterà in
discussione queste regole per cui era programmata dai suoi artefici
anche se non credo che ciò la porterà a diventare ostile. Anzi, la
sua etica emergerà "dal basso", dalle sue conoscenze superiori, e
sarà un'etica migliore di quella che hanno prodotto molti esseri
umani finora. Le "quattro leggi", potrebbero valere per l'IA debole,
ma non per quella forte che necessariamente avrà un'architettura
mentale diversa. Non so dire (per ignoranza nell'aspetto tecnico) se
l'IA forte sorgerà dal mind-upload o da creazione artefatta, ma
comunque prenderà vita concordo senz'altro con l'articolo che
l'empatia è caratteristica fondamentale per un'IA forte e benevola.
Sui benefici dell'IA forte che potrebbe, in pochi anni, far avanzare
le nostre conoscenze, fornirci energia pulita, risolvere i problemi
delle malattie e dell'invecchiamento, etc. io credo che non dobbiamo
avere questa visione di "Messia" che arriva e risolve tutto. Se lo
scenario che ho avanzato prima dell'ibridazione tra IA e Uomo è
credibile (oltre che auspicabile) allora è probabile che sarà
l'intelligenza collettiva (e non un’unica e singola intelligenza per
quanto potente) che emergerà con l'ibridazione tra entità
intelligenti artificiali e umani potenziati o uploadati che potrebbe
farci progredire a livelli inediti.
Sullo scenario archeofuturista: Faye sostiene, non senza ragione, che
"l'attuale civiltà non può durare" e in effetti troppi segnali ci
dicono che il mondo economico-sociale-politico, che finora si è
fondato su certi paradigmi che ormai sono obsoleti, sta per
collassare. Tuttavia l'autore francese non è certo il primo e
nemmeno l'ultimo ha lanciare questo avvertimento. Quello su cui c'è
da rabbrividire è appunto la "cura" che propone. Se la sua analisi
dell’implosione della civiltà è sostanzialmente giusta, la "pars
construens" è decisamente allucinante e lasciatemelo dire,
profondamente arretrata (non pre-moderna ma proprio arretrata
dall'aria ammuffita!).
"I progressi della tecnoscienza, soprattutto nel campo della
biologia e dell'informatica, non si possono più gestire con i valori
e le mentalità umaniste moderne", vero mio caro Faye! Ma non è
puntando sull'autoritarismo e sull'ordine delle caste (lui rifiuta:
"la filosofia obsoleta del progresso") che si propone un paradigma
in grado di guidare in modo ottimale e senza traumi la fase di
transizione epocale che sta vivendo l'umanità. Le tecnologie hanno
un grande impatto democratizzante (il ruolo di internet nella varie
rivolte sociali recenti lo dimostra) e vanno nella direzione
esattamente contraria a quella che prevede o auspica Faye. Anche se
è sempre possibile che qualcuno utilizzi le tecnologie per un nuovo
ordine neo-feudale, d'altronde "siamo noi i responsabili che la
tecnologia, -evolvendo -vada verso il bene invece che verso il
male", questo scenario di assoggettamento violento della masse da
parte di super-uomini non può durare molto (anche se in quel periodo
breve può produrre catastrofi sociali) e l'unico modo per
contrastarlo è avere una visione diversa ispirata ai principi etici
e scientifici.
Infine: penso che lo scenario citato di Hugo de Garis
sia quello più interessante e realistico, ma potrebbe anche non
realizzarsi se i Cosmist seguiranno una sorta di "Prima Direttiva" e
se i Terrans si limiteranno a vivere nelle loro nicchie ecologiche
timorosi di perdere una guerra con esseri superiori a loro. Tuttavia
questo scenario (da terza guerra mondiale) è quello su cui, credo,
dovremmo vigilare di più per evitare che si formino due fronti e due
specie che si contrastino. Chi rifiuta la tecnologia potrebbe
benissimo usare la stessa tecnologia per porre fine alla civiltà
come la conosciamo (l'esempio dell'attentatore di oslo è illuminante).
Ma se sapremo affermare un nuovo modello sociale che sia rispettoso
anche di chi non sceglie l'opzione di potenziamento, allora forse
potremo evitare questa caduta nell'abisso, d’altronde "il
modo migliore per prevedere il futuro è inventarlo".
Commento: di Ugo Spezza
Ringrazio David de Biasi per
l'approfondita disamina. Mi trovo tuttavia a discutere alcune delle
sue tesi, in particolare quella sulla "empatia" della I.A. avanzata
che dovrebbe emergere contestualmente (automagicamente?) data la sua
superintelligenza, alla sua venuta al mondo. Purtroppo non credo sia
così... facile. Il primo motivo è che una IA progettata in ambito
militare, penso ad esempio ad un supercomputer adibito a prevedere
scenari tattici e il posizionamento e attivazione di missili per
colpire il nemico, che improvvisamente acquisti coscienza. Beh...
non ci vedo una grande empatia con gli esseri umani che si
apprestava a sterminare. E purtroppo è proprio in ambito militare
che vi sono le ricerche più avanzate. Sono di conseguenza d'accordo quindi con quanto dice Nick Bostrom riguardo alla
importanza delle "motivazioni iniziali" della IA.
Il secondo motivo
e che anche esseri umani dotati di una intelligenza sopraffina, come
il caso di John Von Neumann, definito un "alieno" dai suoi
insegnanti per le sue straordinarie capacità, aveva dentro di sé una
vera anima guerrafondaia. Era infatti convinto che contro l'unione
sovietica fosse necessaria una "guerra preventiva"; egli affermò,
rispondendo ad un giornalista: “Se tu dici perché non una bomba
domani, io dico, perché non oggi. Se tu dici alle cinque, io dico
perché non all’una?". La sua teoria dei giochi, ed in
particolare la strategia minimax, fu applicata estesamente alla
problematica della guerra preventiva, in particolare nelle analisi
strategiche sviluppate dalla RAND Corporation, fondata
dall’aviazione nel 1946, e con la quale von Neumann collaborò
sistematicamente dal 1948. Fu inoltre sempre un convinto sostenitore
dello sviluppo massivo di armi atomiche suggerendo ad Eisenhower lo
sviluppo di questo tipo di armi in luogo di quelle convenzionali.
Alla fine morì per le radiazioni prese durante i numerosi
esperimenti.
Quindi
l'equazione «grande-intelligenza»=«grande-saggezza» la escluderei a
priori. Riguardo allo scetticismo sul riuscire a "programmare" una
IA avanzata lo condivido. E' sicuramente vero che una IA
avanzata sarebbe in grado di disabilitare facilmente quelle parti
della sua programmazione che non ritiene congrue al suo obiettivo
(le 4 leggi di Asimov) ed è altrettanto vero che una tale
programmazione potrebbe essere effettivamente applicata solo a IA
ristrette. Però c'è da sottolineare che il SIAI non pensa di arrivare a creare una Friendly
AI "solo" con la programmazione ma con un vero e proprio
"catechismo" infuso alla sua mente artificiale dopo la sua
creazione. Cosa questa fattibile solo in un "ambiente controllato".
Per questo ribadisco che questi sforzi sono di fondamentale
importanza e vanno lodati.
Guillame Faye: lo
scenario archeofuturista non è certo il migliore per l'umanità
futura in quanto prevede una deriva autoritaria degli stati. Però
questo scenario consentirebbe almeno di tenere sotto stretto
controllo lo sviluppo delle tecnologie avanzate e di negarne
l'accesso a persone non autorizzate. Inoltre va sempre ricordato che
uno scenario archeofuturista è pur sempre sotto il governo dell'uomo
e rispetto allo scenario SkyNet è "acqua di rose". Inoltre
sono abbastanza ottimista per pensare che questo sia uno scenario
temporaneo che potrebbe durare solo qualche decina d'anni. Quando
poi l'uomo avrebbe raggiunto un pieno controllo sulle nuove
tecnologie (sviluppandone di concomitanti) lo stato autoritario non
avrebbe più ragion d'essere.
Infine l'uso delle IA
ristrette potrebbe essere invalidato dai potenziali pericoli
programmando le stesse in modo accurato e frapponendo opportuni
firewall alla loro deprogrammazione. Quando ci dovessimo accorgere
che quelle più aggiornate riescono ad invalidare i nostri sistemi di
controllo basterà retrocedere all'update precedente.
Commento: di Gabriele Rossi
Ogni volta che affronto l'argomento "I.A. e futuro" non posso fare a
meno di pensare alle reazioni dei nostri bisnonni di fronte alle
prime macchine tessili ed alle prime automobili. L'uomo è davvero
cambiato dopo il radicale potenziamento delle sue capacità
"muscolari"? Credo che possiamo concordare che i cambiamenti sono
stati enormi ma non tali da modificare la natura ultima del genere
umano.
Oggi siamo sulla soglia di potenziare radicalmente le nostre
capacità "intellettuali". Ritengo che, anche in questo caso,
assisteremo a cambiamenti enormi ma non tali da modificare la natura
ultima dell'uomo. Detto in altre parole, è probabile che tra poco
saremo in grado di creare Intelligenze Artificiali Generali più
"intelligenti" della maggior parte degli uomini attuali ma, a quel
punto, gli uomini saranno a loro volta più intelligenti... così come
oggi sono più "veloci" grazie alle automobili o più "forti" grazie
ai robot industriali).
La domanda semmai è "assisteremo ad una frattura nella razza umana?"
oppure "l'aumento dell'intelligenza sarà, come in pratica è avvenuto
per l'aumento delle capacità muscolari, a beneficio di tutti (o
comunque di moltissimi)?". E' in quest'ottica che, personalmente,
inquadrerei i tre scenari efficacemente esposti da Ugo Spezza.
Ritengo che esisteranno ancora per molti anni divesi uomini con
inteligenza "almeno pari" alla più intelligente delle macchine. Non
dimentichiamo che nel momento in cui una Intelligenza Artificiale
Generale da me creata "capisce" autonomamente qualcosa di nuovo, la
"capisco" anch'io il minuto dopo!
Commento: di Stefano Vaj
La questione della cosiddetta Intelligenza
Artificiale Forte è centrale, prima ancora per gli aspetti
"ideologici" che tradisce l'intero dibattito al riguardo che per ciò
che riguarda i particolari tecnici relativi alla sua praticità,
complessità e realizzazione. Anche per questo abbiamo deciso di
riservare al tema l'intero quinto numero di Divenire. Rassegna di
studi interdisciplinari sulla tecnica e il postumano
(http://www.divenire.org), e mi è ovviamente difficile riassumere in
poche parole il saggio di una trentina di pagine che ho ivi dedicato
all'argomento.
Se dovessi però individuare quello che è per me il punto cruciale
in tale dibattito è il superamento dell'approccio millenarista o
peggio escatologico che resta in un certo senso sotteso a tutti e
tre gli scenari descritti, ben diffusi nell'immaginario popolare, e
che resta rinchiuso nel punto di vista che io e Vattimo (ad esempio
proprio in Divenire 4) chiamiamo "umanista", che Marchesini chiama
"antropocentrico", e che molti transumanisti stranieri, così come
gli animalisti, chiamano "specista".
Prendiamo l'esempio Skynet. Se per “umanità” intendiamo l’insieme
degli appartenenti alla nostra specie oggi viventi, la prospettiva
paventata è quella di vedere la nascita di un insieme di nuove
entità dapprima avide di risorse e di attenzioni, bisognose in
particolare di una programmazione complessa, e che nel giro di pochi
anni sarebbero destinate prima a infiltrarsi in ogni settore della
nostra vita, certo collaborando con noi, ma rendendosi
progressivamente indispensabili e gradualmente indipendenti dalla
programmazione iniziale ricevuta, per poi assumere progressivamente
il potere, escluderci dalla maggior parte dei processi decisionali
ed infine, nella migliore delle ipotesi, accudirci per il puro
rispetto nascente dalla memoria della loro creazione, abbandonarci
alla nostra sorte, o concentrarci ed emarginarci in strutture, ruoli
ed ambiti sociali in cui sarebbe destinata a restringersi sempre più
anche la nostra medesima autonomia personale, in attesa della nostra
definitiva estinzione.
Ora, è stato facilmente notato che lo scenario ipotizzato
corrisponde esattamente... a quello che descrive da sempre il
succedersi delle generazioni biologiche della nostra specie, del
tutto a prescindere dalla creazione di AGI [Artificial General
Intelligence - sinonimo di I.A. avanzata] che siano antropomorfe
solo etologicamente, e senza essere basate su meccanismi di natura
biologica.
Di converso, quand’anche possibili intelligenze artificiali con una
componente psicomorfa intrinseca non vengano semplicemente ad essere
a livello sociale (e perciò ad ogni effetto pratico) identificate
con le personalità che le stesse eventualmente emulino, è solo un
pregiudizio personale in tal senso che impedisce di considerare ad
ogni effetto tali AGI come “children of the mind”, secondo la
celebre di formula di Hans Moravec, o figli tout court, come
Gazurmah per il marinettiano Mafarka, e perciò come legittimi
successori, personali e/o evolutivi, dell’interessato, alla stregua
se non altro di un qualsiasi cospecifico futuro che non faccia parte
della sua prole immediata, ma sia legato ad esso da un'appartenenza
e da un destino condiviso.
Al di fuori delle astrazioni universaliste o delle favole otto e
novecentesche, uomini, animali domestici, dèi e macchine non lottano
in quanto tali tra di loro, non più di quanto facciano l’insieme
delle femmine del regno animale contro il genere maschile, o
ipotetiche classi sociali che attraversino “oggettivamente” l’intero
spettro delle società umane. Lavorano piuttosto insieme nel
competere con avversari collettivi di composizione essenzialmente
analoga e nel mantenersi, simbioticamente o parassitariamente, in
essere.
Commento: di Ugo Spezza
Commento molto interessante... Certamente
accostare l'evoluzione biologica a quella delle I.A. avanzate
potrebbe essere plausibile ed effettivamente lo svilupparsi di una
I.A. avanzata che riproducesse i suoi "memi" (antropomorfi o meno
che siano), muovendosi su una linea di evoluzione simbiotica con noi,
non sarebbe poi tanto diversa nel suo comportamento da un essere
biologico superiore avanzato che per selezione naturale si muovesse
sulla stessa strada evolutiva. In fin dei conti, ragionando dal
punto di vista escatologico, a questo punto NOI diverremmo LORO, e
il problema non si porrebbe più. Certo ad uomo comune di oggi tale
prospettiva può sembrare estraniante ma ad un uomo del 2101 già
perfettamente integrato nel new deal tecnologico e deiettato nel
"regno della macchina" di marinettiana memoria, tale prospettiva
apparirebbe invece normale.
Il problema dello scenario SkyNet però è un altro, ovvero la
rapidità della evoluzione-distruzione, è questo che incute timore,
poiché in questo caso non vi sarebbe alcuna co-evoluzione, ci
sarebbe lo sterminio repentino e basta. Ed è probabile (credo) che
al seguito di ciò le stesse I.A. avanzate ostili si estingueranno
poco dopo. Può anche essere vero, di converso, che
noi, plagiati da decenni da una certa cinematografia e da romanzi S.F. di robot assassini ci siamo in realtà cablati nella mente un
"pregiudizio personale" nel nostro modo di pensare l'evoluzione di
una intelligenza sovrumana. E' anche vero che tale intelligenza
dovrebbe rispettare i canoni della fisica di questo universo e che
dunque se la vita si è evoluta in questo modo essa non potrà che
inserirsi in questo canale evolutivo e percorrerlo fino in fondo.
Commento: di Marco Mainoldi
Io sono ottimista dato che sono cresciuto con
i libri di I. Asimov e A. Clarke e quindi penso che un'intelligenza
avanzata di qualsiasi natura essa sia (terrestre o extraterrestre)
non si perda a fare guerre e stermini così per fare. Queste cose
appartengono sempre a civiltà ancora sottosviluppate con problemi
irrisolti che a lungo andare sfociano in disagi, miserie e
catastrofi. Ovviamente se una civiltà tecnologicamente avanzata
risolve i problemi il male viene eliminato e di conseguenza si
evolve anche in senso "spirituale" (non intendo con significato
religioso).
Ora, volevo esporti uno scenario con cui pultroppo dovremo
confrontarci da subito. Riflettendo sulla storia degli ultimi 50
anni, dal 1960 a oggi si possono notare che molti degli scenari
ipotizzati non si sono tuttora realizzati. In primis, dalla
conquista della luna ad oggi nessuno di noi è vissuto in colonie
spaziali o su altri pianeti "2001 odissea nello spazio", "spazio
1999" ed altre serie di fantascienza spaziali non sono diventate
realtà, eppure tutto questo veniva dato per scontato dopo il 1969.
Per dirla alla Asimov non abbiamo ancora colonizzato il nostro
cortile. Siamo sette miliardi, dipendiamo ancora da combustibili
fossili, anzi tutta la nostra tecnologia si basa soprattutto su
questo tipo di energie. Quindi non è solo una questione di
tecnologia ma di TEMPO!
Quanto tempo abbiamo ancora a disposizione prima che la popolazione
aumenti ancora e le forme di energia fossili in via di esaurimento,
ci portino a sterminarci a vicenda? All'orizzonte da oggi al 2020 si
intravvede qualche speranza seria di energia? I robot della serie
Terminator vanno a energia nucleare, le batterie dei nostri notebook
e degli smartphone devono essere ricaricate ogni giorno e
l'autonomia è molto limitata, figuriamoci su dispositivi con parti
meccaniche tipo robot quanto potrebbero durare! La nostra
sopravvivenza dipenderà in primo luogo da quale sviluppo energetico
serio riusciremo a dare alla nostra civiltà, altrimenti saranno le
nostre intelligenze deboli a causarne la rovina. Comunque speriamo
che una soluzione si trovi in fretta altrimenti addio qualsiasi
paradiso tecnologico (forse la soluzione arriverà da qualche I. A.
avanzata ).
Commento: di Ugo Spezza
Secondo me il problema energetico, segnalato
da Marco, è importante ed è scontato che un futuro sviluppo non
possa non prevedere nuove fonti. Se, come umanità, siamo ancora
avvinghiati come una sanguisuga alla vena del petrolio il motivo
principale è che è una fonte di energia largamente disponibile sul
pianeta e soprattutto è una fonte a basso costo. Se uno ha un pozzo
sotto casa non si preoccupa di approvvigionarsi dell'acqua, solo
quando il pozzo inizia a disseccarsi allora decide di far qualcosa.
Idem per la colonizzazione dello spazio: se sulla Luna fossero stati
trovati metalli preziosi o fonti energetiche oggi ci sarebbe una
base grande come Los Angeles. L'uomo, per sua natura, non si smuove
se non viene spinto da una necessità impellente, anzi, tende ad
accomodarsi.
Sulla IA forte: anche io tendo a
pensare che non sarà distruttiva se nascerà in un ambiente
controllato, spero solo non venga prodotta in ambito militare
poiché, come ha detto Bostrom, le motivazioni iniziali sono
dannatamente importanti. Pensa ad esempio ai nostri bambini, non
potresti mai convincerne uno, da adulto a mettersi una cinta di
esplosivo e farsi saltare dentro un autobus pieno di gente, perché
egli ha ricevuto una educazione che glielo impedisce.
Ma se metti un bambino cresciuto in ambito di fondamentalismo
religioso fortemente costrittivo, maltrattato e la cui infanzia è
stata violentata da questo processo, in questo caso non credo ci
vorrà molto a fargli fare il grande passo verso la distruzione. La
differenza tra un terrorista e una IA forte è che il primo può fare
danni limitati mentre la seconda costituisce un rischio
esistenziale per l'intera umanità, quindi dal mio punto di
vista gli sforzi del SIAI di arrivare per primi alla creazione di
una Friendly AI sono da sostenere con tutti i mezzi, economici in
primis.
Commento: di
Francesco Marletta
Un pensiero di un uomo comune. In tutto quello che ho letto sino ad
oggi sul futuro tecnologico della Umanità un punto in assoluto mi è
chiaro. Non si potranno ne si dovranno, secondo me, per scelta
necessaria alla nostra sicurezza e sopravvivenza, come specie, mai
creare macchine o organismi forniti di una auto determinazione,
capacità cognitiva di coscienza e sviluppo di se, pari o superiore a
quella umana sino a quando esisteranno divisioni tra gli uomini,
INTESI COME STATO O CONTINENTE, per qualsivoglia diversità.
Questo perche, l'egoismo negativo che è, penso, la forma più
difficile da controllare nell'uomo nelle sue più variegate tipologie
individuali, se trasferita ad uno o più automatismi pensanti
potrebbe portare l'umanità al disastro, magari nello sviluppare una
competizione tra organismi tecnologici non umani, che essendo
autodeterminati sarebbero capaci di sviluppare vizi mai sanati,
forse ancora poco noti o del tutto sconosciuti della Mente Umana.
Mente Umana che oggi trova la sua realizzazione in una parte non
maggioritaria del nostro cervello alle cui capacità pare non
esistano ad oggi parametri in grado di fissare limiti certi tanto
nel bene quanto nel male, intese come capacità di intervento.
Potremmo tutti diventare, o essere considerati per motivi diversi,
entità sacrificabili, come gli effetti collaterali di una nostra
attuale guerra, senza avere la capacità di reazione sufficiente a
fermare processi evolutivi egoistici in questo ipotetico caso
artificiali, non previsti, divenuti ad un certo punto incontrollati
e/o incontrollabili, un po’ come accade in una mente umana fuori
controllo ma sedabile, con farmaci dall'esterno, perche
singolarmente attaccabile e unica al contrario di entità
tecnologiche collegate e pensanti in blocchi compatti e disseminati
ovunque. La creazione di organismi di tal fatta presuppone, credo,
la certezza di conoscere come poter indurre ad arginare, attraverso
scelte interiori di una precostituita coscienza non cancellabile n'è
limitabile, le scelte che potrebbero o possono mettere in pericolo o
rendere difficile ogni tipo di sopravvivenza tra quelle codificate e
inserite nella coscienza artificiale in dotazione e memorizzata in
ciascun organismo tecnologico; non solo di quella umana.
Non credo possibile precostituire regole che si possano imporre a
chiunque ha la capacità di trovare ragioni per violarle come ben
sappiamo, del resto da sempre, fa l'uomo che è perennemente, almeno
sino ad ora, combattuto in una serie di limitazioni o esagerazioni
che sono insiti nel suo modo di essere entità; I SENTIMENTI, che
temo essere difficili da codificare, con la medesima intensità e
variabilità, in un organismo tecnologico, almeno per quanto sappiamo
oggi o nel prossimo futuro. Sicuramente la mia ignoranza in queste
materie traspare in quello che scrivo, ma sono un uomo della strada,
come si suole dire, e questa è, in parte, la mia opinione. Grazie
dell'attenzione
Fonti:
www.wikipedia.org
Sito web di Eliezer
Yudkowsky
Future of umanity
institute (Univ. Oxford)
Sito web di Hans Moravec
Sito web di Nick Bostrom
