Corriere della Sera - La Lettura
Il rischio è la fine della creatività e non la ribellione dei robot
Lo sguardo profetico dei più grandi autori di fantascienza come e
Come ormai si sa i creatori stessi dell’Intelligenza artificiale, col supporto di Elon Musk, l’uomo più ricco del mondo, hanno messo in guardia contro i rischi di disordini sociali ed economici legati all’applicazione incontrollata della loro creatura. Molti sono rimasti sorpresi, ma non i lettori di fantascienza, che queste cose le sapevano da oltre un secolo, perché la loro narrativa preferita ha già prefigurato da tempo i principali allarmismi odierni. E molti degli autori che hanno sottolineato i rischi, hanno anche suggerito le terapie. L’elenco sarebbe lunghissimo, ma citiamo tre nomi: Isaac Asimov, Fritz Leiber e Philip K. Dick.
Il primo è noto come l’inventore delle «Tre leggi della Robotica», ovvero gli accorgimenti che i creatori dell’IA devono mettere in atto per disinnescare i rischi legati alle intelligenze non umane. Eccole:
1. Un robot non deve mai nuocere a un essere umano o, non agendo, permettere che un essere umano subisca un danno.
2. Un robot deve sempre obbedire a un essere umano, a meno che ciò non contrasti con la Prima Legge.
3. Un robot deve sempre proteggere la propria esistenza, a meno che ciò non contrasti con la Prima e la Seconda Legge.
Sui modi di applicare e/o circoscrivere le sue leggi, Asimov ha scritto una serie infinita di romanzi e racconti. In uno di questi, Il sole nudo (The Naked Sun, 1956), descrive le conseguenze su una società umana della diffusione incontrastata dell’IA. Nessuno deve fare più nulla, perché le macchine intelligenti si occupano di tutte le attività intellettuali e manuali.
Di conseguenza, la società non esiste più, perché non serve. Ciascun essere umano vive isolato in una tenuta autonoma gestita da robot che si occupano di ogni esigenza del proprietario. I rapporti sociali sono sostituiti dalla telepresenza: tutti sono in contatto con tutti, ma senza muoversi dal loro fortilizio, bensì utilizzando una versione ultra-evoluta di internet (che nel 1956 ancora era ben lungi dall’essere concepito), e ciascuno, invece di agire nel mondo reale, preferisce muoversi in realtà fittizie. Il risultato è che la «società» è immobile, non si evolve e continua a replicare sé stessa, prigioniera di una serie di riproduzioni fasulle del vero.
Ancor più agghiacciante la visione del futuro di Philip K. Dick nel suo romanzo del 1968 Il cacciatore di androidi (Do Androids Dream of Electric Sheep?), dal quale nel 1982 è stato tratto Blade Runner, il film di Ridley Scott che avrebbe portato a Dick soldi e fama se non fosse morto in quello stesso anno. Gli androidi dotati di intelligenza artificiale fanno tutti i lavori fati
cosi, rischiosi e ripetitivi. Priva degli stimoli della sfida e del rischio, senza più l’obbligo di prendere decisioni, l’umanità decade rapidamente. Si ammassa in megalopoli formate di fatto da immensi bassifondi su cui svettano le sedi empiree dei pochi che controllano l’Intelligenza Artificiale, nelle cui mani si accumulano tutte le ricchezze, a scapito di un’umanità sempre più impoverita e degradata. I pochi privilegiati sono tuttavia posti a rischio dal fatto che gli androidi sono enormemente superiori all’uomo comune, tanto fisicamente quanto intellettualmente. Potrebbero perciò ribellarsi e prendere loro il comando. Il meccanismo di sicurezza escogitato da Dick non sono «Leggi» che possono essere eluse o aggirate, ma qualcosa di più drastico: una «data di scadenza». Ciascun androide ha una pseudo-vita limitata, al termine della quale si spegne come una batteria scarica, e nessuno di essi ha il tempo di organizzare un’azione di rivolta.
La visione del futuro più preoccupante di tutte è però forse quella tracciata da Fritz Leiber, sul filo dell’ironia, nel suo romanzo Le argentee teste d’uovo (The Silver Eggheads, 1961). In questo caso, l’allarme è posto sul più immediato tra i rischi per l’uomo legati alla IA: ovvero il pericolo che essa, subentrando nelle attività intellettuali (come sta già facendo), finisca per spegnere la fantasia e la creatività umane. Leiber immagina una società nella quale gli intellettuali sono sostituiti da programmi per computer. Nessuno scrive più libri, dipinge, scolpisce, progetta edifici, dà in qualche modo sfogo alla propria creatività. Gli scrittori si limitano a comunicare ai computer-romanzieri la trama di un libro, e un «macinaparole» specializzato lo scrive.
Uno «scrittore» un giorno si ribella, e guida un movimento simile a quello dei luddisti che a inizio Ottocento in Inghilterra cominciarono a sfasciare i telai meccanici. Al grido «riprendiamoci la creatività», i presunti romanzieri sfasciano i «macinaparole», prendono carta e penna e si apprestano a partorire i loro capolavori. Al che, scoprono di non avere più neppure una pallida idea di come si faccia a scrivere un romanzo. La soluzione è un ritorno al passato. Si fruga nella memoria dell’umanità, simbolicamente rappresentata da cervelli ibernati, per riscoprire che cosa significhi «inventare» a prescindere dalla ripetizione automatica di informazioni contenute nelle memorie elettroniche. È chiaramente una metafora per dire che le radici del futuro sono piantate nel passato, e negare quest’ultimo è come illudersi che un albero possa continuare a crescere dopo aver tagliato i suoi contatti con la terra da cui si nutre.