Książki i cudowne maszyny

Bardzo słusznie wydawnictwo Albatros przesunęło polską premierę najnowszej książki Iana McEwana Maszyny takie jak ja w tłumaczeniu Andrzeja Szulca. Miała pojawić się w księgarniach już na wiosnę, a ukazuje się dopiero teraz. W maju na pewno czytalibyśmy ją inaczej, z większym optymizmem i wiarą w przyszłość. A w październikowe wieczory, gdy nie możemy opędzić się od smutku i depresji, traktować będziemy przepowiednie brytyjskiego prozaika znacznie poważniej. I dojdziemy – mam nadzieję – do wniosku, że jest o czym rozmyślać i jest się czego bać.

Z pozoru wszystko zaczyna się niewinnie, prawie żartobliwie, z angielskim poczuciem humoru.

Wyobraźcie sobie, że w waszym domu pojawił się pewnego dnia mężczyzna idealny – silny, pomysłowy, niekłopotliwy, bardzo grzeczny i niewymagający. Potrafi posprzątać, zrobić pranie, pozmywać naczynia, naprawić kran albo komputer, przyłożyć bandziorom, zarobić na życie. A w dodatku nie pije i nie pali, nigdy nie zawodzi w sypialni, nie nudzi się i nie marudzi, że otrzymuje od nas zbyt mało. Właściwie wszystko wyglądałoby wspaniale, gdyby nie fakt, że ten bardzo męski przystojniak o imieniu Adam jest cudowną maszyną, a nie człowiekiem w tradycyjnym sensie tego słowa (tradycyjnym, bo niedługo może się to zmienić).

Robot wyciąga wnioski

Jest robotem? Chyba niezupełnie, bo przyzwyczailiśmy się do myśli, że robot wykonuje za nas różne ciężkie i nieprzyjemne prace, wcale nie protestując, bo jest tylko mechanizmem pozbawionym ludzkich uczuć i odruchów. Tymczasem Adam potrafi myśleć, analizować, wyciągać wnioski, upraszczać albo komplikować nasze relacje z innymi. Z upływem czasu okazuje się, że mógłby nas bez trudu unicestwić, odwołując się jedynie do procedur, w które został wyposażony przez swojego twórcę – człowieka.

Jakże naiwnie sądzimy, że za słoną sumę kilkudziesięciu tysięcy funtów udało nam się wejść w posiadanie kogoś w rodzaju niewolnika – istoty całkowicie biernej i w pełni od nas zależnej, którą w dowolnym momencie bez trudu przywołamy do porządku. Z cudowną maszyną, która zaczęła myśleć i poznawać środowisko człowieka, tak łatwo nam nie pójdzie. Bo podczas gdy Adam dzięki swej doskonale pomyślanej elektronice potrafi błyskawicznie uczyć się świata, w który został rzucony, podobna lekcja jego właścicielom jakoś nie wychodzi. Cóż więc im pozostaje? Wyłącznik, awaria prądu elektrycznego, reklamacja i zwrot do sklepu, a może uderzenie młotka świadczące o drzemiących w nas ciągle skłonnościach barbarzyńców?

Na początku tej powieści cudownie się bawimy. Ian McEwan – podobnie jak Thomas Pynchon, Michel Houellebecq i inni prorocy epoki cyfrowej – napisał książkę, w której od czasu do czasu coś się nam nie zgadza. Chciałoby się powiedzieć – no i bardzo dobrze! Niech telewizyjne dzienniki i seriale karmią swoich widzów rzeczywistością, którą każdy może zobaczyć za oknem. Od literatury oczekujemy czegoś więcej – może obrazu świata alternatywnego, w którym myślący czytelnik rozpozna wcześniej czy później jakiś zarys nadciągającej nieuchronnie przyszłości?

Akcja powieści Maszyny takie jak ja rozgrywa się w Anglii, która przegrała wojnę o Falklandy, w której żelazna dama Margaret Thatcher publicznie zapłakała i zmuszona została do ustąpienia. A Beatlesi wcale nie rozwiązali swojej supergrupy i właśnie nagrali nowy album Love and Lemons, z czego wynika chyba jasno, że John Lennon nie zginął w przededniu czterdziestych urodzin, zastrzelony w Nowym Jorku przez swego fana poszukującego rozgłosu. Alan Turing, który dopiero niedawno stał się ikoną masowej wyobraźni, wcale nie umarł „śmiercią Królewny Śnieżki”. Ten genialny uczony stał się bowiem dystyngowanym, cokolwiek ekscentrycznym starszym panem, prawdziwym mędrcem i wyrocznią dla informatycznej cywilizacji.

Jak łatwo się przekonać, z tych wydarzeń właściwie tylko ostatnie wpłynie istotnie na losy ludzkości. Celebryci i politycy, choć zajmują zwykle miejsca na pierwszych stronach gazet, w znacznie mniejszym stopniu określają naszą przyszłość niż zamknięci w swych laboratoriach uczeni, prezentujący wyniki niesamowitych odkryć i eksperymentów w sieci albo zajmujący się ich komercyjnym wykorzystaniem.

Wyzwolenie cyfrowej mocy

Turing jest postacią niejednoznaczną – pośmiertne biografie i ich adaptacje filmowe czynią go przeważnie sympatycznym dziwakiem, ofiarą represyjnego systemu skazującego bohatera wojennego na karę i zabójczą w skutkach izolację. A gdyby udało mu się przeżyć i rozwinąć swój talent? Czy wówczas znacznie szybciej zbudowalibyśmy sieć komputerów osobistych, udoskonalili w niewyobrażalnym stopniu technologię i tym samym znaleźli się w obliczu katastrofy, z której mało kto zdaje sobie sprawę?

W wizji Turinga człowiek może nauczyć się od maszyny znacznie więcej, niż pozwalają na to przypuszczenia największych optymistów. Błędem było więc obdarzanie sztucznej inteligencji dorobkiem intelektualnym całej ludzkości i wskazywanie drogi, która została przez ludzi pokonana. Do znacznie bardziej obiecujących rezultatów wiedzie bowiem akt wyzwolenia cyfrowych mocy, które co prawda stają się niezależne i bardziej funkcjonalne, ale również wymykają się spod naszej kontroli.

Wytłumaczmy to na przykładzie najprostszym, ograniczając zadania komputera do roli maszyny szachowej. Pierwotny punkt widzenia nakazywał wprowadzenie do jego pamięci tysięcy partii, by na podstawie analizy doświadczeń z przeszłości mógł zostać wybrany najkorzystniejszy ruch. Zdaniem powieściowego Turinga był to błąd wynikający z „ludzkiego” podejścia do doskonałego narzędzia. Wystarczy bowiem określenie reguł gry i wyznaczenie celu, by cudowna maszyna sama znalazła rozwiązanie – być może nieosiągalne dla człowieka:

„Długa historia wspaniałych zagrań wielkich mistrzów przestała być teraz istotna dla programowania. Tu masz zasady, powiedzieliśmy. Wygrywaj partie na swój własny słodki sposób. Gra natychmiast została zredefiniowana i przesunięta w regiony, które wymykają się ludzkiemu rozumieniu.

Maszyna wykonywała zbijające z tropu ruchy, perwersyjnie poświęcała figury albo zsyłała swojego hetmana w sam róg szachownicy. Cel stawał się jasny dopiero w druzgoczącej końcówce. I wszystko to zadziałało po kilku godzinach prób. Między śniadaniem a lunchem komputer po cichu zdeklasował stulecia ludzkich szachów. Niesamowite”.

W tej konfrontacji wcześniej czy później człowiek okaże się najsłabszym ogniwem. Daleko mu do nieomylności maszyn liczących i bezwzględności matematycznych procedur. Jego umysł jest chaotyczny, jego myślenie zaciemnia emocjonalna niestabilność, rozum walczy z rozsądkiem, uczucia raz po raz biorą górę, błąd jest traktowany niczym dopuszczalna norma postępowania. Nastroje, humory, uprzedzenia wpływają nieustannie na naszą ocenę sytuacji.

Kiedy cudowna maszyna zaczyna myśleć, dowiadujemy się nagle, na jak kruchych podstawach wspiera się nasze prawo, moralność i obyczaje regulujące sposób postępowania. Nie tylko sądy i organy ścigania żywią się iluzją, że prawda jest zawsze najważniejsza, a celem ich istnienia i działania jest wyłącznie ustalenie prawdy. Dotyczy to również jednostki, przeciętnej, zwyczajnej, uczciwej w potocznym rozumieniu, pozbawionej jakichkolwiek zbrodniczych skłonności. Cenimy prawdę, pogardzamy kłamstwem, lecz nie umiemy żyć bez drobnych szachrajstw, przeinaczeń, mistyfikacji, oszustw. Każdy niedoskonały człowiek zdaje sobie z tego sprawę, lecz sztuczna inteligencja uznająca prawdę za najwyższą i jedyną wartość takie myślenie musi odrzucić – jak każdy kompromis, niezwykle przydatny w stosunkach międzyludzkich, lecz dla etyki po prostu zabójczy.

Posługując się materią powieściową, Ian McEwan sprawdził aktualność dylematów Immanuela Kanta w dzisiejszym świecie. Przypomnijmy, że filozof z Królewca zaproponował rozważenie nieco abstrakcyjnej sytuacji, która mogłaby się któregoś dnia wydarzyć. Oto trwa wojna i w naszym domu ukrywa się ktoś nam bliski, może znajomy, a może brat. Na progu staje poszukujący go nieprzyjacielski patrol. Czy skłamiemy, udając, że nie widzieliśmy zbiega, czy też wydamy go w ręce wroga? Odpowiedź wydaje się z pozoru oczywista, ale zdaniem Kanta powinniśmy powiedzieć jednak prawdę! Komputer na pewno by się z jego interpretacją zgodził. Obowiązujący system nie może dopuszczać wyjątków ani szczególnych przypadków.

A to oznaczałoby również, że cudowna maszyna nigdy nie pogodzi się z faktem, że dobro i prawda mogą pozostawać w konflikcie. Aby jakoś przeżyć na tej dziwnej planecie i poprawić swoje samopoczucie, stworzyliśmy teorię „mniejszego zła”. Czym jest dobro, tego chyba już od dawna nie wiemy. Mają swoje dobro politycy, artyści, uczeni, duchowni, ludzie mediów. Każdy pojmuje je inaczej i jak w takim chaosie może się odnaleźć nawet najgenialniejsza maszyna?

Niedoskonały człowiek w niedoskonałym świecie

Szczerze mówiąc, problemy moralne są jednak naszą szansą na przetrwanie. W świecie stworzonym przez brytyjskiego pisarza zawodzi nie tylko jednostka, ale przede wszystkim instytucje życia zbiorowego: wymiar sprawiedliwości, media, władza, policja, armia. Stosunki społeczne i ekonomiczne wypełnia absurd, z którym przeciętny obywatel zmuszony jest się pogodzić, bo dawno już zrezygnował z prób naprawy niedoskonałego świata. Niedoskonały człowiek w niedoskonałym świecie – taka koncepcja wydaje się oczywista i trudna do podważenia. No, chyba że mamy do czynienia z kimś równie doskonałym jak sztuczna inteligencja, stworzona nie tyle z autentycznych doświadczeń, co niespełnionych marzeń.

Czy powieściowy Adam jest zatem aniołem, kimś pośrednim między nieznanym Bogiem a człowiekiem w stanie upadku?

Twórcom fantastyki naukowej wydawało się zawsze, że robot, android, istota humanoidalna potrafi wprawdzie rozwiązywać najtrudniejsze zadania teoretyczne i praktyczne, ale sfera ludzkich uczuć pozostaje dla niego nieodgadniona. Ian McEwan rozwiewa tę wątpliwość: jego bohater uczy się błyskawicznie, pisze wiersze haiku, zdobywa się na wyznania miłosne, podejmuje nawet życie seksualne! Próbuje również – oczywiście na swój sposób, nie do końca dla nas czytelny – kochać człowieka!

A to niestety nie oznacza wcale, że nie wyrządzi mu pewnego dnia krzywdy – na przykład traktując swój czyn jako tak zwane mniejsze zło. Skoro jest w stanie złamać człowiekowi rękę, to w niezbyt odległej przyszłości może skręcić mu kark! Teoretycy nauki o robotach przekonują, że tak się nie stanie, ale czy możemy jeszcze ufać genialnym uczonym, lekkomyślnym jak dzieci rozbierające swą zabawkę?

Dopuśćmy raczej tę możliwość, że cudowne maszyny mogą nas unicestwić – wcale nie z chęci panowania nad światem, ale z miłości, z litości, dla zachowania doskonałego porządku. Nie odczuwają przecież tak jak my lęku przed śmiercią, nie znają paraliżującej nicości. Mogą więc potraktować naszą zagładę jako normalną wymianę twardych dysków!

Maszyny takie jak ja to powieść przewrotna niczym Wolterowska powiastka filozoficzna, z której wynika, że w zmieniającym się świecie nie ma dla nas nic oczywistego, bo wszystko trzeba przemyśleć od nowa i nic nie zwalnia nas z tego obowiązku. Zwróćmy uwagę, ile zamieszania powoduje doskonała istota działająca w trudnej do zaakceptowania rzeczywistości. Ile klęsk, ile nieszczęść, ile komplikacji rodzi dążenie do prawdy! Kogoś tak perfekcyjnego jak Adam trzeba się wreszcie pozbyć. Czas cudownych maszyn jeszcze nie nadszedł. Czy kiedyś nadejdzie?

Bądźmy cierpliwi. Cierpliwi i ostrożni.