Osobliwy film „Ona”, czyli Lem to wszystko przewidział

Ten ciekawy skądinąd film science fiction skłonił mnie do refleksji na temat osobliwości technologicznej. Stanisław Lem pisał o niej pół wieku temu w słynnym opasłym eseju „Summa Technologiae”. Kilka dekad po Lemie pojęcie rozsławił modny futurolog Ray Kurzweil.

Osobliwością w nauce nazywamy punkt, w którym dotychczasowa wiedza jest bezradna. W równaniach pojawia się dzielenie przez zero, wartości funkcji dążą do nieskończoności, różne teorie dają sprzeczne wyjaśnienia.

Typowym przykładem (o ile osobliwość może być typowa) jest czarna dziura. Współczesna fizyka działa tylko, dopóki nie przekroczymy pewnej odległości od jądra czarnej dziury, zwanej promieniem Schwarzschilda (od nazwiska austriackiego matematyka, który wyliczył tę odległość). Co się dzieje po tamtej stronie, możemy tylko snuć domysły.

W technice podobny moment może nas czekać w ciągu najbliższych dekad. W jakimś momencie stworzymy samouczącą się sztuczną inteligencję, której działania nie będą już w stanie zrozumieć nawet ci inżynierowie, którzy ją wprawili w ruch.

Już teraz nasza cywilizacja wydaje się być blisko tego momentu. Nikt do końca nie rozumie, jak działają samouczące się mechanizmy gigantycznych korporacji, takich jak Facebook czy Google (choć ten ostatni zatrudnia samego Raya Kurzweila).

Owszem, wiadomo mniej więcej, na jakich ogólnych zasadach to działa. Nadal jednak teoretycznie jest tak, że gdyby tę maszynerię wyłączyć i zrobić wielki przegląd jej rejestrów, dałoby się przynajmniej zrozumieć, jakie wnioski wyciąga z jakich danych.

Bez wyłączenia się nie da. Ta maszyneria ciągle się zmienia. Zanim ludzie przeczytają pierwsze linijki wydruku, Google będzie już innym Google’em.

Od 2010 roku Google opiera swoje działanie na samouczącym się mechanizmie o nazwie kodowej Caffeine. Od tego czasu żadne dwie osoby na świecie nie widzą takich samych wyników wyszukiwania, a dla tej samej osoby wyniki mogą być trochę inne jutro niż dzisiaj – bo Caffeine stara się wyciągać wnioski z tego, kto na co klika (i na co klikał wczoraj lub tydzień temu).

To nie jest jeszcze sztuczna inteligencja, ale jest już bardzo blisko. Można powiedzieć, że Caffeine nie jest po tamtej stronie „punktu osobliwości” w teorii, ale w praktyce już jest nieprzeniknione jak czarna dziura.

Swoje samouczące się systemy sztucznej inteligencji rozwijają też inne korporacje. IBM eksperymentuje z superkomputerem Watson.

Że wygrywa on w szachy z arcymistrzami – to drobiazg, to już widzieliśmy. Prawdziwym szokiem było jednak zwycięstwo Watsona w teleturnieju „Jeopardy” (w Polsce pokazywanym pod tytułem „Va banque”).

W 2045 będą komputery, których działania żaden człowiek nie będzie już w stanie zrozumieć

Jak wiadomo, w tym teleturnieju odwrócono kolejność „pytanie – odpowiedź”. Prowadzący mówi na przykład „to miasto jest stolicą Francji” – uczestnik musi odpowiedzieć pytaniem w rodzaju „gdzie leży Paryż?”.

Teleturniej wymaga więc nie tylko wiedzy, ale rozumienia języka potocznego. Zdumiewające więc było to, że sztuczna inteligencja na tyle sprawnie sobie radziła z ludzkim językiem i jego specyfiką, że wygrała z ludźmi.

Watsonem jednak, tak jak innymi głośnymi systemami sztucznej inteligencji (np. Siri, popularną osobistą asystentką, która mieszka w najnowszych iPhone’ach), opieku- ją się ludzcy inżynierowie. Którzy chociaż z grubsza orientują się w działaniu tych programów.

Ale co jeśli sztuczna inteligencja pierwszej generacji sama napisze program kolejnej sztucznej inteligencji? Albo zmodyfikuje własne działanie? W pewnym momencie będziemy mieli komputery, których działania żaden człowiek nie będzie już w stanie zrozumieć.

Kiedy to będzie? Ray Kurzweil wyznaczył datę 2045. Inni futurolodzy podają podobne daty, wypadające gdzieś w latach 30. lub 40. obecnego stulecia.

To brzmi odlegle, ale znaczna część czytających te słowa ma szanse tego dożyć. Wiele państw właśnie zaczyna inwestycje, które mają być zakończone w takim okresie.

Film „Ona” dzieje się w futurystycznym Los Angeles, w którym już ukończono budowę metra. Najwcześniejsze prognozy to 2035 (główny bohater jadący metrem z centrum L.A. na plażę to osobliwość większa od komputera gadającego głosem Scarlett Johansson).

Co to dla nas oznacza, że będziemy mieli tak potężne komputery? I czy to my je będziemy mieć, czy one nas?

Nie mam zielonego pojęcia. Na tym właśnie polega osobliwość, że mówienie o niej przerasta nawet najbezczelniejszych felietonistów.