Kdaj bo prišla superinteligenca?

Delo, 11. decembra

V pismu bralca pod zgornjim naslovom na sedmi strani Dela 11. decembra je dr. Matjaž Gams, ki po njegovih besedah že »desetletja raziskuje superinteligenco« (!), zapisal nekaj misli, ki so sprte s spoznanji vodilnih raziskovalcev v svetu na tem področju. Priznam, da me je dr. Gams, ki raziskuje na tako ugledni raziskovalni ustanovi, kot je to Institut Jožef Stefan, v Državnem svetu RS pa je zastopal slovensko znanost, razočaral.

Če povzamem: pisec zagovarja stališče, »da je superinteligenca tisto najboljše za posameznika in človeštvo, kar bo prinesla prihodnost«. Z njo bomo po njegovem »iztrebili bolezni, tudi starost; poleg tega bo superinteligenca rešila človeštvo pred propadom«. Avtor tudi izrecno nasprotuje njeni regulaciji. V resnici ta čas številni najvidnejši raziskovalci UI v svetu nasprotno opozarjajo, da bo njen eksponentni razvoj brez ustrezne družbene regulacije ali nadzora pripeljal do človeške katastrofe. V bistvu zavračajo optimistične napovedi dr. Gamsa o hedonističnem raju, v katerem bo umetna inteligenca (UI) oz. superinteligenca zadovoljila vse človekove in človeške potrebe. Njegove neprimerne primerjave, da letijo avioni hitreje kot ptiči in da so zato prvi »bolj uporabni«, raje ne bom komentiral, ker lahko po tem kriteriju »uporabnosti« pride na vrsto tudi človeška vrsta.

Kot navajajo v ugledni ameriški reviji Foreign Affairs, se je sredi lanskega leta več kot 350 tehnoloških voditeljev in uglednih raziskovalcev UI podpisalo pod poziv – objavil ga je Center za varno UI (Center for AI Safety) s sedežem v San Franciscu – ki je vseboval en sam stavek: »(…) da je treba velika družbena tveganja, ki jih predstavlja UI, uvrstiti med take globalne prioritete, kot so pandemije in nuklearna vojna«. Prav tako velik delež izvršnih direktorjev (CEO) s seznama petstotih največjih ameriških družb (Fortune) deli mnenje, da vodi UI k propadu človeštva, čeprav se istočasno isti voditelji ne morejo izogniti skušnjavi »zlate mrzlice«, se pravi bajnim dobičkom, ki jih prinaša ta tehnologija. Tudi v lanski anketi, ki so jo opravili na Univerzi Yale, je 42 odstotkov izvršnih direktorjev iz 119 velikih ameriških družb izrazilo prepričanje, da lahko UI že na srednji rok usodno načne človeško vrsto. Podobnih opozoril pa je še več.

Pri tem izstopajo predvsem grožnje, ki jih mimo vsakršne regulacije in nadzora predstavlja eksponentni razvoj generativne umetne inteligence (GUI), še posebej umetne superinteligence (USI), o kateri piše dr. Gams, se pravi strojnih naprav oz. algoritmov, ki bi lahko v prihodnosti ogrozili in se obrnili proti človeški inteligenci. Čeprav se raziskovalci do danes še niso dokopali do takih sistemov, bi se morale družbe in države pravočasno, še preden bo prepozno, odzvati na ta opozorila. Kot pišejo v ameriškem Glasilu atomskih znanstvenikov, smo se ponovno znašli pred »Oppenheimerjevim momentom« in je zato treba novo grožnjo jemati skrajno resno. Četudi bi razvoj superinteligence terjal nekaj desetletij, se je treba že danes pripraviti in zavarovati pred omenjenimi tveganji.

Ta bodo toliko bolj usodna, če se bo tehnologija na tem področju razvijala mimo etičnih vrednot in ciljev, s katerimi se ponaša človeška civilizacija, toliko bolj, če bi si jih tehnologija podredila in se postavila nad njih. To so tudi razlogi, da ugledni raziskovalci na teh področjih pozivajo na moratorij ali upočasnjeni razvoj, v nasprotnem primeru bo po njihovem UI oz. superinteligenca dosegla točko, ko bosta postali nedoumljivi in bi lahko kot taki ušli nadzoru človeka oz. človeštva. Na to posebej opozarja »boter UI« Geoffrey Hinton, ki si ne zna predstavljati, da bi se lahko umetna inteligenca izognila njenim zlorabam s strani držav in drugih igralcev s slabimi nameni: na primer, za nenasitno bogatenje, odpravljanje demokracije, nadzorovanje državljanov, za militarizacijo UI, individualni in državni terorizem itd.

Več vrhunskih računalniških strokovnjakov opozarja tudi na »problem nadzora« (angl. control problem) in na »črno škatlo«. Na kratko: že zdaj, ko je superinteligentna UI šele na horizontu, si najboljši umi na tem področju ne znajo pojasniti marsičesa (vzemimo »halucinacije«), kar je povezano z njenim delovanjem, tudi ne napovedati njenega nadaljnjega razvoja. To pa bo samo še večji izziv za njeno obvladovanje in regulacijo, ko bo umetna inteligenca iz faze umetne generativne inteligence (UGI) prešla v fazo umetne superinteligence (USI) in bo zadnja lahko še bolj izkoristila vsako priložnost, da uide človekovemu nadzoru. To bi v končni posledici pomenilo, da bi lahko UI brez slehernega moralnega kompasa nadzorovala in si podredila ljudi, ne pa obratno.

Morda imamo danes zadnjo priložnost, da se poleg držav (v EU, ZDA, Veliki Britaniji in tudi Italiji je bilo že nekaj srečanj »na vrhu« na temo regulacije UI) s tem resnim družbenim problemom začnejo poleg strokovnjakov s področij »trdih« (naravoslovnih in tehničnih) z njimi ukvarjati tudi v »mehkih« (družboslovnih in humanističnih) znanostih in vedah. Predvsem z namenom, da bi simbiotično sodelovanje med temi področji prispevalo k temu, da bi nadaljnji razvoj UI prinesel človeštvu več koristi kot nepopravljive škode. Brez tako zamišljenega cilja si je težko predstavljati napredovanje človeštva, prej njegov zaton. ddr. Rudi Rizman,

Kamnik