Z umetno inteligenco je tehnični napredek prestopil Rubikon

Ddr. Rudi Rizman se je v Sobotni prilogi 20. januarja kritično soočil s prispevkom Matjaža Gamsa z naslovom Kdaj bo prišla superinteligenca?, ki je bil objavljen v Pismih bralcev. Zavrnil je nekritični tehnični optimizem Gamsa in navedel nekatere strokovne avtoritete, ki nasprotujejo takšni drži. Gams in Rizman sta na nasprotnih bregovih. Sam se postavljam na Rizmanov breg.

Ustvarili smo zgodovinsko tehnično mrežo, v kateri in s katero poteka naš način življenja. Ustvariti moramo drugo tehnično mrežo našega vsakdana, ne pa samo zamenjati nekatere niti v dosedanji mreži. Ta nova mreža je v zelenem prehodu k obnovljivim virom energije, v skrbni rabi neobnovljivih in v spoštovanju načela zadostnosti in previdnosti ter v sprejetju meje rasti produkcije in potrošnje. Sodobni znanstvenotehnični napredek je prispel do točke, ko zahteva drugačno mišljenje in vzpostavitev drugačnih praktičnih razmerij v četverokotniku družba – tehnika – znanost – narava. Treba bo upoštevati načelo previdnosti in hiteti počasi. Vse več sredstev bo treba usmeriti v raziskovanje možnih neželenih, nepredvidljivih in predvidljivih družbenih in okoljskih posledic uporabe znanstvenih spoznanj in uvajanja tehničnih inovacij. To bo sicer upočasnilo znanstvenotehnični napredek, vendar se bodo s tem zmanjšale ali celo preprečile številne možne nehotene in nepredvidljive posledice. Kolikor so večja tveganja, toliko je bolj nujna družbena regulacija znanstvenotehničnega napredka. Udejanjanje in razširitev mnogih sedanjih znanstvenotehničnih možnosti ne more biti prepuščeno dobičkonosni konkurenčnosti. Družbena regulacija umetne inteligence bo prispevala k spremembi koncepta družbene vloge znanosti in tehnike. Oblikuje se transznanstveno in transtehnično razumevanje znanosti in tehnike. Družbena regulacija mnogih tehnologij, ne samo umetne inteligence, je sicer nujna, toda ne more popolnoma preprečiti pojava nepredvidljivih in neželenih posledic. Problem namreč ni samo v možni zlorabi znanosti in tehnike, ampak že v sami rabi. Že z njo prihaja do neželenih in nepredvidljivih posledic, ki jih nihče ni hotel zaradi kakšnih interesov. Toda dokler bodo obstajali interesi dobičkonosne rabe in zlorabe znanosti in tehnike, bo potrebna družbena regulacija pridobivanja znanstvenih spoznanj na nekaterih področjih ter preprečevanje takšne njihove uporabe, ki bi lahko ogrozila zdravje, imetje, blaginjo ljudi ali celo njihovo eksistenco.

Lep primer nenamernih in nehotenih posledic je uporaba fosilnih goriv. Noben dejavnik ni imel interesa spreminjanja kemične sestave atmosfere in s tem povzročanja ekstremnih podnebnih sprememb in njihovih posledic, ki jih vse bolj občutimo danes. Aktualno je naslednje Engelsovo svarilo iz leta 1876: »Toda nikar se preveč domišljujmo s svojimi zmagami nad naravo. Za vsako tako zmago se nam narava maščuje. Sleherna zmaga prinaša sicer predvsem tiste posledice, s katerimi smo računali, toda v drugi in tretji vrsti so posledice čisto drugačne, nepričakovane, ki žal prepogosto prve posledice zopet razveljavljajo.« Ne gre za maščevanje narave, ampak za »maščevanje« človekove znanstvene in tehnične ustvarjalnosti ter kapitalskega odnosa do narave. Tudi pri možnosti superinteligence se moramo spomniti stare kitajske dialektične modrosti:

Kdor hoče imeti samo dobro brez zla, red brez nereda, ta ne pozna načel nebes in zemlje in ne ve, kako so povezane stvari.

Treba bo vse bolj računati tudi z Nietzschejevo ugotovitvijo, da nas naša dejanja držijo za ušesa, četudi smo se že poboljšali.

Opustiti bo treba dejavnosti visokega tveganja, ne pa jih razvijati zaradi možnih bližnjih in oddaljenih koristi, ki izhajajo iz preračunavanja koristi in škode. Pri tem preračunavanju bo vedno v igri navedena stara kitajska filozofska dialektična modrost.

Z nastajanjem umetne inteligence izginja dosedanja človekova vednost, kaj neko tehnično sredstvo zmore in kaj ne. V nobenem tehničnem sredstvu se niso pojavile funkcionalne sposobnosti, ki bi presenetile inovatorja. Z umetno inteligenco je tehnični napredek prestopil Rubikon. Evropska unija je ta prestop povezala z uvedbo družbene regulacije. Računalniškega strokovnjaka Sutskeverja je presenetila prevajalska zmožnost modela GPT-2, ki ni bil usposobljen za prevajanje. Presenečenj bo vse več, če pomislimo, koliko sijajnih človeških umov se ukvarja z razvijanjem modelov GPT, koliko finančnih sredstev je namenjenih za njihovo posodabljanje. Zaradi tega poteka njihovo posodabljanje z veliko hitrostjo. Družbeno reguliranje teh inovativnih procesov je vse nujnejše, toda spremeniti se bo moral tudi odnos do znanosti in tehnike tako v družbi in politiki kot znotraj same znanstvene in tehniške inteligence. To spremembo bi lahko poimenoval transznanstveno in transtehnično razumevanje znanosti in tehnike.

Ne more se vedeti, česa vsega je zmožna človekova znanstvenotehnična ustvarjalnost. Toda ali je vredno zaradi tega prestavljati meje te nevednosti in tvegati obstoj človeške eksistence in njegove inteligence? Človeštvo stoji pred izzivom, da razvije in udejanji svoje zmožnosti ter ustvari superinteligenco znotraj paradigme preračunavanja koristi in škode. Ne smemo pozabiti, da velika tveganja, povezana z umetno inteligenco ustvarjajo ljudje v neoliberalni kapitalistični strankarsko demokratični ali avtokratski družbi. Nekateri znanstveniki in razvijalci modelov GPT govorijo tako, kot da sami in njihove ekipe ne ustvarjajo teh tveganj, ampak se pojavljajo neodvisno od njihove ustvarjalnosti. Če bo prišlo do super nadčloveške inteligence, ta gotovo ne bo prinesla samo dobrobiti. Če pa ne bo prišlo do nje, to ne bo samo zaradi regulacije, ampak tudi zaradi drugačnega razumevanja družbene vloge znanosti in tehnike, drugačnega odnosa do narave in drugačnega razumevanja človečnosti. Se bo to zgodilo? Morda, odvisno bo od nas in kritične drže večine znanstvene in tehniške inteligence. Andrej Kirn,

Ljubljana