Dezinformacije poceni kot še nikoli

Pogovor z Markom Grobelnikom, strokovnjakom in raziskovalcem področja umetne inteligence – Klicni centri: kmalu ne bomo vedeli, ali govorimo s človekom ali robotom

V času, ko tehnologija umetne inteligence v naše življenje in pristope k delu prinaša prelomne spremembe, je pogovor z Markom Grobelnikom, mednarodno priznanim strokovnjakom in raziskovalcem področja umetne inteligence, nastajal na skoraj zastarel pristop v novinarstvu: z iskanjem informacij po spletu, pripravo okvirnih vprašanj na temo umetne inteligence in pogovorom iz oči v oči. V skladu z duhom časa bi si namreč lahko pri pripravi prispevka izdatneje pomagali s paradnim konjem umetne inteligence, klepetalnim robotom chatGPT, ki bi po kratkem navodilu v nekaj sekundah pripravil niz aktu

alnih vprašanj s področja umetne inteligence.

Po novembru lani, ko je postal klepetalni robot chatGPT dostopen javnosti, svet ne bo več enak. A chatGPT z vsestransko uporabnostjo ni prepričal le laikov. Njegove zavidljive sposobnosti sklepanja ob združitvi z že obstoječimi tehnološkimi storitvami navdušujejo tudi raziskovalce. Kot nas je že naučila zgodovina, pa vsako prelomno odkritje odpre veliko novih vrat in druga hkrati zapre. Tehnologija se razvija z bliskovito hitrostjo, kar je eden od razlogov, da ugibanja, kaj preboj umetne inteligence pomeni za ustroj družbe, za zdaj ostajajo le ugibanja. Ali kot pravi Marko Grobelnik, pomočnik vodje odseka za umetno inteligenco na

ljubljanskem Institutu Jožefa Stefana (IJS): kar trenutno spremljamo, je šele začetek začetka in že v letošnjem letu sledijo velike spremembe. Grobelnik aktualno dogajanje spremlja od blizu, saj je tudi član več strokovnih skupin za raziskovanje umetne inteligence v mednarodnih organizacijah (strokovne skupine OECD za umetno inteligenco, evropske komisije in zveze Nato) ter glavni tehnični direktor na ljubljanskem inštitutu delujočega Mednarodnega raziskovalnega centra za umetno inteligenco pod okriljem Unesca (IRCAI).

Malo za šalo, malo zares: bomo kmalu kompleksne politične odločitve, kot sta pokojninska in zdravstvena reforma, prepustili umetni inteligenci?

»Zadnja leta in predvsem zadnjega pol leta ljudi navdušuje to, kar spada med enostavne sisteme umetne inteligence, na primer prepoznavanje obraza, računalnik, ki govori, ali to, da se z orodjem, kot je chatGPG, lahko posvetujemo, da po navodilu pripravi povzetek in še veliko več. Naloge so lahko preproste, kar pa ne pomeni, da je v ozadju enostavna tehnologija. Če govorimo o pokojninskem sistemu ali odločitvah vlade … Ne gre za to, da to ne obstaja, ampak zdi se, da tisti, ki bi to uporabljali, niso dovolj zreli in bolj zaupajo uveljavljenim posvetovalnim ter analitičnim metodam. Ne v Sloveniji ne drugod umetne inteligence še ne uporabljamo za organizacijo pokojninskega sistema. Trenutno še najbolj razširjen tip kompleksnih sistemov je nadzorovanje procesov v

tovarnah z umetno inteligenco in avtomatizacijo na vseh nivojih, vključno s prodajo, medtem ko je v drugih delih družbe tega manj. Na primer, v javni upravi se že dolgo pogovarjajo o vpeljavi več orodij umetne inteligence za namene administrativnega dela, a se to še vedno ni zgodilo.«

Kaj pa je z opozorili pred nekritičnim vključevanjem te tehnologije v naše življenje?

»Konec lanskega novembra je bil večje pozornosti deležen sistem chatGPT, čeprav sisteme umetne inteligence sistematično uporabljamo že najmanj 15 let: z vsako prepoznavo obraza na mobilnem telefonu, vsakim odprtjem spletne strani ali iskanjem po googlu, prevajanjem dokumenta v drug jezik. Tudi postavitev izdelkov na trgovinskih policah je natančno izračunana s pomočjo teh sistemov, dele tehnologije umetne inteligence se uporablja v zavarovalništvu in podobno. S sistemom chatGPT pa se je zgodilo nekaj, česar nismo pričakovali niti tisti, ki se ukvarjamo s tem področjem. ChatGPT daje vtis, da je superpameten 'vseznalec', zelo pameten sogovornik človeškega tipa, ki na še tako nenavadno vprašanje poda odgovor, ki pa morda še ni vselej najbolj točen. S tem se je zgodil velik preskok v tehnologiji in njenih rezultatih, medtem ko je vse bolj v ospredju kritično vprašanje o možnih posledicah.

Vse kaže, da bo chatGPT med drugim močno preoblikoval trg dela in vplival na številne tipe zaposlitev. Sem spada vse, kar je povezano z besedili, slikami, glasbo, filmi, zvokom, tudi govorom, kreativne industrije so izrazito izpostavljene. Skladbo je že danes mogoče napisati le z vrstico besedila in brez glasbenega predznanja. Drugi primer so klicni centri. V letu dni skorajda ne bo več mogoče ločiti, ali na drugi strani s prijetnim gorenjskim naglasom govori človek ali ne. Primerov je še več in veliko ljudi bo moralo razmisliti, kaj bodo delali v prihodnje ... Spremembe ne bodo obšle niti znanosti, kjer je danes zahvaljujoč tehnologiji umetne inteligence nenadoma rešenih veliko problemov – česar ne pomnim v svoji karieri – in z nekaterimi stvarmi se ne splača več ukvarjati. Tudi na odseku za umetno inteligenco v vprašanja, ki naj bi bila že rešena, ne investiramo več. Seveda to ne pomeni, da smo na koncu poti, le odpirajo se nam nova polja, ki se jih doslej nismo mogli dotakniti. Na inštitutu v nasprotju z nekaterimi drugimi nismo negativni do aktualnega razvoja. Nasprotno, navdušeni smo. Regulacija področje umetne inteligence poteka na več ravneh, ob več mednarodnih organizacijah se s tem ukvarjajo tudi na državnih ravneh. Izpostaviti velja pripravo evropsko zakonodajo s področja umetne inteligence (AI Act); nastajati je začela leta 2019 in do konca letošnjega leta mora biti usklajena, da bo lahko v letih 2024 in 2025 sledila implementacija. Dokument, ki je sprva obsegal deset strani, danes pa preko 200, je bolj kot ne pripravljen in trenutno v fazi končnih popravkov.«

Tehnologija se razvija hitro, regulacija pa je še oddaljena ...

»Drži, oddaljena je. Se strinjam, vsi se strinjamo, da so premiki zelo počasni. Ampak hitreje ne gre. Če bi v Evropi živeli v diktaturi, bi lahko regulacijo pripravili v tednu dni. Ker pa imamo demokracijo s počasnimi postopki, usklajevanjem in iskanjem soglasja velikega števila ljudi, to terja svoj čas. Tega ne bodo povedali na glas, ampak ta trenutek so regulatorji precej zadržani, ne vedo, kakšen bi bil pravilen odziv: očitne koristi uporabe umetne inteligence namreč spremljajo pomisleki o veliki škodi, ki jo lahko povzroči. Po drugi strani pa bi z uveljavljenimi omejitvami pri uporabi umetne inteligence omejili tudi inovativno sposobnost Evrope, česar ne želi nihče. Regulativa tudi precej zaostaja za razvojem: chatGPT se je pojavil konec lanskega novembra, regulatorji pa šele danes razpravljajo o zadevah, o katerih bi morali govoriti decembra lani. S tem, da je v zadnjih mesecih prišlo do novih velikih premikov na teh področjih in pojava nove industrije. Razkorak med birokrati, ki politike spravljajo v dokumente, in realnim svetom je res ogromen.«

Kaj pa interesni vplivi iz ozadja?

»Zakonodaja bo določila načine uporabe sistemov umetne inteligence podobno, kot je v farmaciji urejeno področje za pravilno in varno uporabo zdravil. Delno bodo uporabne tehnologije umetne inteligence enostavno prepovedane. Med drugim to, čemur v angleškem jeziku rečemo social scoring oziroma množično ocenjevanje ljudi po pripadnosti, kar delno uporabljajo na Kitajskem. Vlada tako ne

bo smela ocenjevati dobrega ali slabega vedenja prebivalcev. Tudi množično prepoznavanje obrazov v realnem času na javnih prostorih oziroma uporaba teh vrst podatkov bo prepovedana. Tehnologija namreč že omogoča, da bi, na primer, na Prešernovem trgu postavljene kamere snemale in hkrati prepoznavale obraze mimoidočih, kar bi omogočalo, da bi poimensko vedeli, kdo kdaj prečka trg. Pomembna kategorija so uporabe podatkov z visokim tveganjem, kamor se umešča tudi uporaba v zdravstvu. V splošnem bo za te sisteme zahtevana certifikacija, podobno kot je pri zdravilih, kjer so nekatere vsebnosti prepovedane, druge pa dovoljene le pod posebnimi pogoji iz posamezne certifikacije. Certifikacija bo preverjala tudi, ali sistem kakorkoli diskriminira po spolu, rasi, veri ali drugih verjetnih dejavnikih. Za industrijo so aplikacije z visokim tveganjem pomembne zaradi vprašanja stroškov, saj jih zanima, koliko bi jih gradnja takšnih sistemov stala. Na evropski ravni tečejo živahne razprave in lobiranja o tem, kaj bi definiralo visoko tveganje in kaj ne.«

Umetna inteligenca z dezinformacijami že vpliva na »realni« svet in tudi izide volitev. Mar ni na tej točki regulativa pogrnila na celi črti?

»Je, ker jo je tehnologija prehitela. Da je tehnologija veliko hitrejša od regulatornih postopkov, vemo že od prej in pojav ni nov. Naj omenim, da zakonodaja s področja umetne inteligence prepoveduje še subliminalno vplivanje na ljudi. Gre za dezinformacije, mehke polresnice, ki osredotočene na počasno in orkestrirano usmerjajo javno mnenje v želeno smer.

Očitna in odkrita laž največkrat ni tako hud problem. Precej bolj problematične so zavajajoče, večkrat ponovljene polresnice, ki omogočajo več prostora za manipulacije. In dejstvo je, da je s chatGPT in sorodnimi orodji izdelava prepričljivih in kvalitetnih dezinformacij postala poceni in poceni kot še nikoli. Ne zahteva niti razgledanosti ustvarjalca dezinformacij, saj za pripravo dokumenta, ki bo očrnil konkretno osebo, zadošča kratji, jasno navodilo. Sledi le še deset objav na twitterju, besedilo razpošljemo naokoli po kanalih sporočanja in naloga je končana. Na drugi strani pa očrnjena oseba potrebuje mesece, da opere svoje ime. Odgovora, kako to preprečiti, nima še nihče. Je pa tehnologija, kako operemo ime, zelo podobna tehnologiji, s katero ga oblatimo, in edino s podobnimi metodami, s katerimi se dezinformacije ustvarja, se jih tudi lahko odkriva. Odkrivanje je sicer nekoliko težje in vsi niti nimajo na razpolago teh orodij.«

Ampak chatGPT bo kreiranje dezinformacij še pospešil.

»Drži. Zlorabe orodja pričakujem predvsem zato, ker je 'cena' za kreiranje dezinformacij tako nizka, da jo v kratkem času lahko ustvari otrok. Prave regulative pa ni. Tudi v svetovnem merilu bo prva zakonsko obvezujoča regulativa šele omenjena evropska zakonodaja AI Act.«

Odmeven je bil nedavni poziv strokovnjakov k začasni ustavitvi razvoja umetne inteligence.

»To je bil nesmisel. Eden od iniciatorjev pobude mi je povedal, da je bilo mišljeno drugače, do neke mere je šlo za provokacijo s ciljem, da se spodbudi k ukrepom. Realno gledano tega, kar iznajdemo, ne moremo 'od-iznajti'. Bog ne daj, da bi to skušali ustaviti, kar ni realno ali smiselno. Tudi če se mi v omejenem obsegu ustavimo, bosta Kitajska in Indija še naprej šli svojo pot.

Razvoja umetne inteligence ne more nihče več ustaviti – duh je ušel iz steklenice, z njim se lahko le pogajamo in ga omejimo. Napočil je čas za vprašanje, kako narediti korak naprej v našo pravo korist in razmisliti o regulaciji. Ob tem imejmo pred očmi, da je trenutno stanje razvoja tehnologij te vrste šele začetek začetka. Že v drugi polovici leta bo trg preplavljen s produkti, ki bodo na sedanjih in novih zmožnostih chatGPT s pomočjo raznovrstnih že obstoječih vtičnikov določene naloge zelo dobro opravili, hkrati pa bodo uporabniku bolj prijazni in všečni. Z njimi chatGPT dobi supersposobnosti.«

Katere pluse in minuse bi izpostavili, če bomo vse prepustili, grdo rečeno, mašineriji, ki naloge opravlja bolje od nas?

»Če lahko chatGPT in podobni sistemi tako enostavno replicirajo, kar smo delali ljudje, naše delo morda ni bilo zelo zapleteno in kreativno – heretična trditev, ki bi marsikoga užalila, v sebi morda skriva tudi kanček resnice. Zadnje desetletje je sicer prevladovalo mnenje, da bodo zaradi tehnologije najprej na udaru manualne, repetativne zaposlitve ljudi, torej roboti namesto ljudi po tovarnah, kar se postopno že dogaja, avtonomna vozila namesto voznikov, kar se bo tudi prej ali slej zgodilo. Danes pa smo priča preobratu, ko so zaradi napredka v tehnologiji najbolj izpostavljene kreativne tehnologije, hkrati pa po drugi strani regulativa avtonomnih avtov ne pusti na cesto in v tovarne kljub nesrečam počasi prihajajo roboti. Pričakujem, da nas bo nova tehnologija še nekaj let presenečala. Premešala bo karte, v stari strukturi družbe pomembni ljudje nenadoma ne bodo nujno več tako pomembni in lahko bi rekli, da bo prišlo do mehkega 'reseta', odpre se nov prostor, pojavi inovacijski val z ljudmi, ki niso obremenjeni s starimi koncepti. Z napredkom v umetni inteligenci se odpira tudi prostor, ki ne prinaša le pozitivnih priložnosti. Na negativni strani je največ skrbi s tem, da bo to zelo močno orodje, ki ga je mogoče tudi zlorabiti, pristalo v rokah ljudi, ki niso nujno niti dovolj zreli niti ustrezno odgovorni. Ne gre sicer za orožje, ki človeka ubije, lahko pa to mogočno orodje družbo ali posameznike poškoduje na drugačne načine. Kako se s tem spopasti in to omejiti, še ni jasno. Možnih negativnih posledic je veliko, vsem je skupni imenovalec to, da lahko neodgovorne osebe uporabljajo zelo močno orodje.

Brez dodanega predznaka pozitivnosti ali negativnosti omenimo še izpostavljeno področje izobraževanja, kjer že krepko razmišljajo, kako se znajti v novonastali situaciji. Če človek goljufa z enim dokumentom ali sliko, to zanj ne pomeni resnejših dolgoročnih posledic. Povsem nekaj drugega pa, če lahko z orodjem, kot je chatGPT, skozi izobraževalni sistem pripeljemo generacije otrok, ki ne pridobijo znanja, razvijejo sposobnosti razmišljanja, kreativnosti in vsega, kar človek potrebuje kasneje v življenju. Z dostopom do chatGPT in podobnih orodij je to tveganje neprimerno večje. Ampak smo na točki, ko so orodja umetne inteligence na voljo vsem. V teh spremenjenih okoliščinah sem privrženec izkoriščanja teh orodij v prid otrok – da bi otroci znali še več in bolje. Obstaja še tabor, ki se zavzema za prepoved uporabe novih orodij v izobraževanju, in le čas bo pokazal, v katero smer bomo krenili. Nedvomno je izobraževanje zelo izpostavljeno in ne gre le za pisanje esejev. Tudi v matematiki in fiziki lahko že danes brez razumevanja rešiš zelo težke naloge. Zato poudarjam, da je izobraževalni sistem kot celota pred izzivom in izobraževanje je področje, ki ga je nujno kar najhitreje urediti. Ne pozabimo, da so bili prvi uporabniki chatGPT decembra lani in januarja letos prav osnovnošolci in srednješolci.«

»Naslednjega močnega mejnika v okviru umetne inteligence trenutno ne vidim. Se pa že lep čas napoveduje kvantno računalništvo, kjer gre za inovacijo tipa atomske bombe. Ne bo na voljo vsakomur, tistim, ki bodo z njim razpolagali, pa bo prinesel strahovito moč.«

Foto: Jaka Gasar / Pomen, ki ga ima za družbo razvoj umetne inteligence in orodij, kot je chatGPT, Marko Grobelnik primerja s pojavom svetovnega spleta, ki je močno spremenil družbo.