Tehnološki preboj, družbeno in politično tveganje

Digitalne platforme – facebook, instagram, youtube, amazon, apple, tiktok, booking, google, wikipedia – povezujejo kupce in prodajalce, inovatorje in uporabnike. So najmočnejše akterke sodobnega digitaliziranega sveta. Nas lahko platformna podjetja zasužn

Napovedi prihodnjih učinkov novih tehnologij so legendarno zgrešene. Včasih so namreč ti učinki podcenjeni. Žena Henryja Forda je leta 1914 zavrnila avto s hrupnim in umazanim bencinskim motorjem in se raje vozila z električnim. Ugledni tehnološki komentatorji so s posmehom pospremili načrte Appla, da bo razvil iphone. Podobno napako so storili ob predstavitvi ipada, ki so ga posmehljivo označili za »oversized phone«, prevelik telefon. Ustanovitelja Googla Sergey Brin in Larry Page sta začudeno gledala, ko so ju vlagatelji vprašali, kako bi lahko s svojim iskalnikom zaslužila svoj prvi dolar. Profesor William Barnett s poslovne šole Stanford omenja mladega Zuckerberga, ki se je s kolesom pripeljal predstavit svoj nastajajoči facebook. Študentje poslovne šole so s smehom pospremili njegovo navdušeno predstavitev algoritma, ne da bi med predavanjem odložil nahrbtnik z ramen, ob tem pa niso imeli niti najmanjše predstave o tem, kam bi lahko pripeljala njegova tehnologija.

Pogosto pa so učinki nove tehnologije tudi močno precenjeni. Znane so pretirane ocene dolge vrste ustanoviteljev tehnoloških podjetij – od Steva Jobsa, ki je napovedoval osvoboditev človeštva, pa vse do Adama Neumanna, ustanovitelja We Work, ki je napovedoval dvig človeške zavesti in nekaj mesecev pozneje pristal v stečaju. Kot poudarja profesor Barnett, je tako pozitivne kot negativne napovedi glede posledic novih tehnologij treba jemati z zadržkom.

Kaj to pomeni za napovedi o učinkih umetne inteligence? Pri vsakršnih napovedih je potrebna dobršna mera skepse. V poslovnem svetu je umetna inteligenca povzročila pravo evforijo in napovedi o novih priložnostih za inovacije, ki lahko pozitivno prispevajo k vodenju podjetij, izboljšanju delovanja javnih sistemov, reševanju družbenih izzivov in nastajanju podjetniških priložnosti. Opazovali smo lahko porast investicij v vse, kar je dišalo po umetni inteligenci. Microsoft je čez noč vložil deset milijard dolarjev v OpenAI, investitorji pa so razgrabili delnice podjetij, povezanih z umetno inteligenco, in jim dvignili ceno na magično raven. Tržna vrednost družbe OpenAI, lastnice modela chatgpt, je v nekaj mesecih po objavi testnega produkta poskočila z začetne neznatne vrednosti na 86 milijard dolarjev.

Ekscentrični ustanovitelji tehnoloških velikanov (na primer direktor OpenAI Sam Altman ali Demis Hassabis, ki vodi center za umetno inteligenco DeepMind pri Googlu) svarijo, da bo umetna inteligenca s preseganjem sposobnosti človeških možganov kmalu začela nadomeščati ljudi in eksistencialno ogrozila človeško vrsto. Take napovedi so se pojavile ob vsaki novi tehnologiji v zadnjih dvesto letih. V današnjem kontekstu bolj spominjajo na sanje milijarderjev, ki upajo, da bo nova tehnologija naposled nadomestila »predrago« in »nehvaležno« delovno silo in enkrat za vselej znižala stroške dela ter odpravila grožnjo sindikalnega pritiska.

Bolj resni in legitimni so zadržki odraslih ljudi v sobi, ki izpostavljajo že obstoječa tveganja, ki jih predstavlja uporaba umetne inteligence za upravljanje družbe – še posebej na področju demokratičnih procesov – kot posledica širjenja vse težje prepoznanih lažnih novic in vedno bolj prepričljivih lažnih videoposnetkov (globoki ponaredki). Toda tudi proizvodnja in širjenje lažnih besedil in videoposnetkov z umetno inteligenco še vedno ni osrednji problem. Umetna inteligenca res prispeva k povečevanju največjih družbenih problemov – vključno z erozijo demokracije –, ni pa njihov povzročitelj. Poročilo Freedom of the Net 2023 organizacije Freedom House nazorno govori o porastu taktik širjenja dezinformacij, saj je dostop do vedno bolj zmogljive umetne inteligence lažji in bolj enostaven. Hkrati pa poročilo ugotavlja, da so ljudje še vedno tisti, ki sprožijo večino dezinformacij, pri čemer je umetna inteligenca le njihovo orodje.

Pravo nevarnost za preživetje demokracije predstavlja distribucija lažnih vsebin prek omejenega števila platformskih korporacij. Te vsaka posebej dosegajo milijarde uporabnikov. Razvile so izjemne zmogljivosti natančnega ciljanja uporabnikov, s čimer so na stežaj odprle vrata družbeni manipulaciji, politični polarizaciji in družbeni nestrpnosti. Umetna inteligenca predstavlja zgolj orodje, ki pa v napačnih rokah, to je v rokah platformnih podjetij, ogrozi obstoj demokracije in človeške vrste.

Platforme in nacionalne države

Pogosto naletimo na primerjave največjih platformnih podjetij z nacionalnimi državami zaradi njihovega velikega števila uporabnikov ali njihove neverjetne ekonomske moči. Z več kot dvema milijardama dnevnih aktivnih uporabnikov je platforma Facebook večja od populacije Indije. Kar 90 odstotkov spletnega iskanja v Evropi poteka prek googla, kar daje platformi nadzor

Z evropskim aktom o digitalnih storitvah je platformam naložena uredniška odgovornost za vsebine, ki pa jih ne morejo samovoljno umikati, temveč morajo vsak umik javno utemeljiti. Rezultat regulacije bo dodatni pritisk na platformna podjetja, da vzpostavijo učinkovit nadzorni sistem nad vsebinami.

nad velikanskim ekonomskim sistemom.

Toda problem ni samo njihova velikost ali ekonomska moč. Digitalna platformna podjetja segajo v družbo globlje kot katera koli druga zasebna podjetja. Primerjava z nacionalnimi državami je smiselna, ker imajo platformna podjetja moč aktivno posegati in sooblikovati družbeno strukturo s predpisovanjem pravil in njihovim uvajanjem s sankcioniranjem v svojih obsežnih ekosistemih. To daje platformam moč ne samo nad gospodarskimi dinamikami in uporabniki, temveč tudi nad celotno družbo in demokracijo. Platforme igrajo vlogo posredovalca v javni sferi, ki

so jo nekoč zasedale družbene elite, in delujejo kot aktivni agenti v demokraciji prek na algoritmih slonečega kuratorstva javnega diskurza, mimo ustaljenih kanalov demokratične komunikacije. Njihova družbena moč je strukturno pogojena s tem, da so vratarji vsakodnevne komunikacije med posamezniki in institucijami. Izhaja pa tudi iz njihovih (o)mrežnih učinkov, lastništva podatkov in infrastrukturne pozicije. Zato ni čudno, da se je

OpenAI, ki je med najvišje vrednotenimi startup podjetji v zgodovini, odločil preoblikovati v platformno podjetje in je pravkar uvedel trgovino GPT, podobno Applovi trgovini App Store. OpenAI je povezal razvijalce novih različic klepetalnika GPT za najrazličnejše specializirane namene s plačniškimi naročniki klepetalnika prek platforme GPT plus, prek katere bodo imeli dostop do pripravljenih različic GPT.

Velika moč OpenAI

Kaj to pomeni za podjetje OpenAI? Tega ne moremo predvideti z gotovostjo, lahko pa na to sklepamo na podlagi dosedanjih raziskav o značilnostih in evoluciji platformnih podjetniških modelov. S tem, ko je OpenAI ustvarili dvostransko platformo, je ustvaril tudi nov, ekskluziven trg in postal posrednik med dvema skupinama uporabnikov GPT, razvijalci in uporabniki različic GPT. Na novem trgu, ki ga je OpenAI ustvaril in ga povsem nadzira, je ta postal vratar in intermediator med vsemi udeleženci. To podjetju dovoljuje postavljati diskrecijska pravila trga – vse od pravil o tem, kakšni GPT so dovoljeni in kakšni ne in kdo lahko vstopa v izmenjave, pa do sankcij za uporabnike in razvijalce, ki bodo kršili pravila. To bo podjetju OpenAI omogočilo visoko stopnjo nadzora in vpliva ne samo na obe skupini uporabnikov, temveč tudi na celotno industrijo in družbo.

Moč nad industrijo bo OpenAI črpal iz odvisnosti drugih podjetij, ki bodo uporabljala platformo bodisi za dostop do storitev, dostop do tehnologije ali dostop do drugih razvijalcev različic GPT. Z lastništvom podatkov bo OpenAI zmožen ovirati vstop novih konkurentov, saj bo imel informacije o popularnosti produktov, hkrati pa bo lahko usmerjal uporabnike k najbolj dobičkonosnim produktom. Omrežni učinki mu bodo pomagali ohraniti dominantno pozicijo, s tem ko se bo korist razvijalcev na eni strani povečala s povečanjem števila plačljivih uporabnikov na drugi strani. Zmožnost postavljanja pravil na platformi bo OpenAI omogočilo vplivati na naše razumevanje umetne inteligence, na odločitve o tem, kaj je (ne)dovoljeno in kaj (ne)samoumevno. To pomeni, da bo zasebni platformni poslovni model postavljal pravila in meje umetne inteligence pri njenem prodoru v vse družbene podsisteme. Čeprav je OpenAI odprl svojo platformo šele sredi letošnjega januarja, je dosedanje delovanje platformnih podjetij dovolj jasno, da ta scenarij ni zgolj hipotetičen.

Zaskrbljujoča torej ni tehnologija umetne inteligence, temveč dejstvo, da bo zasebno podjetje zaradi moči, ki jo omogoča platformni poslovni model, krojilo podobo nove družbe. Medtem ko umetna inteligenca brez dvoma predstavlja zanimiv tehnološki preboj, pa bo sprememba OpenAI v platformno podjetje tista, ki ji bo dala moč, da postane intermediator v družbi in odloča o tem, kako, v katere namene, pod kakšnimi pogoji in s kakšnimi omejitvami bomo lahko uporabljali umetno inteligenco. S tem bo zasebno podjetje določilo podobo nove družbe, pri čemer bo v ospredju maksimizacija vrednosti za delničarje, ne pa maksimizacija družbene koristi. Zato je pomembno, da se države ne prepustijo sanjam o potencialu umetne inteligence, temveč pogledajo onkraj tehnologije in se zavedo, da je bolj kot regulacija tehnologije odločilna regulacija platformnih podjetij.

Evropska regulacija

Prav to pa je poudarek svežnja evropskih aktov o digitalnih trgih in storitvah, ki skušajo uveljaviti demokratični nadzor nad delovanjem platform. Skupaj akta naslavljata vrsto značilnosti platformnega podjetniškega modela, ki bi delno preprečilo Open AI prevzeti monopolistično vlogo in razviti zgoraj opisano moč nad trgom, uporabniki in družbo.

Akt o digitalnih storitvah naslavlja predvsem sistemska tveganja, ki jih vidi v širjenju posameznih vsebin, ne dotika pa strukturnega položaja platform. Akt vsebuje pravila, ki bodo povečala transparentnost delovanja platform, preprečila pojavljanje nezakonitih proizvodov, storitev in vsebin na platformah ter vzpostavila nadzorne strukture, ki jih lahko uporabijo tako države članice kot tudi uporabniki za umik nezakonitih vsebin. Platforme so dolžne odstraniti te vsebine in o vsakem primeru izločitve natančno poročati evropski komisiji. Akt tudi uvaja dodatne zahteve za največja platformna podjetja – torej tista, ki jih uporablja več kot deset odstotkov prebivalstva EU.

Evropska unija meni, da te platforme predstavljajo sistemska tveganja za družbo, in jim nalaga, da ocenijo svoje sistemsko tveganje in ga zmanjšajo. Sistemska tveganja, ki jih akt naslavlja, vključujejo vsebine, ki kršijo temeljne človekove pravice, vsebine, ki ogrožajo integriteto političnega diskurza, volitev ali javno varnost, vsebine, ki spodbujajo spolno nasilje ali ogrožajo javno zdravje mladoletnih oseb ali fizično in psihično zdravje ljudi. Dodatna varovalka demokratičnosti je tudi zahteva, da morajo največje platforme ugoditi zahtevam raziskovalcev po dodatnih podatkih o svojih odločitvah. Akt se v veliki meri osredotoča na posledice, ki jih povzroča platformni model, kot so nelegalna vsebina in lažne informacije. Žal pa se ne dotika družbene moči platform, tj. njihove infrastrukturne in intermediacijske vloge, ki imajo najbolj negativne družbene posledice.

Z evropskim aktom o digitalnih storitvah je platformam naložena uredniška odgovornost za vsebine, ki pa jih ne morejo samovoljno umikati, temveč morajo vsak umik javno utemeljiti. Rezultat regulacije bo vsekakor dodatni pritisk na platformna podjetja, da vzpostavijo učinkovit nadzorni sistem nad vsebinami. Akt pa jim s tem ne jemlje družbene moči, temveč jih zgolj sili k minimalni spodobnosti in skladnosti z družbenimi normami. Družbena moč platform bo tudi po uveljavitvi teh aktov ostala nespremenjena.

Ključno vlogo pri nadzoru bodo odigrali nacionalni nadzorni organi. Akt je stopil v veljavo 16. novembra 2022, pomemben del uredbe pa se bo začel uveljavljati 17. februarja letos, ko bo morala vsaka država članica imenovati nacionalnega koordinatorja digitalnih storitev. V Sloveniji bo za to odgovorno ministrstvo za digitalno preobrazbo, ki bo imenovalo koordinatorja znotraj Agencije za komunikacijska omrežja in storitve Republike Slovenije. Ta bo odgovoren za nadzor nad ponudniki posredniških storitev, za administrativne naloge, kot sta podeljevanje statusa zaupanja vrednih prijaviteljev, in sodelovanje s koordinatorji drugih držav članic in evropsko komisijo.

Zavedati se moramo, da nevarnost ni v novi tehnologiji, temveč v sebičnih korporacijah platformnega tipa, ki so obstoječe tehnologije že podredile svojim poslovnim interesom. Zato vemo, da bodo to počele tudi v prihodnje. Na nas je, da jih pri tem z regulatorji omejimo in ob pritisku javnosti ljudem povrnemo suverenost, ki jim pripada v demokratičnih družbah.

Drznost, podpora javnosti

Da bi koordinator dobro opravljal naloge in prispeval k boju proti negativnim posledicam platformnega podjetniškega modela, pa bo moral pokazati veliko drznosti. V pomoč mu ne bo le politična podpora, temveč predvsem izvajanje demokratičnega pritiska javnosti, saj se bo moral spopasti z izjemno močnimi korporacijami, ki se družbeni moči ne bodo odpovedale.

V javni diskurz se je že prikradla fabula tehnološkega optimizma, češ, pustimo novi tehnologiji, da razvije krila, pometali bomo kasneje. Zavedati se moramo, da nevarnost ni v novi tehnologiji, temveč v sebičnih korporacijah platformnega tipa, ki so obstoječe tehnologije že podredile svojim ozkim poslovnim interesom. Zato vemo, da bodo to počele tudi v prihodnje. Na nas je, da jih pri tem z regulatorji omejimo in ob pritisku javnosti družbi in ljudem povrnemo suverenost, ki jim pripada v demokratičnih družbah. ●