Nasedamo spektaklu vse bolj zmogljivih nerazmišljujočih sistemov

Sanela Jahić, ki živi in ustvarja v Škofji Loki, je svoje delo med drugim predstavila v Galeriji Kapelica in Muzeju za sodobno umetnost Metelkova, v berlinskem Tehničnem muzeju ter v Ars electronica Centru v Linzu. Med številnimi priznanji je leta 2011 prejela nagrado pixxelpoint, priznanje Riharda Jakopiča ter nominacijo za nagrado skupine OHO. Pri ustvarjanju sodeluje s strokovnjaki mehanike, avtomatike, elektronike, programiranja in nevroznanosti.

Letos oktobra je v Projektnem prostoru Aksioma postavila razstavo Negotovost v zanki, s katerim zastavlja provokativno vprašanje, ali so ustvarjalnost, fleksibilnost in inovativno mišljenje dejansko tiste delovne veščine, ki so najbolj odporne na avtomatizacijo. V tem triletnem projektu je svoj celoten opus pretvorila v podatke z namenom, da bi algoritem predvidel vsebino in estetiko njenih prihodnjih umetniških del. Razstavo Negotovost v zanki so pred dobrim tednom odprli v reški galeriji Deltalab v okviru programa Evropske prestolnice kulture Reka 2020, kjer bo na ogled do konca novembra.

Ali menite, da je strojem in umetni inteligenci mogoče pripisati inteligenco in ustvarjalnost ali pa zgolj izjemno zmožnost preračunavanja in vzorčenja?

V projektu Negotovost v zanki napovedni algoritem nikakor ni inteligenten. Človeška inteligenca je najpogosteje opredeljena kot zmožnost logičnega sklepanja in reševanja problemov in torej sestoji iz sposobnosti prilagajanja novim situacijam, sposobnosti mišljenja in razumevanja abstraktnih konceptov, učenja na podlagi izkušenj itd. ter vključuje različne kognitivne funkcije, kot so spomin, pozornost, jezik, načrtovanje, percepcija.

Pri raziskovanju umetne inteligence mi je blizu razmišljanje kognitivnega znanstvenika Douglasa R. Hofstadterja, ki že desetletja skuša razviti računalniške modele na podlagi temeljnih mehanizmov človeškega mišljenja. Hofstadter trdi, da bi današnji pristop k umetni ali strojni inteligenci, ki ne temelji toliko na razumevanju človeške inteligence kot na sistemskem ustroju in ogromnih količinah podatkov, lahko primerjali s človekom, ki bi skušal priti na Luno tako, da bi plezal na drevo, pri čemer bi poročali o njegovem stalnem napredku, vse dokler ne bil priplezal na vrh drevesa.

V najbolj odmevnih projektih s področja umetne inteligence je po Hofstadterju željo oziroma potrebo po razumevanju tega, česar očitno niti sami povsem ne razumemo, nadomestil program, ki je zmožen samostojnega učenja in je programiran za odkrivanje zakonitosti v naboru podatkov. Vendar značilnosti, pojavi, lastnosti in vzorci programov, ki delujejo v okvirjenih pogojih, niso niti senca tega, kar ti pojavi in lastnosti predstavljajo za ljudi, meni Hofstadter. Tako nasedamo spektaklu vse bolj zmogljivih nerazmišljujočih sistemov, ki s seboj prinašajo nove, drugačne kompleksnosti. Samoučeči se inteligentni sistemi so v primerjavi z običajnimi stroji bolj fleksibilni, a hkrati manj razumljivi. Zato jih, ko je njihov rezultat nepredvidljiv in ni mogoče preveriti, zakaj in kako je prišlo do odločitve, nekateri dojemajo tudi kot ustvarjalne.

V projektu ste svoje umetniško delo iz zadnjih štirinajstih let pretvorili v podatke z namenom, da bi algoritem predvidel vsebino in estetiko vašega naslednjega projekta. Vendar obsežen nabor podatkov vključuje le vaše končne odločitve in ne predhodnih dvomov, ki so ključni del ustvarjalnega človeškega procesa. Umetna inteligenca se ne ubada s strahom pred napakami, spodletelostjo, neuspehom …

Ti podatki seveda ne vključujejo mojih preteklih dvomov in vpraševanj, vključno s tem, zakaj počnem to, kar počnem. Da bi moj nabor vključeval tudi omenjene podatke, bi morala s tem projektom začeti ne pred tremi leti, ampak na začetku svojega opusa. Čeprav se mi zdi, da so strahovi, dvomi in napake bolj ali manj vedno navzoči, bi bil vsekakor zanimiv eksperiment, kako namerno poustvariti in podoživeti takšna pretekla stanja in intenzivnost občutkov.

Toda napovedna moč uporabljenega algoritma je vendarle obremenjena s preteklostjo, le da na drugačen način, saj podaja izbiro iz že narejenih odločitev, zato je v predvidevanju omejena. Da bi cikel, v katerem strojni algoritem producira kombinacije prej obstoječih podatkov, prekinila in se s tem izognila povratni zanki, sem v zaključni fazi stroju omogočila vpogled v moje tedanje raziskave, in sicer skozi zgodnje okno v takratno neorganiziranost mojih misli.

Katere parametre ste upoštevali v algoritemski obdelavi vašega dela?

Algoritem je v napovedi z visoko stopnjo zaupanja in visoko vrednostjo kot ključne za vsebino mojega naslednjega umetniškega dela izpostavil naslednje parametre: znanstveno raziskavo kot metodo, podatke na podlagi vokalnih biomarkerjev, naprave za snemanje in sledenje, orodje za ocenjevanje, psihološko profiliranje, podatke o osebnostnih in vedenjskih značilnostih, duševno zdravje in izračun ocene tveganja. Na tej podlagi sem začela raziskovati, kako naše duševno zdravje vpliva na motoriko govornega aparata in pusti odtis v našem glasu. To me je vodilo k sodelovanju z dr. Jude Dineley, doktorantko na katedri za vgrajeno inteligenco za zdravstveno nego na Univerzi v Augsburgu v Nemčiji, in z dr. Nickom Cumminsom z oddelka za biostatistiko in zdravstveno informatiko na Inštitutu za psihiatrijo, psihologijo in nevroznanost King's Collegea v Londonu. Z njuno pomočjo je znotraj projekta Negotovost v zanki nastalo delo Pataka, ki prisluhne temu, kaj naši glasovi o nas govorijo strojem.

Ali je algoritem zaznal tudi vašo pripravljenost, da boste njegovim napovedim sledili?

Od začetka sem vedela, da bom sledila kateri koli algoritemski napovedi ne glede na to, ali se bom v njej prepoznala. Verjetnost, da bi algoritem, ki temelji na podatkovni bazi mojih umetniških del, interesov in delovnih metod, na koncu predvidel nekaj, kar bi me postavilo v položaj odtujenega dela, je bila skoraj ničelna. A dejansko se je odtujitev zgodila že s tem, da sem svoje delo položila v program, v katerem se je delo pojavilo kot nekaj tujega v obliki ovrednotenih parametrov. Značilnosti mojega dela so bile pretvorjene v podatke in postale tabele številk, vsaka ustvarjalna odločitev pa je postala izražena matematično.

Katera algoritemska vsebinska in estetska predvidevanja so vas najbolj presenetila?

Verjetno tista, ki se nanašajo na duševno zdravje. Mislim, da se brez tega algoritma nikoli ne bi lotila projekta, ki je osredotočen na depresijo in človeški glas, vendar ko pomislim na splošno občutje praznine in umanjkanje smisla v današnji družbi, se mi zdi to razumljivo. Poleg tega se je zgodil še en, zame zanimiv obrat. Ker velik del podatkovne baze vključuje parametre, ki se nanašajo na vprašanja in (domnevna) protislovja avtomatizacije, je algoritem posledično predvidel tudi svoj nastanek.

Kakšne so razlike in podobnosti med človeškimi odločitvami in odločitvami umetne inteligence oziroma v tem primeru algoritma?

Ljudje svojih odločitev včasih ne razumemo in pogosto najdemo načine, da intuitivno zaupamo drugim in ocenimo situacije. Mislim, da smo trenutno na točki, ko v poplavi perečih družbenih problemov bežimo pred bremenom odločitev ter njihovimi posledicami in jih predajamo avtoma

tiziranim sistemom, kot da bi bila v njihovih črnih škatlah skrita raven neznane resničnosti. Čeprav algoritmično odločanje ni nevtralno in objektivno, ampak je lahko pristransko, saj temelji na podatkih, ki odražajo zgodovino družbene neenakosti, se kot orodje uporablja pri zaposlovanju, v bančnem sektorju ter pri delu policije in pravosodja, kar ima tako družbene kot politične posledice. Čeprav se program ne more naučiti novega sistema socialnih vzorcev in ne zmore reševati družbenih problemov, raje ostajamo na avtopilotu in podatkovni bazen vztrajno polnimo z dodatnimi, novimi primeri.

Pred leti ste v enem od slovenskih industrijskih obratov posneli zelo zanimiv kratki film Tovarna, v katerem ste raziskovali

Hofstadter trdi, da bi današnji pristop k umetni ali strojni inteligenci, ki ne temelji toliko na razumevanju človeške inteligence kot na sistemskem ustroju in ogromnih količinah podatkov, lahko primerjali s človekom, ki bi skušal priti na Luno tako, da bi plezal na drevo, pri čemer bi poročali o njegovem stalnem napredku, vse dokler ne bil priplezal na vrh drevesa. odnos lastnikov in delavcev do tovarniških strojev. Od kod vaše zanimanje za stroje in tehnologijo?

Odnosi med stroji in ljudmi so ena od stalnic v mojem delu. Te vsebine me verjetno zanimajo zato, ker izhajam iz delavske družine, kar oblikuje pomemben del moje identitete. Kot dijakinja, študentka in kasneje absolventka sem delala v raznih industrijskih panogah v lokalnem okolju. V obdobju, ko sem delala v tekstilni tovarni, sem pogosto sanjala, da v tej tovarni hodim ob stroju in skrbim za njegovo nemoteno, brezhibno delovanje previjanja, ko pa se na koncu ozrem po tovarniški hali, v grozi zagledam, da vse luči na stroju gorijo rdeče. V nočni mori mi je šel srh po telesu ob ugotovitvi, da se je stroj ustavil in da se bo treba potruditi za njegov ponovni zagon, s katerim bo delovni proces spet stekel in se bodo vsi deli procesa uskladili.

Povod za nastanek videa Tovarna je bil prav spomin na te sanje, v katerih je bilo dogajanje postavljeno v isti obrat, kjer sem pred mnogimi leti delala in kjer je bila zaposlena tudi delavka, ki opisuje svoj odnos do stroja. Ob tem je zanimivo in hkrati pretresljivo, da moja sogovornica v tem obratu ni le delala, ampak jo je tamkaj zaposlena mati v visoki nosečnosti tudi rodila.

V videu lastniki in delavci o strojih govorijo zelo čustveno. Medtem ko lastnik strastno opisuje lepoto njihovega zvoka, so se delavci, ki sicer do strojev kot mehanskih sodelavcev niso bili razpoloženi sovražno, pritoževali zlasti nad tem, da morajo loviti ritem »svojih« strojev. Ali obstaja razlika

Kakšno pa je vaše osebno razmerje do algoritma, ki obdeluje vaše preteklo delo in napoveduje vaše prihodnje projekte? Ali ga doživljate kot sodelavca, nemara tekmeca? Tehnologijo in stroje razumem kot človekov podaljšek, saj smo neizogibno vezani in neločljivo sooblikovani s sodobnimi orodji. S strojem sodelujem in ga uporabljam kot orodje, ki ima v naboru podatkov zmožnost prepoznavanja vzorcev, torej, kaj mi je skozi čas postajalo pomembno in kaj sem opustila. Vendar pa njegov verjetnostni izračun, ki določa, kaj naj naredim v prihodnosti, še vedno potrebuje mojo interpretacijo.

Raziskave avtomatizacije in njenega vpliva na položaj človeškega dela sem se najprej lotila z vstopom v lokalne proizvodne obrate, nato v sfere intelektualnega dela, kjer sem

se osredotočila na meritve produktivnosti dela menedžerjev, na koncu pa sem to vprašanje usmerila vase, v svoj delovni proces in s tem v polje umetnosti. Projekcije prihodnosti dela namreč navajajo kreativnost, fleksibilnost in inovativno mišljenje kot predvidene zahtevane veščine, ki jih bodo morali imeti zaposleni. Te mehke veščine, ki so tradicionalno pripisane tudi umetniškemu poklicu, naj bi bile med tistimi, ki so najbolj odporne na avtomatizacijo oziroma bodo najmanj izpostavljene.

Zanimiva dimenzija razstave Negotovost v zanki so v delu, naslovljenem Pataka, vokalni biomarkerji, ki so v uporabi v znanstvenih raziskavah in kliničnih praksah pa tudi v oglaševanju in zaposlovanju. Kaj so vokalni biomarkerji?

Spremembe v telesnem in psihičnem počutju lahko vplivajo na našo sposobnost nadzorovanja vokalnega trakta med govorom, kar spremeni akustične značilnosti in barvo našega glasu. Z uporabo strojnega učenja je možno te znake prepoznati in s tem predvideti govorčevo zdravstveno stanje ter potencialno omogočiti zgodnejše terapevtske posege. Vokalni biomarkerji so tako specifične akustične značilnosti glasu, ki zbrani na daljavo in pasivno prek telefona, digitalne aplikacije ali pametnega zvočnika omogočajo strojem razumevanje naših notranjih stanj s snemanjem, analizo in zaznavanjem sprememb v našem govoru.

Kot razumem, ne gre za govorno vsebino, ampak za glasovne značilnosti …

Tako je, gre za paralingvistično analizo, kako govor zveni, in ne za njegovo vsebino. Včasih se zgodi, da pokličemo nekoga bližnjega, ta pa nas takoj vpraša, kaj je narobe, vendar ne zaradi tega, kar smo rekli, ampak zaradi tega, kako smo to izrekli. Govor depresivnih ljudi je pogosto opisan kot monoton, brez življenja. Motnje kognitivnih funkcij, ki spremljajo depresijo, se slišijo v upočasnjenem govoru in daljših premorih, zaradi utrujenosti in psihomotorične upočasnjenosti se pojavijo tudi napake v govoru.

Kaj pomeni Pataka?

Trizlogovna sekvenca Pataka je govorna vaja, ki se običajno uporablja v testu diadokokinetične hitrosti (zmožnosti izvajanja hitrih sprememb v govornih zvokih) in poudarja spremembe, povezane s pomanjkanjem mišičnega nadzora v govoru, na katerega vpliva depresija.

Kako natančne so meritve vokalnih biomarkerjev?

Točnost, ki je eden od pogojev za naše zaupanje v te sisteme, je odvisna od mnogih stvari, v prvi vrsti od količine in kakovosti podatkov, pri raziskavah motenj razpoloženja pa je tudi pomembno, ali gre za klasifikacijo ali regresijsko napovedovanje. Zanesljivost napovedi naj bi bila večja pri razvrščanju, na primer, ali ima oseba motnjo razpoloženja, kot pa pri predvidevanju stopnje oziroma resnosti depresije (ocenjeno z vprašalniki, kot sta PHQ-9 ali MDQ). Po besedah raziskovalca, s katerim sem sodelovala, je natančnost njihove tehnologije okoli 80-odstotna.

Kako pa vokalne biomarkerje uporabljajo v oglaševalski industriji in zaposlovanju?

Ko je leta 2002 Svetovna zdravstvena organizacija navedla depresijo kot četrti najpogostejši vzrok obolevnosti na svetu, do leta 2030 pa naj bi postala drugi vodilni vzrok, so krizo duševnega zdravja, ki ekonomijo stane milijone, kot obetaven trg prepoznala številna zagonska podjetja. Po besedah Claudia Haslerja, ustanovitelja podjetja PeakProfiling, ki je pred tem delal pri Googlu, lahko podjetja, ki imajo sredstva za nakup in analizo zdravstvenih podatkov, postanejo zmagovalci digitalizacije v zdravstvu.

Zagonska podjetja, kot so Sharecare, HealthRhythms ali Sonde Health, ki prek mobilnih aplikacij zbirajo in analizirajo vzorce glasov za daljinsko diagnozo in spremljanje, sodelujejo z zdravstvenimi zavarovalnicami in farmacevtskimi podjetji. Yoav Degani, direktor izreaelskega podjetja Voicesense, ki je, preden je postal klinični psiholog, služil v elitni izraelski obveščevalni enoti, pravi naslednje: Dajte nam posameznikov glasovni vzorec in povedali vam bomo, kaj bo storil. Tehnologija Voicesense, ki združuje obdelavo signalov s klinično psihologijo, glasovno analizo in umetno inteligenco z namenom izdelave podrobnega osebnostnega profila, ki naj bi razkril bistvene človekove lastnosti za napovedovanje njegovega vedenja, se uporablja za različne namene. Oglaševalska industrija naj bi z njeno uporabo imela v realnem času vpogled v to, ali se bo nekdo odločil za nakup, s čimer bi se tako lažje osredotočila predvsem na tiste interakcije, kjer obstaja večja verjetnost za visok prihodek. Zavarovalnice to tehnologijo uporabljajo za pridobivanje predikativne ocene, ali bo nekdo v naslednjih nekaj letih vložil odškodninski zahtevek, ter tveganju ustrezno prilagodijo pogoje in zavarovalno premijo. Na področju zaposlovanja pa omenjena zagonska podjetja z vedenjsko napovedno analizo glasu delodajalcu pripravijo profil kandidata za službo, ki ovrednoti kandidatove osebnostne lastnosti, in sicer njegov temperament, družabnost, komunikacijske spretnosti, ambicioznost, ustvarjalnost, zanesljivost, nagnjenost k impulzivnemu vedenju in tveganju ...

Ali bi se kandidat, ki trenutno ni v dobri psihični kondiciji, na pogovor lahko pripravil z govornimi in obraznimi vajami tako, da vokalni biomarkerji ne bi zaznali njegove depresije, iz katere bi mu morda pomagalo prav novo delovno mesto?

Izguba službe povzroči veliko socialno stisko, negotovost in nemoč. Mnoge družboslovne študije so pokazale, da lahko brezposelnost predvsem pri ranljivih skupinah sproži duševne težave, vključno z depresijo, obenem pa brezposelnim tudi družba daje občutek manjvrednosti ali celo nevrednosti.

Zagonska podjetja navajajo, da ker so prozodični govorni vzorci pogojeni fiziološko in jih kandidat ne more zavestno nadzorovati, niso zavajajoči. Vendar na trgu obstaja veliko izdelkov, ki obljubljajo različne stvari, podjetja pa običajno ne razkrivajo podrobnosti o delovanju njihovih izdelkov in tudi informacije o učinkovitosti teh tehnologij niso javno dostopne. To je tudi ena od ključnih razlik med akademskimi in komercialnimi raziskavami: raziskovalni cilj prvih je sistematično in nadzorovano pridobivanje novega znanja, komercialna okolja pa so osredotočena na razvoj in trženje izdelka. Akademske ustanove spremljata etični nadzor in analiza dela, kar za komercialne prakse ne velja vedno.

Ali ste v projekt Pataka papige vključili zato, ker so kot izvrstne imitatorke simulakri človeškega glasu, podobno kot je algoritem simulaker človeškega mišljenja? Delo Pataka vključuje trikanalni video, ki prikazuje štiri sive žakoje: Žaka, Loti, Miškota in Zojo, katerih lastniki so jih na mojo pobudo naučili izgovoriti sekvenco pa-ta-ka. Gledalec tako lahko doživi kakofonijo njihovih zvokov in različnosti v govoru, ko se v navidezni igri ali medsebojni interakciji odzivajo ena na drugo. Ker gre v delu za raziskovanje povezav govornih vzorcev z duševnimi človeškimi stanji, pri čemer je poseben poudarek na depresiji, nisem hotela izpostavljati človeka, sploh pa ne posameznika v stiski. Tako so mi papige in njihovi lastniki pomagali vzpostaviti nekakšen vmesni prostor do težke vsebine, pri čemer so s svojim sodelovanjem pravzaprav poudarili živost.

Na spletu so objavljeni mnogi članki o sivih žakojih kot izjemnih govorcih, ki s posnemanjem lastnikovega glasu preslepijo Amazonovo digitalno asistentko Alexo in prek nje naročajo različne stvari, tudi raznovrstno sadje in zelenjavo, kot so brokoli, jagode itd. Papige usvajajo zvoke in glasove tako, da jih slišijo in nato posnemajo. Poleg tega imajo osupljive zmožnosti reševanja problemov, lahko sporočajo svoje želje, štejejo, imajo sposobnost razumevanja koncepta ničle. V divjini s svojim glasom razširjajo zanje in za njihovo jato pomembne informacije, podobno počno v ujetništvu, v gospodinjstvu, kjer ljudje postanejo člani njene jate in vir socialne interakcije, v katero se želijo vključiti. Zelo so pozorne na kontekst, v katerem so določene besede izrečene ali uporabljene. Besede imajo zanje določene asociacije, ne pa kompleksnih pomenov. Vključitev papig v moje delo obenem ponuja analogijo z besedami profesorja Dana McQuillana z londonskega kolidža Goldsmiths: Dajte strojem dovolj primerov, pa se bodo kot papige naučili posnemati in predvideti vsak kompleksen vzorec.

Projekt Negotovost v zanki je od konca prejšnjega tedna predstavljen v reški galeriji Deltalab v okviru programa Evropske prestolnice kulture Reka 2020. Kako ste izvedli postavitev glede na to, da je tik pred tem vaš partner in sodelavec zbolel za covidom-19, zaradi česar ste se sicer brez simptomov tudi sami izolirali?

Nekaj dni pred predvidenim odhodom na Reko je bila pri mojem partnerju in obenem sodelavcu potrjena okužba s covidom-19, tako da se je prvič zgodilo, da je postavitev moje razstave potekala brez naju in jo je izjemno izpeljal Valter Udovičić, tehnični vodja v Aksiomi. Proces postavljanja in otvoritev razstave sem spremljala prek videoklicev in spleta in upam, da si jo bom do njenega zaključka 27. novembra ogledala tudi v živo. Zaradi izolacije sem delo nadaljevala od doma in šele v teh dneh si bom mogoče vzela malo časa zase. Kdor dela v kulturi, nedvomno ve, da si včasih stežka dovoliš prosto popoldne. A kako to razložiti nekomu, ki meni, da se z umetnostjo privilegirano ukvarjamo tisti, ki imamo dovolj časa, ali pa žal verjame današnji paroli, ki zanikuje umetnost kot delo in umetnika označuje za »lenega državnega parazita«?

Ali bodo napovedi »vašega« algoritma vplivale na razvoj tudi vaših prihodnjih del? Nadaljevanje projekta Negotovost v zanki je pogojeno s potrebo po vse več podatkih, zato sem ga zamejila v triletni okvir. Po lani izvedenem delu Digitalna luknjana kartica in letošnjem Pataka ga na tej točki tako zaključujem. Glede prihodnjih projektov pa, kdo ve? Tega sama v tem trenutku še ne morem predvideti.