Hrvatica Danica Kragić zvijezda je u Švedskoj: Razvijam inteligentne robote
SU Stockholmu više od 20 godina živi Danica Kragić Jensfelt, profesorica robotike na Kraljevskom institutu za tehnologiju KTH, jedna od najuspješnijih znanstvenica u tom području. No, s obzirom na sve što se danas događa, svakako nije samo robotika bila razlog zbog kojeg smo profesoricu Kragić zamolili za intervju. Švedska je simbol uređenog društva, neutralnosti, i to je i dalje unatoč iskustvima s migrantima. Zanimalo nas je sve o društvenom trenutku u Švedskoj danas, kao i znanstveni pogled na razvoj umjetne inteligencije koja je u fokusu znanstvene rasprave posljednjih godina. – Područja robotike i umjetne inteligencije velika su i u svijetu ima puno uspješnijih ljudi od mene pa ne bih rekla da sam jedna od najuspješnijih. Možda je bolje reći da volim posao koji radim, a to je preduvjet da ga radite dobro – kaže nam hrvatska znanstvenica sa švedskom adresom. Skandinavska je zemlja za nas i ranije bila popularna, no motivacija dr. Danice Kragić Jensfelt da ode tamo bila je ponešto drugačija od prosječne ekonomske.
Razlika u migracijama
– Završila sam Tehnički fakultet u Rijeci i normalno, ideja je bila da se nakon studija zaposlim u Hrvatskoj. Međutim, pružila se ta mogućnost prakse u Švedskoj, no ne za mene, nego za mojeg tadašnjeg dečka, dok sam ja dobila priliku otići u Finsku, oboje po tri mjeseca. Kad sam ga posjetila ovdje u Švedskoj krajem 1995., njemu se praksa produljila pa smo odlučili ostati malo duže. Bila je to naprosto igra slučaja, ništa planski. Prijavila sam se za doktorsko mjesto na institutu KTH, dobila sam mjesto, bilo je to u siječnju 1997. godine. I tako sam ovdje više od 20 godina. U međuvremenu sam bila na usavršavanju u Americi i Francuskoj – kaže dodajući kako joj mama i tata i dalje žive na riječkim Srdočima gdje je odrasla. – Svojeg sam supruga u Švedskoj susrela već 1997. kada sam počela svoj doktorski studij na KTH, on je isto tako bio doktorand. Brak je to dug gotovo koliko sam u Švedskoj, imamo dvoje djece, 11-godišnjeg sina i četverogodišnju kćer. I jasno da vidim razliku – kad sam došla 1995., nisam mogla vidjeti ljude koji spavaju na cesti i prose. Ta se situacija promijenila. Ima onih koji govore da tu ima i organiziranog kriminala, a sigurno je samo da ti ljudi dolaze na vrlo neorganiziran način. Druga je situacija javna rasprava o integraciji jer je sve to postalo politički problem. Mislim da je sve to bilo pomalo neočekivano za Švedsku. Jer, kada su ljudi dolazili, primjerice, iz naših zemalja 60-ih, većinom su to bili ljudi
koji su dolazili raditi niskokvalificirane poslove, no nastojali su se integrirati, naučiti jezik. Nije bilo tolike širine u broju zemalja iz kojih su dolazili ondašnji migranti. Moj se suprug sjeća kako je švedsko društvo iskazivalo poštovanje prema tim manjinama, na državnoj su se televiziji prikazivali i programi za djecu na ondašnjem srpskohrvatskom jeziku. Jasno, bio je tada i određen broj ljudi koji su imali i fakultete pa je sada švedskom društvu teško shvatiti da to nisu oni isti ljudi od prije 40-50 godina kao i da ne dolaze iz istih razloga. Sada ljudi ovamo dolaze ne svojim odabirom, već kao izbjeglice. Nije isto kada si sam odabrao ili kada te otjerao rat. Meni se bilo od početka lako integrirati jer sam počela u akademskom okružju koje je dosta međunarodno, gdje vlada jedan sasvim različit odnos među ljudima. Naučila sam rano i jezik. Normalno da prosječnom Šveđaninu nije svejedno, nastavlja. Jer, društvo je doživjelo veliki šok sa svim pridošlim migrantima.
Ne vjerujem u crne prognoze
– Pitanje je i koliko sve to švedsko društvo košta ako uzmete u obzir da plaće u Švedskoj nisu toliko velike, odnosno jesu u usporedbi s Hrvatskom ili nekom drugom tranzicijskom zemljom, ali ne ako gledate Njemačku. Jer, ovdje ja sama plaćam pola poreza što je puno više nego što plaćaju moji akademski kolege u drugim europskim zemljama. Onda razmislite kamo taj novac ide, država je uzela taj novac da bi uspostavila sustav koji pomaže onima koji su plaćali porez. A sada je situacija takva da najveću pomoć trebaju oni koji još nisu pronašli posao jer nisu još integrirani, a dobar dio njih nije ni motiviran naučiti jezik. Mislim da je to dosta veliki problem jer će oni onda tražiti sebi slične, a vi opet želite da se država brine o vama jer to i plaćate, a dosta novca ide onima koji nisu pokazali volju da se integriraju. Čini mi se da to nije specifično samo za Švedsku, i u drugim je zemljama tako, i u Hrvatskoj, prirodno je da se bojite ljudi koji vas plaše. Mora postojati interes s obje strane. Kada ljudi dođu u Švedsku, zamišljaju je kao idealnu zemlju, velike površine, a malo ljudi, nas ovdje ima deset milijuna, dvostruko više nego Hrvata, ali je površina puno veća. Uvijek smo vodeći po kvaliteti života pa ti ljudi očekuju od početka tu istu kvalitetu života. Ali to nije tako jer ne vide da to postoji jer ljudi plaćaju 50 posto poreza. Onda se pojavljuje jal koji nije lako prebroditi, a isto je tako dobar alat u različitim političkim razmiricama. Lako je takvu situaciju zloupotrijebiti, pogotovo tu poentira desnica, što je sada karakteristično za puno zemalja. No mislim da puno olakšava i da je zaista fantastično da u Švedskoj postoji jedan sustav u kojem se otvoreno govori o svemu. Jako se malo toga može sakriti, a malo se toga događa, kako mi volimo reći, preko veze. Ako se ne postigne pravilna politika integracije, nećemo moći nastaviti s takvim životom. Ovdje je dosta toga organizirano: od običnih životnih stvari poput čekanja u redu u dućanu ili na autobus, nitko ne pokušava preko reda. Život je tako puno lakši, motivira te da ne odustaneš od takvog sustava i ostaneš živjeti u Švedskoj. Nadam se da će se pozitivan duh koji vlada u Švedskoj održati još 30 godina, a nakon toga ćemo ionako svi postati roboti – kaže znanstvenica. Profesorica je na računalstvu gdje ima 14 doktoranada, još nekoliko postdoktoranada, a bavi se primjenom umjetne inteligencije u robotici, radi s fizičkim sustavima, robotima koji imaju ruke, noge, kreću se, koriste različite senzore kako bi ih napravili, voli se reći, inteligentnijima. – Zanimljivo mi je što radim jer je zadatak osposobiti robote da ruke i noge koriste u istu svrhu za koju ih koriste i ljudi. Ne na isti način zato što nemaju isto tijelo, isti način mjerenja interakcije, kožu, neurone... ideja je razviti algoritme koji bi omogućili robotima neki način inteligencije na kojoj bi se temeljila interakcija – govori Danica Kragić Jensfelt. Koliko su utemeljeni strahovi o kojima govori Elon Musk i na koje je upozoravao pokojni Stephen Hawking – hoće li nas umjetna inteligencija doista nadjačati? – I predsjednik Sabora Gordan Jandroković koji nas je nedavno posjetio pitao me o toj superinteligenciji o kojoj govori Elon Musk, mislim da sam ga svojim odgovorom malo preplašila. U prvom redu vrlo je interesantno kada Musk i Hawking zapravo pokušavaju reći koji je razlog svega što govore i zaziranja čovječanstva od umjetne inteligencije. Svaka tehnologija – od nanotehnologije do kemijskog oružja – mora se primijeniti s dozom sumnjičavosti. Moramo uzeti u obzir sve implikacije. No, povijesno gledajući, svaki put kada je čovjek pronašao nešto što bi moglo donijeti dobrobit, a istodobno je bilo zanimljivo industriji, tada se izumitelju nije dalo dovoljno vremena da bi ispitao tehniku i otkrio dugoročne implikacije te tehnike na samog čovjeka – kaže navodeći kao primjer farmaceutiku ili medicinu gdje ima dosta stvari za koje tek nakon 20 godina doznamo da su imale negativan utjecaj na čovjeka ili okoliš. Je li umjetna inteligencija opasna ili ne, opet će pokazati vrijeme. – Ono što sada vidimo jest da su primjene umjetne inteligencije usmjerene na rješavanje jednostavnih problema koje prosječan čovjek može razumjeti. Ono o čemu Elon Musk govori točka je u kojoj se umjetna inteligencija počne razvijati sama od sebe. Bila bi to budućnost u kojoj imate čovjeka koji se više ne razvija, a s druge strane tehniku koja to čini sama po sebi. Ja u taj scenarij ne vjerujem, ne u onaj gdje mi stagniramo, a tehnologija se samostalno razvija. Prije 30 godina nismo imali računala ni mobitele, do danas se upotrebom tih gadgeta način interakcije jednih s drugima uvelike promijenio. Vrlo nam je teško danas biti bez mobilnog telefona ili računala. Vrlo je lako asimilirati se s tehnologijom, a zaboraviti kako je nekada bez nje bilo. Za nekih 3040 godina mi ćemo se asimilirati i s drugim tehničkim rješenjima. To bi mogla biti tehnička integracija, poput čipa u mozgu koji je zapravo telefon. Nemamo još takvih primjera integracije iako, ako razmislite na koji način koristimo stvari poput pacemakera, titanskih kostiju i sličnog, očito je da tehnologija postaje bolja jer tim ljudima koji imaju velike probleme omogućava normalniji život. Ne kažem da ćemo biti kiborzi, pola ljudi pola roboti, ta riječ neće postojati na isti način, ali razvijat ćemo se paralelno s tehnikom. Tako da, npr., oni koji su izgubili ruku ili nogu da dobiju protezu koja je povezana s mozgom, da oni koji su nepokretni dobiju egzoskeleton. Imamo i velikih problema na području etike jer sve dok nam nešto ne treba govorimo kako je to grozno, razvoj tog nečega moramo zabraniti. Ali stvar se mijenja kada morate pomoći nekom svom bližnjem, kada se pojavi dovoljno visoka razina apatije, tada ste spremni ići preko tih etičkih i moralnih načela i donijeti odluku koja je sasvim drugačija od vaših dosadašnjih uvjerenja. Razina licemjerja danas u društvu tolika je da je jako teško priznajemo. Da ne govorimo o tome da već i sami živimo većinom poput robota, po ustaljenom dnevnom režimu iz kojega ne možemo izaći iako živimo u demokraciji jer izlaskom bismo izgubili život koji smo si stvorili. Dakle, praktički je riječ o algoritmu jer da svi radimo što želimo više ne bismo imali funkcionalno društvo. Isto tako, u kritičnim situacijama kada treba donijeti brzu odluku nerijetko ćemo postupiti upravo suprotno tim etičkim i moralnim načelima. Na MIT-u postoji program pod nazivom Moral Machine koji koristi kamere postavljene na cestama putem kojih se promatraju takvi slučajevi – hoćemo li spasiti sebe ili trudnicu s djetetom koja prelazi cestu? Spašavanje sebe možda znači prekršiti ono u što smo sebe cijelo vrijeme uvjeravali. Riječ je o situacijama za koje nismo uvježbani, poput pilota ili vojnika, no većina društva ne dolazi nikada u takve situacije. Ljudski je mozak staromodan, programiran je na način da prevladavaju reakcije koje vas održavaju na životu, tako smo i opstali kao vrsta – misli prof. Kragić Jensfelt.
Uzročnik bi mogao biti čovjek
Sve to ipak ne znači da nema opasnosti od umjetne inteligencije. Ima, a uzročnik bi, kao i prije, mogao biti upravo čovjek. – Postoji tek kratkoročna opasnost od umjetne inteligencije. Danas umjetnu inteligenciju primjenjujemo na poslovima kod kojih su ljudi donosili odluke temeljene na osobnim vrijednostima. Oko 40 posto informacija na temelju kojih zamišljamo svijet dolazi kroz oči, ona su čulo koje nam daje mogućnost da prikupimo najviše informacija. U kombinaciji s osobnim iskustvima, onime što nam se dogodilo u životu, što nam je netko rekao, u kakvom se krugu krećemo, razvijamo predrasude. Počinje biti problematično kada se algoritmi koji donose odluke baziraju na odlukama koje su donosili ljudi. Nekih smo predrasuda svjesni, a nekih nismo. I tako u novinama čitamo kako je nešto pogreška algoritama, odnosno kako je algoritam napravio pogrešku, a ne piše ništa o tome na čemu su ti algoritmi utemeljeni, odlukama koje su bile krive i pune predrasude. Opasnost je u tome što algoritme baziramo na ljudskom načinu donošenja odluka, ako ne možemo definirati na čemu bi se drugome donošenje odluka umjetne inteligencije trebalo bazirati – kaže. Posjet Stephena Hawkinga bio je za hrvatsko-švedsku znanstvenicu rijetko iskustvo, s najpoznatijim astrofizičarom i osobno se upoznala. – Posjetio je KTH i Švedsku 2015. kada je bila jedna velika konferencija o fizici gdje je držao predavanje o crnim rupama, pričalo se da će predstaviti novu teoriju. Tako je bila i jedna večera kojoj sam nazočila, on je sjedio s moje desne strane pa sam imala priliku razgovarati s njim. No teško se to može tako nazvati jer je cijeli sustav izgovaranja teksta bio jako težak za njega, mogao me čuti, no jako je teško odgovarao. Bilo je ipak zanimljivo vidjeti ga uživo – kaže prof. Kragić.
NA NEKI NAČIN VEĆ ŽIVIMO KAO ROBOTI, PO USTALJENOM REŽIMU IZ KOJEGA NE ZNAMO IZAĆI