Stop robotima rata
Stručnjaci prešli na djela: potpisali deklaraciju da neće razvijati umjetnu inteligenciju u vojne svrhe
Ako u 2029. godini ne dođe do rata između Skyneta i ljudske rase, svijet će možda najviše zahvaljivati znanstvenicima i stručnjacima za umjetnu inteligenciju iz 2018. godine. Što se to dogodilo, a što bi moglo spriječiti da se ostvari scenarij filma Terminator? Prije nekoliko dana u Stockoholmu se oveća skupina priznatih tehnolidera deklarativno obvezala štititi čovječanstvo od autonomnih vojnih sustava i ratne umjetne inteligencije. Među više od 1000 potpisnika su i lider SpaceX-a i Tesle Elon Musk, tri suosnivača Googleova DeepMinda (Shane Legg, Mustafa Suleyman i Demis Hassabis), osnivač Skypea Jaan Tallinn te neki od najuglednijih stručnjaka za istraživanje i razvoj umjetne inteligencije kao što su Stuart Russell, Yoshua Bengio i Juergen Schmidhuber.
Kao i kemijsko oružje
Svi su oni potpisali deklaraciju kojom obećavaju da neće razvijati umjetnu inteligenciju u svrhu vojnog naoružanja. “Odlučili smo da je vrijeme da se prijeđe s riječi na djela. Ovim obećanjem učinili smo ono što političari nisu – uveli smo čvrste zabrane na razvoj umjetne inteligencije koja bi bila korištena u vojne svrhe. Oružja koja samostalno odlučuju da ubijaju ljude jednako su odvratna i nestabilna kao što su i biološka oružja. I isto im tako treba i pristupiti, odnosno – zabraniti ih!”, poručio je Max Tegmark, profesor fizike uglednog američkog sveučilišta MIT, također jedan od potpisnika deklaracije. Ovo je potez globalne koalicije stručnjaka i tehnolidera koji se bore protiv razvoja tehnologije u loše svrhe. Smatraju da korištenje autonomnih vojnih letjelica i sustava, koji koriste umjetnu inteligenciju za biranje mete, predstavlja moralnu prijetnju. Institut Future of Life (Budućnost života) organizirao je konferenciju u Stockholmu s namjerom da naprave veći pritisak na Ujedinjene narode. Zahtijevaju oštriju regulativu protiv ubojitih autonomnih sustava oružja. Traže da se takva oružja svrstaju u istu kategoriju u kojoj su i kemijska oružja i mine. Inače, zanimljivo je da se i veliki Google nedavno povukao iz unosne suradnje s američkim ministarstvom obrane. U lipnju su objavili da neće obnoviti ugovor po kojem su pomagali državi u analiziranju snimki dronova. U stockholmskoj deklaraciji se još navodi: “Nužno je i hitno razlikovati prihvatljivo i neprihvatljivo korištenje umjetne inteligencije. Odluka o okončanju ljudskog života nikada ne bi smjela biti predana stroju. Takva oružja bila bi opasnost destabilizirajuća za svaku državu i pojedinca. Tisuće AI istraživača vjeruje da bi takva oružja bila instrument nasi-
“Odluka o okončanju ljudskog života nikad ne bi smjela biti predana stroju”
lja i potlačenosti. Pozivamo vlade i lidere država da stvore snažne međunarodne standarde, propise i zakone protiv ubojitih autonomnih vojnih sustava.
Koliki im je domet?
Kako takvi propis još ne postoje, mi se obvezujemo višem standardu – nećemo sudjelovati niti podržavati razvoj, proizvodnju, trgovinu niti korištenje ubojiti autonomnih oružja. Tražimo od tehnokompanija i organizacija i njihovih lidera, političara i svih drugih da se pridruže u ovom našem obećanju”. Ovo je hvalevrijedan potez tehnološke i stručne zajednice, no neki se analitičari već pitaju koliki je domet ovakvog neslužbenog šarenog udruženja. Ostaje neizvjesno koliki će biti stvarni utjecaj ovog pokreta. Naime, projekti umjetne inteligencije razvijaju se diljem svijeta, a pravo je pitanje koliko su države uopće zainteresirane donijeti zakone kakve znanstvenici i drugi stručnjaci poput Elona Muska zazivaju. Pogotovo se to odnosi na Ameriku i Kinu – ove dvije velesile iznimno puno ulažu u takvu tehnologiju i male su vjerojatnosti da bi sami sebi nametnuli ograničenja. Posebno je kontroverzan američki projekt korištenja bespilotnih letjelica, a koji je već godinama u upotrebi u vojnim sukobima i često je predmet jakih kritika na račun najjače vojne sile na svijetu. Ipak, neke zemlje jesu poduzele određene mjere za odgovornije ponašanja u razvoju umjetne inteligencije. Više od 20 zemalja članica Ujedinjenih naroda podržalo je zabranu ubojitih autonomnih vojnih sustava, a među njima je čak i Kina, ostale zemlje su: Alžir, Argentina, Austrija, Bolivija, Brazil, Čile, Džibuti, Ekvador, Egipat, Gana, Gvatemala, Irak, Kolumbija, Kostarika, Meksiko, Nikaragva, Pakistan, Panama, Peru, Uganda, Venezuela i Zimbabve.