Nå kan vi fjerne ordet «fiction» fra begrepet «science fiction». Tarjei Leer-salvesen, journalist

Jeg vokste opp med fortellinger om roboter som bestemmer seg for å drepe mennesker. Nå kan vi fjerne ordet «fiction» fra begrepet «science fiction».

Jeg kan ha vaert syv eller åtte år gammel da min far første gang leste «Roboten er løs!» høyt. Det er en barnefortelling i science fiction-sjangeren, som slo veldig godt an. I årene etter ga forfatteren Philip Newt ut to oppfølgere, «Robot i rommet» og ikke minst den skumle siste-boken i trilogien, «Etterlyst: Roboten Mathilda».

For de av dere som gikk glipp av disse perlene, skal jeg bare gjengi hendelsesforløpet helt kort: I fremtiden Newt beskriver, er roboter en viktig del av dagliglivet. Hovedpersonen har foreldre som ikke har så god råd, og de kjøper den gamle og bulkete billig-modellen «Mathilda».

«Mathilda» er ikke like intelligent og sterk som sine mer moderne robot-kolleger. Til gjengjeld er «Mathilda» utstyrt med etisk bevissthet og noe som kan ligne kjaerlighet. Kort fortalt: hun blir en varsler. Hun sier ifra til menneskene når de andre robotene forbereder slemme handlinger. I spenningshistorier for barn og ungdom kan man koste på seg mye dramatiske virkemidler. Så lenge omgivelsene er langt nok fra virkeligheten man lever i, er det ikke så skummelt likevel, når lyset slukkes for natta. Vi aksepterer at hele, bebodde planeter sprenges i lufta i Star Wars, for det er jo ikke mulig med noe slikt. Ikke i virkeligheten.

Temaet med robotene som vender seg mot oss, har fulgt meg i filmopplevelser gjennom ungdomstiden. Dune-serien, Terminator-filmene og The Matrix, for å nevne noen.

Det som går igjen, er frykten for at kombinasjonen av kunstig intelligens og bevegelige våpensystemer skal komme ut av kontroll.

Mitt første virkelige sjokk på dette området fikk jeg i 2005. Jeg spiste burger i kantina på verdens største våpenmesse i London, og gjorde research for en dokumentarfilm. På bordet ved siden av satt to dresskledde og en uniformskledd mann og snakket om mulighetene.

Han uniformskledde spurte om det var teknologisk mulig å programmere en robot til å bare skyte mennesker over en viss høyde, for å redusere muligheten for å drepe barn.

En av de dresskledde bekreftet dette. Og la til: Man kan også programmere en robot til å drepe dem med spesielle distinksjoner på uniformen sin. Eller dem med mye pigmenter i huden! Det siste fikk frem latteren rundt nabobordet. R obotene er på full fart inn i de fleste områder av samfunnet nå. Mange har allerede kjøpt robotstøvsugere og gressklippere.

I mitt fag, journalistikken, har vi fått roboter som skriver enkle kampreferater fra fotball og andre idretter, og vi har kolleger i Sverige som utvikler robot som ser på finansnotiser. I praksis er dette dataprogrammer, ikke selvstendige maskiner som beveger seg omkring.

Her i Norge slapp VG i forrige uke løs «Broboten» sin for å skrive en artikkel fra hver norske kommune om kvaliteten på broinspeksjoner. Jeg skrev en artikkel om dette, og fokuserte på det som handlet om Varoddbroa. Broboten hadde lest datagrunnlaget, Vegvesenets brodatabase «Brutus», aldeles korrekt. Problemet var at «Brutus» hadde noen gale data, og dermed oppsto følgefeil i artikkelen som ble produsert.

La meg føye til at VG har gjort et prisverdig stykke arbeid med brosikkerhet. Det er det store bildet i den saken. Jeg skrev om én av 17.000 broer de omtalte.

Utfordringen med «Brutus» og «Broboten» er et uskyldig uttrykk for det større problemet med roboter.

En robot er først og fremst et dataprogram, som tar i bruk en pc eller annen type maskinvare for å utføre de handlingene dataprogrammet tilsier at skal utføres. De har potensial til å gjøre livet enklere og bedre for oss mennesker på en rekke områder. Men problemet vil alltid vaere hvordan roboten skal håndtere en situasjon som ikke ble beskrevet i programmet. Det melder seg raskt juridiske og etiske spørsmål knyttet til hvem som har ansvaret når uforutsette ting skjer. J ournalist-roboten: Hvordan skal den handle hvis den blir bedt om å skrive artikler basert på et datagrunnlag som har svakheter?

Den autonome gressklipperen: Hva gjør den om det en dag ligger et spedbarn i veien på den forhåndsprogrammerte ruta?

Den førerløse bilen: Gps-signaler kan forstyrres og datamaskiner kan hackes. Er den like trygg i bruk når det skjer?

Denne uka startet FN samtaler om såkalte autonome våpensystemer, som fredsbevegelsen nå jobber hardt for å få til et forbud mot.

«Autonome våpensystemer» må ikke forveksles med «droner» eller «automatiserte våpensystemer». Droner er fjernstyrte våpen. De er ofte integrert med en automatisering som innebaerer en analyse av hva som observeres i et område, kanskje til og med koblet til forslag om hva som kan vaere mulige mål. Men her er det fortsatt mennesker som avgjør om man skal trykke på avtrekkeren eller ikke.

«Drapsroboter» er fredsbevegelsens begrep om de «autonome våpensystemene». Begrepet er godt, for det er en viktig grense som krysses når en maskin er programmert til å ta liv uten at man finner behov for å involvere mennesker i prosessen. D ette er ikke science fiction lengre. Det er science. Allerede har 200 amerikanske marinefartøy instal-

lert naerkampsystemet Phalanx, som vil omfattes av det forbudet fredsbevegelsen nå kjemper for. Våpenindustrien utvikler også autonome våpen for bruk både i lufta, på land og under vann.

En av dem som advarer sterkest mot utviklingen, er Tesla-grunnlegger Elon Musk. En annen er fysikeren Stephen Hawking.

Musk kan ikke anklages for å vaere noen tekno-pessimist, og han har engasjert seg sterkt i utviklingen av førerløse biler. Men både Musk og Hawking advarer mot at den kunstige intelligensen skal komme ut av kontroll.

Alt som eksisterer, forsøker å bidra til sin egen fortsatte eksistens. F

N skal ikke diskutere et forbud mot roboter. De skal diskutere om roboter skal få bruke våpen uten menneskelig inngripen. For kort tid siden ville de fleste avvist spørsmålet som absurd. Nå er det på høy tid å sette noen grenser. I spissen for kampanjen står Jody Williams, kvinnen som i 1997 tok imot Nobels fredspris på vegne av kampanjen mot landminer. Det var fortidens våpen. Nå går hun løs på fremtidens.

Jo mer jeg leser om FNS diskusjoner rundt dette i nåtid, jo mer savner jeg roboten «Mathilda» fra 80-tallet.