– Ville neppe klart oss hvis vi ikke lar en maskin overta
– Stormaktene kan på relativt kort tid masseprodusere selvstyrte våpensystemer til lav kostnad. Det skremmer, sier ekspert Gjert Lage Dyndal.
I FN jobbes det med et vedtak rundt selvstyrte, såkalte autonome våpen. Det vil si våpen som forstår omgivelsene, sammenhengen de opererer i og som teoretisk sett kan ta egne valg om å skyte mot mennesker.
Formelt kalles de «Lethal autonomous weapons»: Dødelige, selvstyrte våpen.
FN-arbeidet går parallelt med frivillige organisasjoners «Campaign to Stop Killer Robots», som støttes av forskere som Teslas Elon Musk.
Samtidig er NATOs storøvelse Trident Juncture under oppkjøring i Norge. Her skal det brukes få våpen med høy grad av selvstyring.
Droner, fra nevestore varianter til noen på størrelse med store modellfly, dukker imidlertid opp under «stridshandlingene». Blant annet vil norske avdelinger med panserkjøretøy bruke dem til å skaffe seg oversikt.
Når to sider er i kamp vil det vaere flere titalls droner i luften samtidig.
Missilet tar selv over styringen
På bildet over er et norskprodusert missil av typen JSM på vei mot et militaert kjøretøy under en test i mars i år. (Et missil er en rakett som kan styres etter at den er avfyrt, red.anm.)
Under testen ble missilet bevisst feilprogrammert til å ramme containeren til venstre.
Takket vaere kunstig intelligens, der missilet er gjort i stand til å gjenkjenne og skille mellom ulike typer mål, identifiserer det likevel riktig mål og rammer kjøretøyet.
Hadde det ikke funnet et «riktig mål» kunne det ha satt seg selv ut av spill, som ved å oppsøke vann.
Dette missilet skal etter planen brukes i norske F-35 kampfly. Slektningen NSM, som lages av Kongsberg Gruppen, er allerede på plass i marinens fregatter og i de lynraske MTB-båtene.
– Ville ikke klart oss
Forsvarssjef Haakon Bruun-Hanssen sier til Aftenposten at Forsvaret burde brukt mer ressurser på droner og autonome systemer.
– Vi ønsket å prioritere dette høyere for fire år siden. Nå vil det vaere uansvarlig å la vaere å se på det igjen, nettopp fordi omfanget og tilgjengeligheten er økende. Kapasiteten som ligger i dronesystemet er stadig bedre, sier han.
– Tror du på et forbud mot autonome våpen?
– Jeg er sikker på at vi får en betydelig diskusjon om autonome våpen, som må begynne med; hva er et autonomt våpen? Det er mye som puttes i denne sekken.
– Jeg tror de fleste vil vaere opptatt av å involvere en ansvarlig beslutningstager under bruk av autonome våpen, sier forsvarssjefen.
Men det finnes grensetilfeller, påpeker han, og viser til selvforsvarssystemer som kan kobles inn på norske fregatter, og som selv regner ut hvilke missiler som skal skytes ned først om skipene trues av mange samtidig.
– Slike systemer tvinges vi mer og mer i retning av. Der ville vi neppe klare oss hvis vi ikke lar en maskin overta. Så er det stor forskjell på å gjøre dette i selvforsvar og å gjøre det offensivt, sier Bruun-Hanssen.
Hvor langt unna er de?
Aftenposten har utfordret forsvarssjefen og norske forskere som driver med utvikling av autonome systemer som kan brukes til overvåking eller som våpen.
– For hva finnes i dag av selvstyrte våpen? Hvor selvstyrte er de?
– Vi ser fortsatt ikke ferdig utviklede og komplette kampsystemer av denne typen, sier Gjert Lage Dyndal.
Han er militaerforsker ved Forsvarets høgskole og medforfatter av boken «Når dronene våkner».
– Grensen blir stadig mer flytende mellom hva som er bemannet og ubemannet, hva som tradisjonelt har vaert oppfattet som missiler og fly, sier Dyndal. Han påpeker at stadig flere multifunksjonelle systemer lett kan utvikles til nye bruksområder, som våpen.
– Det jeg synes er mest skremmende er at stormaktene i dag på relativt kort tid kan masseprodusere slike våpensystemer, til en relativt lav kostnad, sier Dyndal.
For biler har man en skala for autonomi, fra at føreren har full kontroll over bilen til at bilen selv utfører alle sikkerhetskritiske funksjoner under hele kjøreturen. En slik skala har man ikke for våpen.
– Et grunnleggende premiss for hele diskusjonen rundt robotisering av krigføring er hvordan man definerer autonomi, sier oberstløytnant John O. Birkeland, doktorgradsstipendiat ved Skotsk senter for forsvarsstudier ved University of Glasgow, som ser på overvåking I nordområdene, inkludert droner.
– En lettvint definisjon er handlinger som utføres uten menneskelig initiering. Den mest krevende definisjonen er at en maskin forstår sine omgivelser, sammenhengen den opererer i, og basert på forståelsen kan ta egne valg.
– Jeg mener at diskusjonen vannes ut hvis vi ikke holder oss til den siste definisjonen, og da finnes det ingen autonome systemer i dag, sier Birkeland.
Bruk av dødelig makt
John O. Birkeland sier at mye av debatten rundt robotisering koker ned til ansvarliggjøring for bruk av dødelig makt. Vi kan ikke forutsi hvordan faktiske autonome systemer vil opptre, fordi det i praksis er snakk om kunstig intelligens (AI).
Birkeland sier at autonome systemer alltid vil operere i en kommandokjede.
– De som tror at systemene vil operere helt på egen hånd og spore opp mål på bakken for eget forgodtbefinnende har ikke forstått hvordan legitim krig føres. Hvis maktbruken ikke er underlagt politisk kontroll, er den pr. definisjon illegitim, sier han.
– Vi må evne å innrette oss slik at denne overordnede kontrollen beholdes i bruken av systemet, sier Birkeland. Er kunstig moral mulig? Viten • side 40–41