Milestone Systems glaeder sig over EU’s lovpakke om kunstig intelligens
Det bliver op til virksomhederne selv at udøve politik, når der ikke er regulering på plads af ny teknologi, lyder det fra en dansk virksomhed inden for videoovervågning. Nu har EU taget et stort skridt frem med AIlovpakke.
Efter 36 timers forhandling i løbet af tre dage – inklusive en maratonforhandling på 22 en halv time gennem en hel nat – blev der endelig landet et resultat. Den store lovpakke fra EU, der skal regulere brugen af kunstig intelligens, er igen på skinner, om end den først skal vedtages formelt og derefter traeder i kraft efter en overgangsperiode på to år.
Og resultatet glaeder danske Milestone Systems, som udvikler software til videoovervågning.
»Vi er lidt kede af, at det har taget så lang tid, men vi er meget begejstrede over, at der nu endelig kommer en regulering af kunstig intelligens. Når man udvikler ny teknologi uden regulering, så bliver det os som virksomhed, der skal udøve politik. Vi bliver pålagt et ansvar, der normalt er overladt til magtens tredeling,« siger Thomas Jensen, adm. direktør for Milestone Systems.
Ansigtsgenkendelse
Med tiden er kunstig intelligens blevet en vigtig ingrediens i softwaren fra Milestone Systems. For eksempel i en løsning, der hjaelper Aalborg Havn med at slå alarm, hvis fulde folk er faldet i vandet eller har bevaeget sig taet på kanten. Eller muligheden for ansigtsgenkendelse, så man kan spotte en eftersøgt person gennem videoovervågning af gader og straeder.
Netop den sidste del har vaeret en meget solid knast i forhandlingerne, hvor Europa-Parlamentet generelt har kaempet imod den slags løsninger, mens de enkelte landes regeringer har kraevet at kunne bruge det i politiarbejde. Forhandlingerne endte med et kompromis, hvor der er en raekke begraensninger på brugen af ansigtsgenkendelse, for eksempel at det skal vaere alvorlig kriminalitet og terror, der efterforskes.
Hos Milestone Systems har man arbejdet for at undgå et totalt forbud imod ansigtsgenkendelse. Det handler ikke
om at sikre en større omsaetning, fortaeller Thomas Jensen, for den vil ikke blive påvirket.
»Det er ikke afgørende for os, om der er ansigtsgenkendelse i vores produkter eller ej. Det vil ikke have signifikant indflydelse på vores forretning. Men vi ved, at teknologien giver nogle fordele for samfundet, for eksempel ved at opklare svaer kriminalitet som kidnapningssager,« siger han.
Effektiv teknologi
Kunstig intelligens er en yderst effektiv teknologi, som kan give store samfundsgevinster – men som netop også skal reguleres, fordi der er mulighed for misbrug.
»Jeg tror, der er en frygt for, hvad kunstig intelligens kan gøre. Det kan jeg godt forstå, for det er avanceret teknologi, som er svaert at forstå. Et argument er, at man ikke kan stole på, at det ikke bliver brugt forkert. Men det er jo en streg, som samfundet skal slå. Og vi må jo have tillid til myndighederne, og at lovgivningen bliver fulgt,« siger Thomas Jensen.
Han sammenligner med,
hvordan noget uskyldigt som biler og lastbiler i dag bliver brugt som våben af terrorister. Det forsøger vi at løse ved for eksempel at saette spaerringer op ved gågader.
Pointen er, at den nemme politiske løsning vil vaere at forbyde forskellige teknologier helt, men så mister man også alle fordelene.
»Der er jo data på, hvordan det har hjulpet myndighederne. Siden 2016 har Interpol for eksempel fundet 1.600 personer, eftersøgte kriminelle eller forsvundne personer, ved hjaelp af ansigtsgenkendelse,« siger Thomas Jensen.
I det endelige forhandlingsresultat om AI Act måtte politikerne fra Europa-Parlamentet opgive kravet om et forbud imod brugen af ansigtsgenkendelse i realtid, altså en løbende overvågning af det offentlige rum. Til gengaeld blev der lagt en raekke betingelser ind for brugen af den teknologi.
Det passer Thomas Jensen godt, og han har selv vaeret ude i debatten tidligere med ønsket om forskellige sikkerhedsforanstaltninger. For eksempel at det kun er data om dem, der bliver genkendt ud
fra en liste af eftersøgte, der bliver gemt. Og at ethvert match skal bekraeftes af mindst to personer, det såkaldte fire-øjne-princip.
Den voksne stemme
I debatten om regulering af ny teknologi er der også en udbredt frygt for den skade, som for meget regulering kan gøre. Først og fremmest på konkurrenceevnen, hvis virksomheder i Europa sakker bagud eller helt må opgive en raekke teknologier, fordi de er forbudte eller udløser for meget papirarbejde. Et andet problem er timing, for det tager tid at lovgive, mens kunstig intelligens lige nu udvikler sig med syvmileskridt.
»Her har EU virkelig en berettigelse, for jeg synes, at EU har en historik med at vaere den voksne stemme i lokalet. Den stemme, der sikrer en etisk forsvarlig brug af teknologi. Derfor ønsker vi mere regulering på det her område,« siger Thomas Jensen.
I resten af verden er der nemlig ikke på samme måde fokus på de potentielt negative sider ved de nye teknologier, for eksempel kraenkelser af borgernes privatliv, hvis den digitale overvågning bliver mere og mere omfattende.
»Ser vi mod vest (mod USA, red.), så er det ’a run to the fire’, hvor der er så lidt regulering som muligt, og det handler om at komme først. Kigger vi mod øst (mod Kina, red.), så bliver der udbredt teknologier, som i vaerste fald betyder, at hele vores gøren og laden bliver opmålt og gemt,« siger Thomas Jensen.
GDPR-regelsaet
Det europaeiske marked er tilsammen så stort, at lovgivning her påvirker hele verden.
Så derfor er resultatet af den første store lovpakke om kunstig intelligens så vigtigt, pointerer han.
»Jeg har arbejdet i forskellige meget store internationale koncerner, som alle implementerede GDPR-regelsaettet. Man tager typisk den lovgivning, som er mest skaerpet, for det er simpelthen for kompliceret, hvis man skal have forskellige regelsaet til forskellige markeder,« forklarer Thomas Jensen.
Som teknologivirksomhed kunne Milestone Systems have valgt at holde lav profil i den offentlige debat. Men de her spørgsmål er så vigtige for vores samfund, så Thomas Jensen vil gerne prøve at få mere fokus på emnet, forklarer han.
»Vi gør, hvad vi kan, for at få dialog med isaer politikerne. Vi synes, at det er enormt vigtigt, at befolkningen og erhvervslivet ved, hvilke streger der nu bliver slået her. Og vi er en virksomhed, der benytter os af kunstig intelligens. Det er noget, vi ved noget om, og hvor vi kan bidrage med til debatten. Så vi føler, at det er vores forpligtelse at stille op og snakke om det.«