Kan fienden identifiera sina motståndare med AI?
FRÅGA | Jag såg ett dagstidningsreportage där reportern talat med en brittisk stridspilot. Piloten uppgav inte sitt riktiga namn, men syntes på bild med sitt ansikte. Hur svårt är det med dagens AI-teknik att storskaligt skanna bilder på nätet för att identifiera strategiska individer på motståndarsidan i en konflikt? (Det är ju välkänt att svenska stridspiloter kartlades av Sovjetunionen under kalla kriget.) Om svaret är ”helt möjligt med rimliga resurser”, vad är då eventuella förslag till åtgärd? Att rutinmässigt ”blurra” soldaters ansikten på bild, ungefär som i dag görs för misstänkt kriminella?
/Jörgen Sjödahl
SVAR| Mycket inom AI publiceras i dag i form av öppen källkod med tillhörande algoritmer för till exempel ansiktsigenkänning. Det är alltså fritt fram, även för privatpersoner, att försöka matcha ett ansikte mot en samling ansikten med hjälp av AI. Ett vanligt förekommande krav på upplösning är att ansiktet ska vara minst cirka 80x80 pixlar, och bilder på sociala medier är ofta av bättre kvalitet.
Det finns flera exempel på företag som samlat på sig bilder från sociala medier för detta ändamål. En rysk sida som samlat in bilder från VK, den ryska motsvarigheten till Facebook, skryter om cirka 70 procents träffsäkerhet för användare som letar efter matchande personer. Sidan har använts för att kartlägga ryska militärer, något som kan kallas Open-source intelligence (OSINT). Sådan kartläggning kan så klart också kombineras med andra källor.
Prestandan hos algoritmer som inte offentliggjorts är svårare att avgöra utifrån, men vi kan konstatera att prestandan hos fritt tillgängliga algoritmer tränade på öppna datakällor är ganska bra i dag. Den blir dessutom allt bättre, eftersom detta är ett fält som utvecklas snabbt.
Devisen att inget som läggs upp på internet går att radera är viktig att komma ihåg i sammanhanget. Därför är det kanske rimligt att inte publicera bilder på utsatta personer. /Johan Karlsson, forskningsingenjör, Totalförsvarets forskningsinstitut FOI