Data­ma­skin kan se hvem som er ho­mo­fil

I fle­re land straf­fes ho­mo­fi­li med dø­den. Dis­se lan­de­ne kan al­le­re­de ha skaf­fet seg verk­tøy som er i stand til å kjenne igjen ho­mo­fi­le ut ifra bil­der.

Aftenposten - - Kultur - PER KRISTIAN BJØRKENG

En ma­skin kan nå se på bil­der av en he­te­ro­fil og en homo og si hvem som er hva – med 91 pro­sent sik­ker­het. Kjønns­mi­no­ri­te­ter er i har­nisk.

Tek­nik­ker for kuns­tig in­tel­li­gens gjør nå sta­dig nye frem­skritt som gir ma­ski­ne­ne opp­lagt over­men­nes­ke­li­ge egen­ska­per. For ek­sem­pel kan vi men­nes­ker bare med sva­ert li­ten grad av sann­syn­lig­het si noe om et an­net men­nes­kes sek­su­el­le leg­ning etter å ha sett et foto av an­sik­tet.

Ar­tik­ke­len til en grup­pe fors­ke­re ved Stan­ford sier det hele: «Dype nev­ra­le nett er mer nøy­ak­ti­ge enn men­nes­ker på å de­tek­te­re sek­su­ell leg­ning ved hjelp av an­sikts­bil­der.»

Forsk­nin­gen er ikke gjort av hvem som helst. Første­for­fat­ter Michal Ko­sin­ski er kjent for å ha fun­net opp en del av tek­no­lo­gi­en i det kon­tro­ver­si­el­le sel­ska­pet Cam­brid­ge Ana­ly­ti­ca. De hjalp til med å iden­ti­fi­se­re po­li­tis­ke stand­punk­ter hos en­kelt­per­soner på en slik måte at de kun­ne ut­nyt­tes av både Trump-kam­pan­jen i USA og brexit-kam­pan­jen i Storbritannia.

Bare ved hjelp noen få, til­syne­la­ten­de harm­løse data­punk­ter fra Face­bo­ok kun­ne de gjø­re over­ras­ken­de nøy­ak­ti­ge an­slag av men­nes­kers po­li­tis­ke til­hø­rig­het.

Fritt til­gjen­ge­lig tek­no­lo­gi

Nå har Ko­sin­ski og hans med­for­fat­ter Yil­un Wang brukt al­le­re­de ek­sis­te­ren­de verk­tøy på en ny og for man­ge helt uven­tet måte. De las­tet først ned of­fent­lig til­gjen­ge­li­ge, gra­tis ma­skin­la­e­rings­pro­gram­mer.

Der­et­ter hentet de inn 37.000 åpent til­gjen­ge­li­ge bil­der fra et da­ting­nett­sted der folk selv iden­ti­fi­se­rer om de er strei­te el­ler skei­ve.

Bil­de­ne ble så brukt til å tre­ne opp et så­kalt dypt nev­ralt nett, en form for kuns­tig in­tel­li­gens som så i etter­tid ble fore­lagt ukjente an­sikts­bil­der. Nett­ver­ket ble bedt om å klas­si­fi­se­re an­sik­te­ne etter sek­su­ell leg­ning.

Fa­si­ten var selv­sagt bare kjent for fors­ker­ne.

Tes­ter på men­nes­ker som ble bedt om å vur­de­re de sam­me bil­de­ne, vis­te at de bare så vidt klar­te å de­tek­te­re sek­su­ell leg­ning bed­re enn om man had­de brukt ren til­fel­dig­het.

Bio­lo­gisk for­kla­ring

Fors­ker­ne hev­der i ar­tik­ke­len at det nå er vi­ten­ska­pe­lig kon­sen­sus rundt at ho­mo­fi­li skyl­des unor­mal eks­po­ne­ring for hor­mo­ner i mors liv, og at de sam­me hor­mo­ne­ne bi­drar til at fos­te­ret ut­vik­ler mas­ku­li­ne el­ler fe­mi­ni­ne an­sikts­trekk.

Der­med lur­te fors­ker­ne på om det kun-

ne vaere mu­lig for en al­go­rit­me å skil­le dis­se trek­ke­ne fra hver­and­re, selv om det men­nes­ke­li­ge øye knapt er i stand til det. Skal man tro forsk­nin­gen de­res, vis­te det seg å vaere til­fel­le.

Fun­net blir slått opp over hele første­si­den av sis­te ut­ga­ve av tids­skrif­tet The Eco­nomist, men har ikke falt i god jord hos ame­ri­kans­ke kjønns­ak­ti­vis­ter. År­sa­ken er at de vil de­fi­ne­re sin sek­su­el­le leg­ning selv, og ikke få den «på­ført» av en data­ma­skin.

På Twit­ter sier en av dem at fors­ker­ne «bur­de bli brent le­ven­de» for å pub­li­se­re re­sul­ta­te­ne.

I et eget til­svar til ak­ti­vis­te­ne på­pe­ker Ko­sin­ski at forsk­nin­gen hans ikke har ut­vik­let noe nytt verk­tøy for å fra­vris­te noen de­res sek­su­el­le leg­ning, men i ste­det er stu­di­en gjort nett­opp for å rope var­sko om at dis­se verk­tøy­ene nå kan bru­kes av både sel­ska­per og sta­ter med tvil­som­me hen­sik­ter.

Blant an­net fin­nes det fle­re land der ho­mo­fi­li straf­fes med dø­den, og dis­se verk­tøy­ene kan al­le­re­de vaere i bruk av sli­ke re­gi­mer.

– Tvil­som forsk­ning

Ing­vild Ende­stad er le­der i Fore­nin­gen Fri, som or­ga­ni­se­rer skei­ve nord­menn.

– Dis­se fors­ker­ne har lan­sert et spe­ku­la­tivt verk­tøy for å kart­leg­ge sek­su­ell leg­ning, med høyst tvil­som­me re­sul­ta­ter. Det fin­nes in­gen etab­lert enig­het om at men­nes­ker får sin sek­su­el­le ori­en­te­ring i mors liv. Der­for vil det vaere helt me­nings­løst å bru­ke an­sikts­gjen­kjen­ning til en slik opp­ga­ve. Det fin­nes in­gen and­re me­to­der enn å spør­re per­sonen selv, me­ner hun.

Hun tror ikke me­to­den al­le­re­de er i bruk av sel­ska­per og sta­ter.

– Hel­dig­vis har vi jo i Nor­ge lo­ver som be­skyt­ter oss mot å bli dis­kri­mi­nert i ar­beids­li­vet, og som sier at ar­beids­gi­ver ikke har lov til å stil­le spørs­mål om sek­su­ell ori­en­te­ring på et jobb­in­ter­vju. Dess­ver­re er det­te in­for­ma­sjon som kan mis­bru­kes på dra­ma­tis­ke må­ter, sier hun.

Av­vi­ser kri­tik­ken

Michal Ko­sin­ski be­kla­ger at han ikke rek­ker å sva­re på hen­ven­del­se­ne fra Af­ten­pos­ten, men har pub­li­sert et om­fat­ten­de svar til sine kri­ti­ke­re.

Fle­re av kri­ti­ker­ne har pekt på at al­go­rit­men er trent på å iden­ti­fi­se­re åpne ho­mo­fi­le som kan vaere enk­le­re å skil­le ut enn de som øns­ker å skju­le iden­ti­te­ten sin. Ko­sin­ski på­pe­ker at al­go­rit­men er spe­si­fikt trim­met for å se bort fra ele­men­ter man kan for­and­re, som hår og smin­ke. I ste­det er det selve an­sikts­trek­ke­nes leng­de i for­hold til hver­and­re (se il­lust­ra­sjon) som til­leg­ges vekt.

Ko­sin­ski er også selv­kri­tisk på tra­di­sjo­nelt vi­ten­ska­pe­lig vis, og på­pe­ker at treff­sik­ker­he­ten på 91 pro­sent bare er rik­tig der­som en av to menn som pre­sen­te­res for ma­ski­nen er åpent ho­mo­fil.

Si­den bare få er ho­mo­fi­le i vir­ke­lig­he­ten, vil treff­sik­ker­he­ten i prak­sis vaere mye la­ve­re. Li­ke­vel: Da al­go­rit­men ble spurt om å se på en grup­pe på 1000 re­pre­sen­ta­ti­ve menn (der bare om­trent 7 pro­sent er ho­mo­fi­le), og så skil­le ut de 10 den var sik­rest på var ho­mo­fi­le, vis­te hele ni av ti av dis­se seg å vaere blant de ho­mo­fi­le.

Ko­sin­ski på­pe­ker at det er så vans­ke­lig å kon­trol­le­re hvem som har til­gang til et bil­de av an­sik­tet ditt, at den­ne tek­no­lo­gi­en ska­per et enormt pro­blem for per­son­ver­net. År­sa­ken er blant an­net at det tas så man­ge bil­der av oss alle som så de­les i so­sia­le medi­er.

I prak­sis vil det bety at det i frem­ti­den ikke vil vaere mu­lig å la sek­su­ell leg­ning vaere en pri­vat­sak, på­pe­ker han. Uten per­son­vern er den enes­te far­ba­re vei­en hold­nings­ar­beid, me­ner han. «En ver­den der per­son­ver­net har brutt sam­men vil vaere et mye tryg­ge­re og var­me­re sted der­som den be­står av vel­ut­dan­ne­de, to­le­ran­te men­nes­ker som er opp­tatt av at alle har like ret­tig­he­ter».

Pro­ble­ma­tisk i Nor­ge

Det er ikke til­fel­dig at Ko­sin­ski har gjort sin forsk­ning i USA. I Euro­pa er an­sikts­gjen­kjen­ning så strengt re­gu­lert at sto­re sel­ska­per som Face­bo­ok og Goog­le har skrudd de­ler av funk­sjo­ne­ne av for bru­ke­re på vårt kon­ti­nent. Li­ke­vel vil det vaere vans­ke­lig å hind­re at nord­menn får til­gang der­som noen fin­ner på å lage en nettje­nes­te der de lar be­sø­ken­de las­te opp et til­fel­dig bil­de og få en vur­de­ring av hvor sann­syn­lig det er at en de har i kik­ker­ten er skeiv.

Fag­di­rek­tør Cat­ha­ri­na Ne­se i Data­til­sy­net sier det ikke er mu­lig å gi et klart svar på om en slik tje­nes­te vil vaere lovlig el­ler ikke her i lan­det.

– An­sikts­gjen­kjen­ning i seg selv er ikke nød­ven­dig­vis et onde. For ek­sem­pel kan det bru­kes som en ren nøk­kel, som i den nye Ip­hone X. Men det vil vaere klart pro­ble­ma­tisk å set­te opp en tje­nes­te som an­slår men­nes­kers sek­su­el­le leg­ning, for­di du må lag­re sva­ert sen­si­ti­ve data, sier hun. Ne­se på­pe­ker at du må ha kon­se­sjon fra til­sy­net for å be­hand­le sli­ke sen­si­ti­ve per­son­opp­lys­nin­ger.

– Det lig­ger jo også et po­ten­si­al for om­fat­ten­de over­vå­king og pro­fi­le­ring i det­te. Det blir vik­tig å re­gu­le­re det­te slik at en­kelt­in­di­vi­det be­hol­der størst mu­lig kon­troll, sier Ne­se.

«Da al­go­rit­men ble spurt om å se på en grup­pe på 1000 re­pre­sen­ta­ti­ve menn (der bare om­trent 7 pro­sent er ho­mo­fi­le), og så skil­le ut de 10 den var sik­rest på var ho­mo­fi­le, vis­te hele ni av ti av dis­se seg å vaere blant de ho­mo­fi­le»

FOTO: GJENGITT MED TILLATELSE FRA MICHAL KO­SIN­SKI

Ser du for­skjel­len? Bil­de­ne er sam­men­smelt­nin­ger av fle­re ti­tu­se­ner he­te­ro­fi­le og ho­mo­fi­le men­nes­ker. Helt til høy­re kan du se nøy­ak­tig hva ma­ski­nen har ana­ly­sert seg frem som mest ka­rak­te­ris­tisk for he­te­ro og homo. Fo­to­gra­fi­ene til ven­st­re er mest sann­syn­lig he­te­ro­fi­le, og de til høy­re er mest sann­syn­lig ho­mo­fi­le.

FOTO: ROLF ØHMAN

Michal Ko­sin­ski be­søk­te Af­ten­pos­tens forsk­nings­kon­fe­ran­se i april i år.

FOTO: FORE­NIN­GEN FRI

Ing­vild Ende­stad i Fore­nin­gen Fri me­ner fors­ker­ne har skapt et spe­ku­la­tivt verk­tøy.

Newspapers in Norwegian

Newspapers from Norway

© PressReader. All rights reserved.