Roboten Sophia er dum som et brød
Du synes kanskje roboten Sophia virker overraskende smart og vittig? Det du kanskje ikke har fått med deg er at hun bare er en bløff.
Hun har møtt Erna Solberg og Jimmy Kimmel. Hun var gjest på det siste møtet i Verdens Økonomiske Forum og er innvilget statsborgerskap i Saudi-Arabia. Når hun møter opp på amerikanske talkshow forklarer skaperen hennes at hun er «basically alive».
Det få journalister er nøye med å videreformidle, er den ganske viktige forutsetningen jeg selv fikk da jeg fikk tilbud om å intervjue henne: Alle spørsmål må sendes inn skriftlig flere dager på forhånd.
Før hun får et eneste spørsmål, rekker dyktige og høyst menneskelige tekstforfattere å sette seg ned for å skrive noe smart og vittig til svar. Når journalisten eller konferansieren senere stiller de samme spørsmålene muntlig, spilles svarene selvsagt av i riktig rekkefølge. For publikum er det naermest umulig å skjønne at roboten bare er en høyteknologisk dukke som brukes til en moderne form for buktaling. Å formulere selvstendige setninger som svar i en åpen samtale er fullstendig utenfor rekkevidde for alt som finnes av kunstig intelligens i verden i dag.
Ser man naermere på selskapet Hanson Robotics, som står bak roboten, viser det seg at selskapet ikke har noe produkt å selge. I stedet er folkene deres gode på å spille ut et gigantisk mediejippo som baserer seg på folks godtroenhet. Og journalister verden over spiller med. For hvem vil vel ødelegge moroa, nå som vi har det så gøy?
Har ikke løst kreftgåten
Kunstig intelligens (AI – Artificial Intelligence) beveger seg så fort at det er flere som fisker i rørt vann. IBM gikk for eksempel gått hardt ut i 2012 og hevdet at AI-systemet Watson var på vei til å løse kreftgåten. Store sykehus som MD Anderson i USA og danske Rigshospitalet kastet seg med.
Det får ikke like mye oppmerksomhet at begge disse har forlatt samarbeidet med Watson. På Rigshospitalet anbefalte Watson en behandling som var direkte livstruende for en av pasientene. Tre større journalistiske gjennomganger konkluderer alle med at Watson ikke er i naerheten av å oppfylle forventningene.
Man kan ikke engang stole på AI til å svare så tåpelig at det blir morsomt. Burger King la nylig ut noen vittige reklamer som skulle vaere «skrevet av AI». Men det viste seg at selv tekster som skulle vise hvor håpløse robotene er til å skrive måtte forfattes av høyst menneskelige reklamefolk.
Flere AI-eksperter mener Sophia bidrar til å villede befolkningen. AI-nestor Yann LeCun, som nå er sjef for AI i Facebook, tvitret tidligere i år at Sophia er «complete billsh*t (pardon my french)», og sammenligner Sophias forhold til AI som tryllekunstens forhold til ekte magi.
Watson er ikke et direkte forsøk på bløff, slik Sophia fremstår som. Mange sykehus bruker Watson aktivt i dag. Problemet er at hverken jeg, IBM eller noen andre kan si noe definitivt om systemet virker. Det er nemlig ikke gjennomført noen uavhengige studier av systemet. Det eneste som er sikkert er at kreftgåten ikke kan sies å vaere løst.
Ikke greit å henge med
Ikke rart folk flest er forvirret.
Jeg merket selv hvor vanskelig det er å skille faktiske egenskaper fra lureri da jeg hadde permisjon i vår for å skrive en bok om AI. Det tok flere måneder med arbeid før jeg innså at så godt som alt som sies av assistenter og chatboter bare er skrevet av mennesker. Disse menneskene kalles gjerne robottrenere, og er faktisk blitt en egen yrkesgruppe, selv her i landet. I realiteten er de manusforfattere.
Det robotene har laert seg gjennom såkalt maskinlaering og AI de siste årene, er nemlig ikke å formulere seg selv, men å forstå hva vi mennesker sier. Det er ingen liten ting. Selv om å forstå et utsagn bare er halvparten av en samtale, bringer det oss et langt stykke på vei mot å kunne skape maskiner som kan svare oss.
Jeg trodde jeg hadde skjønt det hele og skråsikkert kunne skrive i boken at alle dagens kunstig intelligenser var håpløse på å formulere seg selv i kontakt med oss mennesker. Men i mai viste Google frem sin tjeneste Duplex. Dette er en AI-assistent som på vegne av deg kan ringe opp og bestille en time hos frisøren eller et bord på restaurant. Duplex er så overbevisende at hele samtalen kan gjennomføres uten at mennesket i den andre enden forstår at hen snakker med en maskin.
Dermed måtte manus skrives om igjen. Men Duplex, som fortsatt er under utvikling og ikke er ferdig, har en klar begrensning: Den må spesialtrenes på helt spesifikke oppgaver. En egen utgave av Duplex må bygges for å bestille frisørtimer. En helt annen må lages for å bestille bord på restaurant. Derfra er det milevis til å delta i en samtale med helt åpne spørsmål og svar, slik Sophia gir seg ut for å klare, skrev jeg.
Laerte seg å argumentere
Så gikk det ikke mer enn en måned. I juni demonstrerte IBM Project Debater, en maskin som er i stand til å skrive et fullstendig resonnerende debattinnlegg basert på bare en kort og diskutabel påstand av typen «Vi bør subsidiere romforskning». Kvaliteten er omtrent på nivå med hva en elev på videregående presterer, ifølge en professor med kybernetisk retorikk som spesiale.
Igjen måtte jeg skrive om. Både Duplex og Debater er voldsomt imponerende. Men det som står fast og som har stått fast i årevis, er at alle dagens AIassistenter bare kan gjøre akkurat det de er trent til. Hvis innholdet ikke allerede finnes i noen av de flere hundre millioner nyhetsartiklene Debater
Journalister verden over spiller med. For hvem vil vel ødelegge moroa, nå som vi har det så gøy?
har tilgang til, er det fullstendig umulig for den å klekke ut en original tanke. Det vedgår også oppfinnerne.
I The book of why (2018) hevder Turing-prisvinner Judea Pearl at det er fundamentalt umulig for dagens maskiner å utvikle noe som minner om fri vilje eller gjøre noe de ikke er trent til. Matematikken som vi mennesker har utviklet til å styre dem er fundamentalt begrenset, mener Pearl.
Har vi det som trengs allerede?
Ikke alle er enige med ham. Ilya Sutskever leder den fremadstormende forskningsstiftelsen Open.ai (blant annet med støtte fra Elon Musk). Han mener at vi ikke trenger å oppdage noe fundamentalt nytt for å utvikle kunstige intelligenser med en så avansert forståelse av sine omgivelser at de kan skape egne samfunn med komplekse fenomener som politikk og jus.
Når jeg, som har hatt mer tid enn de fleste til å sette meg inn i fenomenet kunstig intelligens, stadig blir overrasket over hvor langt AI nå har kommet, er det ikke rart at folk flest ikke klarer å skille skitt og kanel.
Derfor påligger det et spesielt ansvar på både journalister og fagfolk om ikke å hype teknologien og fremstille det som om den kan mer enn den faktisk kan. AI kommer etter alt å dømme til å storme frem i årene som kommer, og klarer seg helt fint uten at noen trenger å overdrive maskinenes evner. En av de fascinerende evnene vi mennesker har, er jo at vi klarer å avsløre en bløff. Vi bruker bare litt tid på det.
Per Kristian Bjørkeng er journalist i Aftenposten. Han har nylig utgitt boken «Kunstig intelligens – den usynlige revolusjonen».