När blir man robot?
Hon har framtidsjobb i Wallenbergsfären och i ledningen för försvarskoncernen Saab. Och som mamma till ett funktionshindrat barn önskar Danica Kragić oss tålmodiga robotar som hjälper oss bli bättre medmänniskor.
Var går gränsen mellan människa och robot? Vi accepterar kirurgi som gör människor vackrare, men inte ingrepp som gör oss starkare. Robotikprofessor Danica
Kragić har utsetts till Sveriges mest inflytelserika kvinna inom teknik 2018.
Men hon brottas med gränsdragningar. Ofta utlöses de av tankar kring sonen Jonathan, svårt funktionshindrad.
Danica Kragić är den förra maskiningenjören som går in i frågorna om etik och moral kring robotik och artificiell intelligens. Hon önskar sig fler robotar och tänkande maskiner
som arbetspar till oss, hemma, i vården eller skolan. Men hon vet också att utvecklingen kan bli ”läskig”.
et svenska affärsmagasinet Veckans Affärer utser numera varje år de mest inflytelserika kvinnorna i svenskt näringsliv. I klassen teknologi kommer en före de andra från Google, Ericsson, Tieto och olika spelföretag. Det är robotikprofessor Danica Kragić Jensfelt, 46.
Och här kommer hon nu, i vestibulen till ett av Kungliga tekniska högskolans (KTH) tegelhus på backen ovanför Valhallavägen i Stockholm.
Danica Kragić är glad och pratsam, klädd i en gulgrå byxdress med blixtrande vasst mönster som man i övrigt hör beskrivas som i en migränattack. Och så en knälång purpurröd kappa i tjockt plisserat tyg; sneakers som har börjat som vita. Hon syr själv och har man hört henne föreläsa har man också hört henne säga att hon har sytt kläderna hon står i.
Danica Kragić invandrade för 20 år sedan från Kroatien som arbetslös maskiningenjör. Sedan dess har hon disputerat och blivit professor i datalogi här vid KTH. I dag leder hon på deltid ett Wallenbergfinansierat jätteprojekt kring artificiell intelligens (ai) med en budget på 250 miljoner euro.
På väg upp genom de kala högskolekorridorerna avhandlar hon i hissen en projektplan för ett företag med en utländsk forskare, ”35 anställda måste ni åtminstone ha”.
Ett tiotal toppforskare för sex högskolor och universitet hoppas hon kunna rekrytera, professorn och visionären som nu för oss via en smal trappa som för tankarna till kajutan på ett fartyg, till kaffeautomaten. Själv häller hon upp en väldig balja med te som hon inte sedan rör under hela intervjun.
Danica Kragić sitter som enda kvinna i styrelsen för Wallenbergarnas holdingbolag Fam och hon har nyligen blivit invald i försvarskoncernen Saabs styrelse.
– Ansvar, säger hon. Jag är uppvuxen med att ta ansvar: Man tar hand om sin egen skit. Man bryr sig om sina medmänniskor. Man respekterar äldres erfarenhet.
Vi sitter i robotlabbet nu. Den röda roboten bakom henne står med tunga hängande armar och knipklor, avstängd, och säger ingenting. En lite gammaldags fet bildskärm, stor som en Ipad på ansiktets plats är blank.
– Om jag arbetar i en bransch som många anser är farlig, ska jag då inte ta ansvar för att den utvecklas på rätt sätt? Framtida krig förs inte genom att vi flyger utan som cyberbrott, och inför naturkatastrofer behöver vi ett säkert och tryggt samhälle. Det gör mig ledsen många gånger att människor inte ser vilken teknisk potential vi har.
Människa, docka, robot
Det är sommar i det dåvarande Jugoslavien, kring 1977. Sexåriga Danica har låst in sig i mormors badrum, medan de vuxna ute i solen är på höarbete någonstans på den kroatiska landsbygden. Danica Kragić berättar om det här i ett sommarprat i svensk radio många år senare.
I badkaret har hon styckat sin docka i huvud, armar, torso och ben. Dockan har haft hål i gjutningen så att den både har kunnat matas med gröt och senare bajsa den i en blöja. Men dockans ämnesomsättning har gett upp. Gröt har blivit kvar inne i dockan, möglat och torkat.
Efter badet blir dockan inte samma varelse igen, berättar hon i radio, inte den varelse hon dittills hade tagit hand om nästan som om en människa.
Det problemet arbetar hon med fortfarande. Vad är en människa, en docka, en robot? Utan att förlora sig i ingenjörstermer, i terabyte, millisekunder eller miljarder kronor handlar många av hennes föreläsningar om etiken och moralen kring den utveckling vi är mitt uppe i. Ända upp på scen i en föreläsningsperformans på Dramaten har hon talat om det.
Vad är en kropp? Vad är arbete? Vad är samarbete?
Allt roboten inte kan
Ett av Danica Kragićs evangelier är att tala om hur mycket robotarna inte fysiskt klarar av att utföra. Det är för att världen trots allt har uppstått kring människan som biologiskt system. Var en som sitter i rullstol vet det, säger hon.
Ända sedan Leonardo da Vincis mekaniska knekt 1495 har man byggt robotar som försök till människokopior.
Först i dag kan tekniken hantera så stora mängder data att en robot faktiskt intelligent kan lära sig saker på djupet. Spelindustrin har förfinat och mångfaldigat tekniken, ”ta Xbox”, säger Danica Kragić.
– Men en robot kan inte knyta mina skor och inte knäppa min skjorta. Och om den ska hjälpa mig att duscha eller laga mat så kan det bli ganska farligt, säger hon.
Hon fortsätter ge exempel: En ro bot kan veta vilka ingredienser som behövs för att göra olika typer av pizza, men inte baka den. En robot har svårt att hitta en stol i ett rum eller leta rätt på sängkläder i ett främmande utrymme för att sedan bädda en säng.
Långsamma politiker
Danica Kragić är besviken över hur långsamt Sverige och andra nordiska länder agerar i fråga om robotik och ai. I fråga om robotar för vården är det kört för att Japan och Korea är långt före.
En annan nisch nu kunde vara att Sverige och Finland blev ledande med system kring självgående bilar.
– Men det kräver stora steg, säger hon. Vi behöver system i stor skala, som konsumenterna accepterar och använder, säger hon. Min mamma som är ekonom ska våga sätta sig i en förarlös bil.
Hon beklagar att ”många inte ser det som jag ser”, den stora bilden där vi har tagit ett tekniksprång.
– Medierna är upptagna av när en självkörande Tesla eller Volvo har kört en olycka. Medan man inte ser att människor på samma tid kan ha åstadkommit typ 1 700 olyckor genom att köra själva.Det behövs stora steg, stadsplanering som till ex
empel gjorde det möjligt att i Stockholm förbjuda förarstyrda bilar innanför tullarna, säger hon.
– Vi skulle få färre bilar, behöva mindre parkering, färre parkeringshus och kunna ha en del gator som cykelgator och andra som bilgator. Men regeringen tar bara små steg. Och politikerna sitter och tänker att får Stockholm, så måste Kiruna också få.
Robotar som förstår oss
Robotar beskrivs mer och mer som våra blivande arbetskompisar. Medan vi själva utför ett kreativt arbete kan robotarna som de redan har gjort i bilfabriker sedan 1960-talet göra arbete som kräver fingerfärdighet, snabbhet, uthållighet eller precision.
Precis som Danica Kragić överlåter åt sin kroatiska mamma när hon kommer på besök att sy knappar och knapphål och andra detaljer i hennes plagg medan hon själv gör de stora linjerna, skrattar hon.
Ju mera robotar kan bli läraktiga så behöver de också kunna samarbeta, läsa av människor eller förutspå hur vi kommer att fungera.
– Om du och jag ska lyfta ett bord tillsammans kan jag skapa förväntningar hur din kropp fungerar och hur stark du är, säger Danica Kragić . Men om du såg ut som en åttaarmad bläckfisk så skulle det vara mycket svårare.
Människan lär sig med hjälp av spegelneuroner i hjärnan och av att imitera varandra. Vi lär oss också sociala regler. Då uppstår också frågan om vi är beredda att ge roboten också rollen att ge feedback på hur vi uppför oss.
– En självkörande bil kan ju vara vänlig och korrekt, hälsa välkommen och visa oss vägen, säger hon. Men skulle vi acceptera att den vägrar öppna dörren och säger att ”nej, nu har du åkt bil tre gånger i dag, nu ska du ta bussen”?
Ett stöd i vardagen
Danica Kragićs resonemang kommer gång på gång in på 11-åriga Jonathan. Det är inte någon av robotarna i KTH:s kala testhall. Det är hennes son därhemma.
Jonathan är det äldre av hennes två barn. Han är svårt funktionshindrad sedan födseln och kan inte tala. Han behöver minutpassning hemma och Danica Kragić har fört resonemang om det kunde finnas robotteknik som kunde vara till hans och familjens hjälp.
– När han kommer hem från skolan kan jag se om han är glad eller ledsen. Men jag kan inte veta vad som har hänt under dagen, för det kan han inte berätta.
Empatiska ord kan hon få av människor omkring sig, men den verkliga empatin ger bara den lilla procent vänner som verkligen avlastar familjen. Och en robot i rummet intill skulle kunna göra just det: vara ett extra par ögon och vara ett stöd.
Hon har offentligt gått ända in i frågan om Jonathans bara lite annorlunda hjärna i framtiden skulle gå att programmera om och om var gränsen går för när Jonathan i så fall inte längre skulle vara Jonathan. ”Om han skulle kunna vara som en vanlig pojke, om också bara för en dag”, sade hon i sitt uppmärksammade sommarprat.
En oviss framtid
Robotiken får också hantera frågorna om hur teknik byggs in i människan.
– Hur mycket får man förändra en människa? säger Danica Kragić. Vi har accepterat pacemakers som styr våra hjärtan, avancerade proteser och vi har accepterat chip i hjärnan som kan ge oss hörsel eller motarbeta tourette, säger hon.
På Dramatens scen säger hon att vi har accepterat plastikkirurgi för att göra oss vackrare så att vi får de vi jobb vi önskar, ”men inte ingrepp som skulle göra oss starkare”. Hur det här ska utveckla sig i framtiden kan hon inte säga.
– Det känns ganska läskigt, faktiskt, säger hon. Jag vet inte hur det blir. Fast å andra kunde vi ju inte heller för 30 år sedan föreställa oss att hela vårt liv i praktiken skulle finnas i en telefon. Människor som i dag motsätter sig ai har sina telefoner fulla av appar som bygger på det.
I skolan anser Danica Kragić att vi behöver tänka över vår föreställning att enbart människor är de bästa lärarna.
– Lärare har inte mycket tid för varje barn, säger hon. Robotar kunde användas för mycket mera interaktion och för att ta reda på vad varje barn egentligen förstår. De kan samla mycket mera data om en individ än man gör nu genom att samtala, ställa frågor, ha prov och bedöma social kompetens.
På samma sätt har hon också föreställt sig att en tålmodig robot timme ut och timme in kan samla data om en dement människa för att förstå hens behov bättre. Eller som hon avslutade sin Dramatenföreläsning i vintras: ”kanske robotiken kan göra oss till bättre medmänniskor?”.
En robot kunde samla in mycket mer data om vad ett barn förstår i skolan än en lärare hinner göra. Om du var en åttaarmad bläckfisk vet jag inte hur vi skulle lyfta ett bord tillsammans.