Etikexperten: ”Vården måste våga hålla emot”
Att AI kan komma att göra stor nytta inom vården är de flesta överens om. Samtidigt finns en växande oro för att utvecklingen går för fort och att det blundas för de risker som patienterna utsätts för längs vägen. – Vården måste våga hålla emot när teknikföretagen nu trycker på. Kan Halland utveckla ett robust sätt att jobba med det här så kan man bli en förebild för hela landet, säger Christian Munthe, professor i praktisk filosofi.
Christian Munthe är professor vid Göteborgs universitet och har länge arbetat med frågor inom medicinsk etik. Bland annat sitter han i Socialstyrelsens råd för etiska frågor och anlitas av Statens beredning för medicinsk och social utvärdering, SBU, som ska säkerställa att vårdens metoder är säkra och evidensbaserade.
När HP sammanför honom med Anders Åkvist, chefsläkare i Region Halland och sammankallande i regionens eget etiska råd, blir det en intensiv diskussion om möjligheter och risker med AI och informationsdriven vård.
– Det finns ju väldigt många möjligheter med detta, men det är också lätt att gå på minor. Det bedrivs ett ambitiöst arbete här i Halland, men det är jätteviktigt att vi blir bättre på att beskriva vad som pågår och det ansvar som vi tagit på oss. Både vårdpersonalen och invånarna behöver känna sig medvetna och delaktiga i den här utvecklingen, säger Anders Åkvist.
Christian Munthe hör till dem som är oroad över den otålighet och hets som han tycker sig märka kring AI, både inom teknikbranschen och i vården.
– Just nu är det mycket hysteri kring AI och att det måste gå fort. Jag menar att det som måste gå fort är att få till en organisation för att värdera nyttan mot nackdelarna och som även tar hänsyn till kostnaderna. Är detta den mest optimala satsningen eller kan vi göra något bättre för pengarna, frågar han och fortsätter:
– Det finns ju ingen tradition bland dem som utvecklar datateknik för att introducera nya metoder med försiktighet, så som man normalt brukar göra inom sjukvården. Det finns också ett säljsnack som det är lätt för regionpolitiker och tjänstemän att gå på. I väldigt hög utsträckning så överdrivs vad den här tekniken kan göra, åtminstone för tillfället. Anders Åkvist flikar in:
– Det som pågår i Halland har enligt min uppfattning präglats av stor seriositet, men vi måste gå framåt i lagom tempo för att det verkligen ska ge någon nytta, säger han.
Christian Munthe gör en jämförelse med läkemedelsindustrin, som sedan länge fogat sig i de högt ställda krav på vetenskapliga bevis som bland annat Världsläkarförbundet satt upp. De innebär att det i regel tar cirka tolv år och kostar hundratals miljoner kronor att testa, utveckla och få ett nytt läkemedel godkänt.
– Det är klart att det kan kännas frustrerande, men det är ju inte så att man inte får någonting tillbaka. Det man får är en bevisad nytta och en hög säkerhet, vilket är grundbulten i sjukvårdens förtroende. Det innebär också att man, fullt legitimt, kan ta ut de kostnader man haft i ett pris, säger han och fortsätter:
– Nu finns en stor uppsättning teknikaktörer och investerare som trycker på väldigt hårt för att sälja sina produkter, innan de är färdiga. Och så vill de att vården ska göra prototyperna färdiga åt dem eller göra patientdata tillgängliga för parter som inte ska ha tillgång till dem. Kan läkemedelsindustrin anpassa sig så kan teknikaktörerna också göra det. Det är det jag menar med att vården måste hålla emot.
Chefsläkare Anders Åkvist återkommer till att även vårdpersonalen behöver involveras mer i utvecklingen:
– Arbetet med informationsdriven vård bedrivs till stor del inom vår Fou-verksamhet, men ska detta användas i verkligheten så behöver medarbetare i vården vara med i ännu större utsträckning. Här i Halland ser jag det som en stor styrka att vi har människor med vårdbakgrund som jobbar med detta och har ett naturligt förhållande till sekretess och annat, men vi behöver också ta det vidare till verksamheterna. Det finns många i hälso- och sjukvården som har alla förutsättningar att vara delaktiga i den här utvecklingen. Region Halland går ju i bräschen för arbetet med informationsdriven vård. Ser ni risker med att vara tidigt ute?
– Ny teknik är ju alltid som dyrast när den är som nyast, samtidigt som vi då vet minst om hur bra den är. Det är alltså rätt dålig business att rulla ut saker på ett tidigt stadium. Tvärtom, man tjänar både pengar och nytta på att ha tålamod och göra det här arbetet systematiskt. På sikt kommer de ofärdiga produkterna att göra skandal när de rullas ut i verkligheten, även om man hunnit betala räkningen, säger Christian Munthe.
Anders Åkvist fyller på:
– Jag uppfattar att de som jobbar mest med detta i Halland har god koll på riskerna med ny teknik och att vi i många fall gör omfattande och kontrollerade prövningar innan vi inför den. Det låter kanske tråkigt, men inom Region Halland har vi bedömt att vi behöver institutionalisera AI och den informationsdrivna vården. Ska vi sitta i en vardaglig situation med en Ai-genererad insikt så måste den ha varit studerad på olika sätt, så att det går att förstå vad den betyder.
– Om man återigen ska jämföra med läkemedelsområdet så finns ett rigoröst system kring hur vi värderar och inför nya läkemedel. Det är en stor fördel att det inte bara är läkemedelsindustrins produktinformation som vi bygger våra bedömningar på.
Ett problem inom all utveckling av Ai-modeller brukar kallas ”black box-problematiken”. Den handlar om att ingen vet exakt hur AI kommer fram till de slutsatser eller råd, som den förmedlar.
– I situationen mellan en läkare och en patient så vill man förstås veta maskinens argument bakom en rekommendation. Här tänker jag att man borde kunna ställa krav på teknikutvecklarna. ”Vi vill inte bara ha en maskin som spottar ur sig ett förslag, utan den ska även kunna förklara hur den kommit fram till det”. Som läkare blir det ju omöjligt att ha en diskussion med patienten om jag bara kan säga att
”maskinen sa detta”. Det behövs en teknikutveckling som jag inte tycker är riktigt hemma än, säger Christian Munthe.
Ett annat problem är att Ai-modeller måste tränas på stora mängder riktiga data. Om datan har brister eller är ojämlik, så förs detta också över till Ai-verktyget. Christian Munthe tar som exempel att mycket forskning görs på medelålders män och att maskinerna även tar efter hur vi uttrycker oss.
– Eftersom vi människor har en massa fördomar så kommer det att märkas i maskinens sätt att bete sig. Den har ingen moral eller hämningar utan uttrycker det som den uppfattar som normen. Det man skulle kunna göra är att beställa teknik, där algoritmen justerar för kända ojämlikheter i grunddatan. Då skulle tekniken kunna hjälpa oss att bli mer jämlik och användas till en god sak.
Inom ramen för Region Hallands arbete med informationsdriven vård pågår nu både forskning och olika projekt där stora datamängder analyseras. Mycket av arbetet uppges vara i ett tidigt stadium och handlar exempelvis om att skapa bättre flöden i vården. Längre fram är förhoppningen att även kunna identifiera patienter som riskerar att bli sjuka och därmed kunna förutse vårdbehov och göra förebyggande insatser.
Men när det gäller försök att upptäcka olika risker höjer Christian Munthe ett varningens finger:
– Detta bygger på tron att ju större och finmaskigare nät vi slänger ut, desto mer fångar vi, men så enkelt är det inte. Ju fler man fångar in av de som verkligen har ett problem, ju fler kommer du också fånga in som inte har ett problem, det bara verkar så. Det där är förknippat med en massa nackdelar. Hittar man en riskfaktor så måste man informera om den. Det innebär att du skrämmer upp folk, kanske i onödan, säger han och fortsätter:
– Det innebär också att folk kan behandlas i onödan, så kallad överbehandling. En stor anledning till att screening av prostatacancer ännu inte är en nationell rekommendation är att en överbehandling skulle leda till att många blev impotenta i onödan. Sjukvården ska ju inte medvetet skada folk, säger han.
Även Anders Åkvist tycker att kartläggning och profilering av patienter är en komplicerad fråga:
– Det är skillnad på att använda data för att ge god vård vid allvarliga sjukdomar och på att göra något som liknar screening. Därför är det viktigt att metoderna undersöks och prövas på ett klokt vis, så som jag upplever att man nu gör. Samarbetet mellan Region Halland som vårdgivare, kloka chefer, personal i vården och med akademin och näringslivet kan ge helt nya värden för oss som invånare. Men det krävs just att man är öppen för hur komplicerade sådana här frågor är, säger han.
Christian Munthe menar att det faktum att AI inte sysslar med fysiska ingrepp har påverkat synen på tekniken inom vården.
– Att informationsteknologi ses som icke-fysisk har nog lurat en del, men det här handlar om teknik som kan komma att få stor påverkan på vården av människor. Vi ska inte säga nej till teknikbranschen, utan ”ja, gärna, men det här är vad ni måste leva upp till för att vi ska kunna samarbeta”. Då kommer de inte tillräckligt seriösa aktörerna att försvinna. Det som blir kvar är seriösa aktörer som verkligen bidrar med ny och bättre teknik och inte bara vill göra sig en snabb hacka på en hajp, säger han och avslutar:
– Kan Halland utveckla ett robust sätt att jobba med det här så tror jag man kan bli en förebild för hela landet och bli världsledande när det gäller teknologi som verkligen fungerar.