Skulle du hellre få sjukvård av en AI än av en läkare? Om AI:n kunde ge dig bättre vård än din läkare, skulle du då välja AI:n – eller skulle du känna att något värdefullt gick förlorat?
Det här är inte en fråga du behöver ta ställning till inom den närmsta tiden, men däremot kan ett AI-system bli din läkares nya kollega. Faktum är att din läkare kanske redan använder AI i sitt arbete, till exempel för att analysera röntgenbilder, upptäcka mönster i dina provresultat eller göra riskbedömningar inför en behandling.
AI används i dag inom en rad olika områden i sjukvården. Det finns system för bilddiagnostik som kan upptäcka bröstcancer vid mammografi, verktyg som förutspår risken för hjärtsjukdom och modeller som kan identifiera tidiga stadier av livmoderhalscancer.
Varför är då AI så framgångsrikt? Svaret är enkelt: AI kan hitta svårupptäckta mönster och samband genom att processa enorma mängder data på kort tid och till lågt pris. AI-tekniken utvecklas för tillfället i en rasande takt vilket väcker en rad etiska frågor som vi måste diskutera gemensamt för att utvecklingen ska ske i rätt riktning. En av de största frågorna handlar om vad som händer när något går fel. För vem bär ansvaret när AI:n gör fel?
Om ett AI-system gör en felaktig diagnos eller rekommenderar en behandling som visar sig vara skadlig, vem ska då hållas ansvarig?
Ett av de mest omdiskuterade problemen med AI i vården är bristen på transparens. AI-system är ofta avancerade och fungerar som så kallade ”svarta lådor”, vilket innebär att det är svårt för oss att helt förstå hur de kom fram till en viss slutsats. Om ett AI-system gör en felaktig diagnos eller rekommenderar en behandling som visar sig vara skadlig, vem ska då hållas ansvarig? Läkaren som använde verktyget? Företaget som utvecklade det? Eller någon annan?
Det finns även etiska frågor kring algoritmisk bias, det vill säga partiskhet i AI-systemens beslutsfattande. Om ett AI-system tränas på data som inte är representativ för hela befolkningen kan det leda till att vissa grupper får sämre vård än andra. Till exempel har forskning visat att vissa AI-modeller har svårare att identifiera sjukdomar hos kvinnor eller personer med mörkare hud eftersom träningsdata främst har baserats på män med ljus hud.
En särskilt intressant fråga inom filosofin handlar om hur AI påverkar relationen mellan läkare och patient.
I nuläget är det bara AI-teknikens utveckling som sätter gränser för vad vi kan göra. Därmed faller ett allt större ansvar på etiken att definiera och diskutera vad vi bör göra. Huruvida och på vilket sätt som AI bör integreras i viktiga sjukvårdsbeslut är därför i mångt och mycket en etisk diskussion, där värden som respekt för patienters autonomi och rätt till självbestämmande spelar en central roll.
En särskilt intressant fråga inom filosofin handlar därför om hur AI påverkar relationen mellan läkare och patient. I den diskussionen finns en växande debatt kring det som kallas ”AI-paternalism” och här finns intressanta historiska paralleller att dra.
Paternalism är ett koncept som handlar om att begränsa någons frihet eller autonomi för deras eget bästa. Paternalism kan också vara att göra något som man tror är bra för en annan person, men utan att involvera den personen i beslutet.
Sjukvården dominerades fram till 1970-talet av en paternalistisk relation mellan läkare och patienter, där läkaren ensidigt fattade beslut om patienters behandling, med utgångspunkt i vad som ansågs vara i patientens bästa intresse. I sloganform skulle man kunna säga att relationen mellan läkare och patient gick ut på att ”läkaren vet bäst”.
Problemet med den modellen var att patienter inte blev tillräckligt involverade i viktiga och livsavgörande beslut. Sedan 1970-talet har därför principer om respekt för patienters autonomi och krav på informerat samtycke till behandling blivit centrala värden inom medicinsk etik och bioetik.
I dagens sjukvård är det viktigt att läkaren involverar patienten i beslutsfattandet och respekterar patientens egna mål och värderingar. Detta handlar i mångt och mycket om att skapa en dialog där både läkare och patient fattar beslut gemensamt, i syfte att den vård som ges ska vara patientcentrerad. Därför behöver patienten information om både sjukdomstillstånd och olika behandlingsalternativ för att kunna fatta ett informerat beslut utifrån egna mål och värderingar.
I sloganform kan man säga att AI-paternalism handlar om att ”AI vet bäst”.
Men när AI blir en del av beslutsfattandet uppstår en risk för en ny typ av paternalism: AI-paternalism. Konceptet syftar på att AI riskerar att fatta beslut som de anser vara i patientens bästa intresse, utan att involvera patienten i processen. I sloganform kan man säga att AI-paternalism handlar om att ”AI vet bäst”.
Mitt forskningsprojekt kommer att undersöka just detta, med fokus på att analysera vad AI-paternalism innebär och hur det kan påverka de bioetiska principer och normer vi är vana vid. En av riskerna är att AI-baserade beslut kan göra det svårare för patienter att förstå hur och varför ett beslut har fattats. Det kan i sin tur försvåra för patienten att ge informerat samtycke. Genom att fördjupa vår förståelse för AI-paternalism kan vi därför få bättre insikt i hur AI kommer att påverka olika typer av beslutsfattare framöver.
För om den fråga vi ställer oss är huruvida du vill få vård av en AI eller en läkare, måste vi även fråga vad bra vård är. Bra vård handlar delvis om statistik: om att maximera överlevnad och minska sjukdom. Men bra vård är mer än så. Det handlar om att ge människor möjlighet till att leva sina liv på det sätt som känns meningsfullt för dem, på sina egna villkor. Så när AI får en allt större roll i vården måste vi se till att det inte underminerar patienters rätt att vara delaktiga i beslut som påverkar deras liv.
Enligt mig är AI-paternalism ett av de mest spännande forskningsområdena just nu eftersom det väcker frågor som går bortom tekniken. Det handlar om värderingar, etik och hur vi ser på relationen mellan människor och maskiner i en av våra viktigaste samhällsfunktioner: vården.
