Ophelia öppnar sin inkorg och ser ett konstigt meddelande med en länk. När hon klickar på den blir hon förskräckt över att se en pornografisk video med vem som verkar vara, ja, henne själv. Det är en deepfake – en hyperrealistisk, AI-genererad mediefil som kan visa någon göra saker som de aldrig har gjort. Ophelia har fallit offer för något oroväckande vanligt: Enligt vissa uppskattningar är över 90% av de många deepfakes som cirkulerar online pornografiska och porträtterar övervägande kvinnor.

Nästan alla är överens om att det finns något djupt oetiskt med pornografiska deepfakes. Att förklara mer precis vad som är fel är dock svårt, vilket jag ämnar visa med en vårdslöst snabb genomgång av alternativen.

Ett sätt att förstå pornografiska deepfakes är att jämföra dem med äldre, bättre förstådda fenomen. Ta till exempel sexuell fantasi, användningen av sensoriska föreställningar för att mentalt representera andra i syfte att uppnå sexuell upphetsning eller njutning. Sexuella fantasier anses allmänt vara moraliskt oskyldiga i sig. Så om det är moraliskt förkastligt att skapa pornografiska deepfakes måste det finnas någon moraliskt relevant skillnad mellan dessa två aktiviteter. Det är dock oklart vad denna skillnad är. Deepfakes och fantasier är ju bara virtuella bilder som genereras med hjälp av offentligt tillgänglig information.

Om det inte finns någon moraliskt relevant skillnad, så står vi inför två otillfredsställande alternativ. Man kan antingen säga att skapa pornografiska deepfakes är moraliskt förkastliga och att det därför också är moraliskt förkastligt att fantisera sexuellt. Eller så kan man säga att fantisera sexuellt är moraliskt acceptabelt och att det därför också är moraliskt acceptabelt att skapa pornografiska deepfakes.

Låt oss börja med det första alternativet. Kanske är sexuella fantasier trots allt moraliskt förkastliga. Tänk dig till exempel att en kollega kommer fram till dig och säger “Jag ska nu hänge mig åt en riktigt obscen sexuell fantasi om dig!”, innan han blundar, ler för sig själv och lätt dreglar. Det är uppenbart att det finns något störande med hans sexuella fantasier.

Självklart. Men detta kan troligen förklaras av att han på ett slemmigt sätt meddelar sin avsikt och sedan fantiserar i din närvaro, för att inte tala om det “riktigt obscena” innehållet. Men detta visar inte att det är något fel med sexuella fantasier i sig, precis som att defekation på ens kollegas skrivbord inte visar att det är något fel med att placera saker på skrivbord.

Vad sägs då om det andra alternativet? Kanske är det, precis som med sexuella fantasier, inte något fel att skapa och njuta av pornografiska deepfakes i sig. Det som är fel med dem kan i stället kopplat till något annat, något som skiljer deepfakes från fantasier.

Eftersom fantasier är paradigmatiskt privata är det uppenbart att man bör titta på den offentliga aspekten av pornografiska deepfakes: deras spridning. Kanske är spridningen av dem stötande eftersom den orsakar personer skada. En potentiell risk är förtal: Att distribuera pornografiska deepfakes är, enligt denna syn, som att sprida smutsiga tabloidnyheter. Dessa nyheter har ofta lika mycket koppling till verkligheten som en rasande tweet från Trump klockan tre på natten, vilket kan vilseleda miljontals människor och riskerar att allvarligt skada offrets rykte.

Det finns dock två problem med detta synsätt. För det första så förvränger inte alltid deepfakes vad offret har gjort. Om en deepfake visar Ophelia ha samlag med någon som hon faktiskt har haft samlag med är videon inte förtal. Ändå anses en sådan video stötande. Det större problemet är dock att många pornografiska deepfakes betraktas och konsumeras som rent fiktiva, påhittade och overkliga, vilket gör att de snarare liknar en roman än nyheter, och är därmed inte förtalande.

Alltså kan pornografiska deepfakes förmodligen inte direkt utgöra förtal mot Ophelia. Men de kan fortfarande skada hennes rykte. Även sofistikerade konsumenter kan ha svårt att se en deepfake som något annat än en sanningsenlig skildring av Ophelia. Och även om de vet att det är en deepfake, så kan deras omdömen eller associationer gällande henne förvrängas.

Men tänk er i stället att Ophelia hade en dubbelgångare, Doppi. Om Doppi var en mycket framgångsrik porrskådespelerska skulle människor på samma sätt kanske inte kunna låta bli att uppfatta Doppis produktioner som om de skildrade Ophelia. Men risken för att Ophelias rykte blir skadat ger förmodligen inte Doppi någon skyldighet att sluta producera pornografi.

Kanske är “skada” fel begrepp. Även om man antar att en pornografisk deepfake inte orsakar någon skada kan man fortfarande anse att dess spridning är moraliskt förkastlig. Om så är fallet måste något annat än skada vara moraliskt förklarande. Men vad?

En möjlig förklaring är systemisk: Kanske är delningen av pornografiska deepfakes ett uttryck för en strukturell orättvisa. Hur så? Jo, de allra flesta offren för deepfake är, precis som Ophelia, kvinnor. För det andra lider kvinnor, som kvinnor, av många sammanlänkade nackdelar som spänner över flera områden av det sociala livet – enkelt uttryckt är de förtryckta. Ännu värre är att objektifieringen av kvinnor och brott mot deras samtycke till sexuell aktivitet utgör en central pelare i denna förtryckande struktur. Att sprida deepfakes av Ophelia bidrar alltså till hennes förtryck och till kvinnors förtryck i allmänhet.

Allt detta stämmer. Men pornografiska deepfakes avbildar också män. Och även om de inte är lika moraliskt problematiska som de som avbildar kvinnor, är spridningen av dem fortfarande moraliskt förkastlig. Om varken skada eller strukturell orättvisa fullt ut förklarar den moraliska kritiseringen av pornografiska deepfakes som kategori behövs alltså en annan sorts förklaring.

Ett deontologiskt tillvägagångssätt skulle kunna vara mer fruktbart. Sådana synsätt betonar moraliska rättigheter och skyldigheter och är i grunden fria från frågor om skada. Kanske kränker pornografiska deepfakes rätten till privatliv, precis som hämndporr gör. Eller så kanske de kränker Ophelias rätt till självbestämmande. Genom att manipulera hur hon framställs i sin sociala värld stör pornografiska deepfakes hennes förmåga att kontrollera sin egen sociala identitet. De kanske också kränker hennes äganderätt till sin kropp eller, om inte kroppen, så åtminstone till hennes likhet.

Till skillnad från hämndporr visar dock pornografiska deepfakes inte Ophelias privata handlingar, utan endast en syntetisk likhet med hjälp av offentligt tillgängliga bilder. Och en deepfake där hon sjunger karaoke kan manipulera hennes sociala image. Men störningen är moraliskt sett trivial jämfört med en pornografisk deepfake. Ophelias likhet är kanske inte heller unik (minns ni Doppi?), och när den är det, är det bara slump. Att åberopa likhet skapar alltså en helt ny uppsättning problem.

I centrum för alla tillvägagångssätt som identifierar det omoraliska i deepfakes som kränkning av rättigheter finns en mer grundläggande fråga: Pornografiska deepfakes av Ophelia kräver, men saknar, Ophelias samtycke. Kanske krävs samtycke för att distribuera en bild av Ophelia när bilden har en betydande koppling till henne. När bilden dessutom är socialt betydelsefull, till exempel för att den väcker anstöt, är antagandet att samtycke krävs för att distribuera den ännu rimligt. Men även denna förklaring har sina problem. Det är till exempel oklart om likheten måste vara avsiktlig och hur lik den måste vara Ophelia, om alls, för att samtycke ska krävas.

Vår dialektiska berg- och dalbana håller snabbt på att spåra ur. Så, vad kan vi dra för slutsats?

För det första kan vi med säkerhet säga att skapandet och spridningen av pornografiska deepfakes ofta, kanske till och med alltid, är moraliskt förkastlig, trots att det saknas en enhetlig förklaring till detta. Pornografiska deepfakes strider mot många av våra väl övervägda moraliska övertygelser grundade i skada, samtycke, integritet, autonomi och social rättvisa, även om fenomentet inte kan reduceras till en enda förklarande princip.

För det andra, som filosofiska undersökningar så ofta visar, döljer våra till synes enkla moraliska omdömen ett komplext nät av överväganden som måste redas ut innan deras betydelse kan förstås fullt ut.