Hur AI påverkar vår självbild

Är AI en ny form av agens som påverkar människor? Vad gör denna nya teknologi med vår relation till oss själva, varandra och det icke-mänskliga? Johan Marticki forskar om vad som händer med mänsklig agens i en värld som blir alltmer fylld av algoritmer och AI. Här berättar han om tematiken i sin nypublicerade avhandling.
Johan Marticki

Från ett inifrånperspektiv skulle berättelsen om moderniteten kunna förstås som en avskalningshistoria. Genom vetenskapliga analyser och förklaringar reser sig den moderna människan från vidskepliga föreställningar om en livsmiljö besjälad av andeväsen. Genom en vetenskapligt informerad teknisk utveckling intar den moderna aktören successivt rollen som rationell förvaltare.

I moderniteten står den mänskliga individen i händelsernas centrum.

Representerar AI en fortsättning på denna berättelse? Somliga ser goda möjligheter till en fortsättning, där AI hjälper oss att nå ny kunskap och utveckla nya förmågor, och därigenom cementerar människans centrala roll. Andra ser faror i hur en så kallad ”superintelligens” skulle kunna behandla sin underlägsne mänsklige skapare.

Samtidigt pågår en hel del forskning kring hur användande av betydligt enklare teknologier som skärmar och smartphones påverkar människans inlärningsförmåga och socialisering.

Här är det inte fråga om vad skärmar gör mot oss, utan om vad vi gör eller avstår från att göra, eller om hur vi utvecklas eller inte utvecklas, när vi alltmer interagerar med denna typ av teknologier. Det är möjligt att reflektera över AI på ett liknande vis: Hur påverkar inträdandet i algoritmtäta livsmiljöer människan som aktör?

För att ta reda på om en sådan utveckling representerar en fortsättning på det moderna äventyret kan vi först reflektera över tidigare industrialiserings- och automatiseringsprocesser som mynnade ut i kulturomvälvande omställningar. Hur påverkades människans aktörskap av sådana historiska skeden?

Den industriella konsumenten lär sig alltmer hur man får saker gjorda för sig.

Den förindustriella människan lärde sig värdefulla färdigheter genom vilka den förindustriella familjen och byn kunde uppnå ett mått av självförsörjande. Den industriella konsumenten lär sig alltmer hur man får saker gjorda för sig. Samtidigt lär sig den nya människan nischade färdigheter som är användbara i industriella och moderna byråkratiska institutioner.

Det kollektiva aktörskapet flyttas alltså i stor utsträckning från den förindustriella familjen och byn till industriella och byråkratiska institutioner. Det är de senare som alltmer utgör den huvudsakliga arenan för den moderna människan.

Både förindustriella och industriella strukturer delar en slående likhet: De levandegörs helt och hållet av människor. Industrialiseringen har på så sätt en plats i det moderna berättandet. Industrialiseringen kan nämligen tolkas som en genialisk omstrukturering av den mänskliga omgivningen, där människan anmodas anta nya heroiska uppgifter som vidgar hennes kontroll över materia i tid och rum.

Men, som antyds av tänkare som Ivan Illich, Jacques Ellul, Romano Guardini och Zygmunt Bauman, så medför industrialiseringen på sikt allvarliga utmaningar gentemot moderniteten.

Den algoritmiska revolutionen innebär en radikal förändring av modernitetens huvudsakliga arenor. Byråkratiska organisationer kan i allt större utsträckning ersätta mänskliga aktörer med algoritmiska system. Funktioner som sköts av sekreterare, telefonister, administratörer kan i allt högre grad automatiseras.

I takt med att organisationer där människor samarbetar för att uppnå högre ändamål blir mer algoritmtäta så minskar behovet av mänskliga aktörer. Samtidigt verkar det som att den mänskliga livsmiljöns status förändras: själva livsmiljön – eller algoritmdrivna aktörliknande system i den – ”vet” mer och mer om oss människor och ”agerar” mer och mer ”autonomt” gentemot oss.  I The Age of Surveillance Capitalism formulerar Shoshanna Zuboff det som så att teknologin förändras från något som vi har, till något som har oss.

Från människans perspektiv verkar det oklart vem eller vad det är som ”vet” om och ”agerar” gentemot oss. Rör det sig om mer eller mindre autonoma diskreta ”algoritmiska aktörer”, kollektivt sammanlänkande algoritmiska system eller mänskliga aktörer som förfogar över algoritmiska system? Nya strukturer byggs upp som påverkar hur vi uppfattar och interagerar med vår omgivning, varandra och världen. Dessa strukturer lär sig om människors preferenser och påverkar människors val och sätt att leva.

Mynnar moderniteten ut i en situation där dunkla och fantastiska icke-mänskliga aktörer återigen utövar inflytande över människan?

När människan förnimmer att hennes livsmiljö börjar ”vakna till liv” och interagera med människor på ”eget initiativ” så når den moderna berättelsen en vändning. Den algoritmanimerade livsmiljön påminner i viss mån om den ande-animerade livsmiljön som moderniteten föreställer sig att människan med förnuft och vetenskap har övervunnit.

Hur ska människan nu, i en livsmiljö som levandegörs av en diffus artificiell agens, kunna bemästra världen? Mynnar moderniteten ut i en situation där dunkla och fantastiska icke-mänskliga aktörer återigen utövar inflytande över människan?

När människans livsmiljö framstår veta mer om människan än människan vet om sig själv och där AI allt mer presterar över människors prestationsförmågor, så hamnar vi en ny situation där flera vägar är möjliga.

Ett alternativ är att modernitetens självförståelse bevaras genom att människans kognitiva förmåga höjs eller genom att den pågående tekniska rekonstruktionen av människans livsmiljöer bromsas in.

Ett annat alternativ är att människans självförståelse anpassas så att hennes föreställningar bättre matchar inneboendet av ett kvasi-animerat pågående ingenjörsprojekt. Detta skulle innebära anpassningar till en värld definierad av plötsliga radikala förändringar, plötsliga uttryck av okända fenomen, närvaron av en kraftfull agens som framstår som mer eller mindre dunkel för människans förstånd.


Marticki, Johan (2025). Human agency and autonomy in algorithm-intense environments. Doktorsavhandling, Acta Universitatis Upsaliensis: Uppsala Studies in Philosophy of Religion.

Avhandlingen är fritt tillgänglig och kan laddas ner från Uppsala universitets digitala vetenskapliga arkiv.

Bidra till att främja filosofins roll och närvaro i samhället.

Foto: Abed Ismail/Unsplash
Vissa tänkare har varit så inflytelserika att det knappt går att filosofera om vissa saker utan att tänka med dem. När det gäller frågor om mening och kommunikation kan Paul Grice sägas ha en sådan roll. Hubert Hågemark reflekterar här över vilken betydelse Grice har haft för hans egna studier inom dessa fält.
Hubert Hågemark
Foto: Alessia Cocconi/Unsplash
Hur är det att leva med Søren Kierkegaard som ens husspöke, och som ens bästa vän? Ulrika Carlsson reflekterar över hur och varför han har bosatt sig i hennes tankevärld.
Ulrika Carlsson
Foto: Kamil Klyta/Unsplash
Ursäkter, och moralisk reparation i allmänhet, är en ofrånkomlig del av våra gemensamma etiska liv. Därför är de värda att undersöka filosofiskt.
Elsa Magnell
De antika stoikerna lärde att människan skulle stå oberörd inför världens flyktiga händelser. Bo Lindberg skriver här om den romerske statsmannen och filosofen Seneca, som förde vidare stoicismens filosofi.
Bo Lindberg
Foto: Nathalia Segato/Unsplash
Under 1900-talet vande vi oss vid att tänka på ”mänskliga rättigheter”. Kanske borde vi på ungefär samma sätt börja tänka på naturens rättigheter? Filosofen Patrik Baard och juristen Yaffa Epstein resonerar kring om, och i sådana fall hur, rättigheter kan vara ett lämpligt sätt att erkänna naturvärden.
Patrik Baard, Yaffa Epstein
Foto: Sint-Katelijne-Waver
Augustinus av Hippo är en av historiens viktigaste teologer. Han vördas som helgon i flera av de största kyrkorna och hans skrifter studeras än i dag flitigt i humanistiska ämnen. Martin Westerholm skriver om vad vi kan lära oss av Augustinus filosofi.
Martin Westerholm
Foto: aitac/Unsplash
Alla har någon gång i livet upplevt kärlek – antingen genom att älska eller bli älskade. Men vad är kärlek egentligen? För att hitta svar vänder sig Felix Maier till de antika grekiska filosoferna.
Felix Maier
Foto: Oscar Chevillard/Unsplash
På 1950-talet utforskade Maurice Merleau-Ponty det litterära skrivandet genom närläsningar av romankonstens stora mästare. Han fann att litteraturen för oss närmare den verklighet som skildras. Lovisa Andén skriver om tänkaren som bröt med Jean-Paul Sartre och förenade modernismens litteratur med fenomenologins filosofi.
Lovisa Andén
Foto: Wikimedia Commons (CC BY-SA 4.0)
Mikael Johansson har gjort den första översättningen av Marcus Aurelius ”Självbetraktelser” på över hundra år. Här berättar han om den romerske kejsarens stoiska livsfilosofi och om vad vi kan lära oss av stoikerna i dag.
Mikael Johansson
Foto: Joshua Kettle/Unsplash
Hur kan vi egentligen veta någonting? Det har nog varit den mest centrala frågan inom epistemologin sedan Platon. En av de största debatterna handlar om huruvida kunskap är ett normativt begrepp eller inte. Balder Ask Zaar ger här en överblick av debatten och sina skäl för varför kunskapsbegreppet i slutänden inte är normativt.
Balder Ask Zaar