Från ett inifrånperspektiv skulle berättelsen om moderniteten kunna förstås som en avskalningshistoria. Genom vetenskapliga analyser och förklaringar reser sig den moderna människan från vidskepliga föreställningar om en livsmiljö besjälad av andeväsen. Genom en vetenskapligt informerad teknisk utveckling intar den moderna aktören successivt rollen som rationell förvaltare.

I moderniteten står den mänskliga individen i händelsernas centrum.

Representerar AI en fortsättning på denna berättelse? Somliga ser goda möjligheter till en fortsättning, där AI hjälper oss att nå ny kunskap och utveckla nya förmågor, och därigenom cementerar människans centrala roll. Andra ser faror i hur en så kallad ”superintelligens” skulle kunna behandla sin underlägsne mänsklige skapare.

Samtidigt pågår en hel del forskning kring hur användande av betydligt enklare teknologier som skärmar och smartphones påverkar människans inlärningsförmåga och socialisering.

Här är det inte fråga om vad skärmar gör mot oss, utan om vad vi gör eller avstår från att göra, eller om hur vi utvecklas eller inte utvecklas, när vi alltmer interagerar med denna typ av teknologier. Det är möjligt att reflektera över AI på ett liknande vis: Hur påverkar inträdandet i algoritmtäta livsmiljöer människan som aktör?

För att ta reda på om en sådan utveckling representerar en fortsättning på det moderna äventyret kan vi först reflektera över tidigare industrialiserings- och automatiseringsprocesser som mynnade ut i kulturomvälvande omställningar. Hur påverkades människans aktörskap av sådana historiska skeden?

Den förindustriella människan lärde sig värdefulla färdigheter genom vilka den förindustriella familjen och byn kunde uppnå ett mått av självförsörjande. Den industriella konsumenten lär sig alltmer hur man får saker gjorda för sig. Samtidigt lär sig den nya människan nischade färdigheter som är användbara i industriella och moderna byråkratiska institutioner.

Det kollektiva aktörskapet flyttas alltså i stor utsträckning från den förindustriella familjen och byn till industriella och byråkratiska institutioner. Det är de senare som alltmer utgör den huvudsakliga arenan för den moderna människan.

Både förindustriella och industriella strukturer delar en slående likhet: De levandegörs helt och hållet av människor. Industrialiseringen har på så sätt en plats i det moderna berättandet. Industrialiseringen kan nämligen tolkas som en genialisk omstrukturering av den mänskliga omgivningen, där människan anmodas anta nya heroiska uppgifter som vidgar hennes kontroll över materia i tid och rum.

Men, som antyds av tänkare som Ivan Illich, Jacques Ellul, Romano Guardini och Zygmunt Bauman, så medför industrialiseringen på sikt allvarliga utmaningar gentemot moderniteten.

Den algoritmiska revolutionen innebär en radikal förändring av modernitetens huvudsakliga arenor. Byråkratiska organisationer kan i allt större utsträckning ersätta mänskliga aktörer med algoritmiska system. Funktioner som sköts av sekreterare, telefonister, administratörer kan i allt högre grad automatiseras.

I takt med att organisationer där människor samarbetar för att uppnå högre ändamål blir mer algoritmtäta så minskar behovet av mänskliga aktörer. Samtidigt verkar det som att den mänskliga livsmiljöns status förändras: själva livsmiljön – eller algoritmdrivna aktörliknande system i den – ”vet” mer och mer om oss människor och ”agerar” mer och mer ”autonomt” gentemot oss.  I The Age of Surveillance Capitalism formulerar Shoshanna Zuboff det som så att teknologin förändras från något som vi har, till något som har oss.

Från människans perspektiv verkar det oklart vem eller vad det är som ”vet” om och ”agerar” gentemot oss. Rör det sig om mer eller mindre autonoma diskreta ”algoritmiska aktörer”, kollektivt sammanlänkande algoritmiska system eller mänskliga aktörer som förfogar över algoritmiska system? Nya strukturer byggs upp som påverkar hur vi uppfattar och interagerar med vår omgivning, varandra och världen. Dessa strukturer lär sig om människors preferenser och påverkar människors val och sätt att leva.

När människan förnimmer att hennes livsmiljö börjar ”vakna till liv” och interagera med människor på ”eget initiativ” så når den moderna berättelsen en vändning. Den algoritmanimerade livsmiljön påminner i viss mån om den ande-animerade livsmiljön som moderniteten föreställer sig att människan med förnuft och vetenskap har övervunnit.

Hur ska människan nu, i en livsmiljö som levandegörs av en diffus artificiell agens, kunna bemästra världen? Mynnar moderniteten ut i en situation där dunkla och fantastiska icke-mänskliga aktörer återigen utövar inflytande över människan?

När människans livsmiljö framstår veta mer om människan än människan vet om sig själv och där AI allt mer presterar över människors prestationsförmågor, så hamnar vi en ny situation där flera vägar är möjliga.

Ett alternativ är att modernitetens självförståelse bevaras genom att människans kognitiva förmåga höjs eller genom att den pågående tekniska rekonstruktionen av människans livsmiljöer bromsas in.

Ett annat alternativ är att människans självförståelse anpassas så att hennes föreställningar bättre matchar inneboendet av ett kvasi-animerat pågående ingenjörsprojekt. Detta skulle innebära anpassningar till en värld definierad av plötsliga radikala förändringar, plötsliga uttryck av okända fenomen, närvaron av en kraftfull agens som framstår som mer eller mindre dunkel för människans förstånd.

Marticki, Johan (2025). Human agency and autonomy in algorithm-intense environments. Doktorsavhandling, Acta Universitatis Upsaliensis: Uppsala Studies in Philosophy of Religion.

Avhandlingen är fritt tillgänglig och kan laddas ner från Uppsala universitets digitala vetenskapliga arkiv.