Är demokratiska datorer verkligen önskvärt?

Foto: Steve Johnson/Unsplash
Ludvig Beckman

Svaret beror både på vad vi menar med artificiell intelligens (AI) och demokrati men också på vilka sammanhang som avses. AI består av algoritmer som utför beräkningar och används till exempel flitigt för att styra och anpassa innehållet i sociala medier. Om det leder till att medborgaren får ”mer av samma” eller blir utsatt för förenklade och extrema budskap, kan det vara ett problem för en upplyst offentlighet.

Ett helt annan fråga är hur demokratin påverkas när AI blir ett verktyg för offentligt beslutsfattande. Skulle det vara ett demokratiskt problem om en myndighet tar ett beslut med hjälp av en algoritm i stället för att basera beslutet på en tjänstemans bedömning?

Det är knappast ett problem att ett myndighetsbeslut tas med stöd av en AI som utgörs av algoritmer som utför beräkningar utifrån givna parametrar. Mer utmanande är tanken att offentliga beslut tas av en AI med kapacitet för maskininlärning utan att någon människa deltagit i beslutet.

För att ringa in frågan behöver vi skilja på AI i den enkla betydelsen av ett program som ger ett förutbestämt svar givet bestämda parametrar och AI i den mer avancerade betydelsen av ett program som har förmågan att förbättra sig själv och därför ge svar som inte är förutbestämda. Det senare kallas också för maskininlärning. En ytterligare distinktion är mellan AI som beslutsstöd och AI som ersättning för mänskligt beslutsfattande. Endast i det senare fallet är det AI som beslutar.

Det är knappast ett problem att ett myndighetsbeslut tas med stöd av en AI som utgörs av algoritmer som utför beräkningar utifrån givna parametrar. Mer utmanande är tanken att offentliga beslut tas av en AI med kapacitet för maskininlärning utan att någon människa deltagit i beslutet. I en sådan situation går det inte att få svar på varför beslutet blivit som det blivit, förutom att det är vad ”maskinen” kommit fram till.

Det finns alltså en risk att maskininlärning som ersätter mänskligt beslutsfattande undergräver principen att demokratiska beslut ska vara möjliga att försvara inför alla medborgare.

I det fallet utmanas föreställningen att demokratiska beslut får sin moraliska särställning av att vara grundade på offentligt tillgängliga skäl. Till skillnad från auktoritära politiska system, utgår demokratin från att den makt som utövas av staten och andra offentliga organ ska vara möjlig att försvara inför alla medborgare. Men för att det ska vara möjligt, måste offentliga beslut baseras på skäl som är tillgängliga för den enskilde. Utan tillgång till skälen för ett beslut går det inte att begripa varför beslutet blivit som det blivit. 

Det finns alltså en risk att maskininlärning som ersätter mänskligt beslutsfattande undergräver principen att demokratiska beslut ska vara möjliga att försvara inför alla medborgare.

Samtidigt går det att invända mot den slutsatsen. Det är till exempel inte självklart att ett beslut som tagits av en människa alltid är baserat på tillgängliga skäl. Många enkla beslut tas snarast på rutin. En annan möjlig invändning är att en ökad användning av AI erbjuder stora fördelar. Det blir inte bara billigare men också mindre risk för felaktiga beslut. Är det verkligen viktigare att få tillgång till skälen för ett beslut än att beslutet är effektivt och korrekt? Dessa normativa frågor behöver studeras närmare om vi vill försäkra oss om att AI används på ett sätt som är förenligt med demokratins principer.

Läs mer:

Beckman, Ludvig; Rosenberg Hultin, Jonas; Jebari, Karim, 2022. ”Artificial intelligence and democratic legitimacy. The problem of publicity in public authority”, AI and Society (open access).

  • Professor i statsvetenskap vid Stockholms universitet och Institutet för framtidsstudier.

Bidra till att främja filosofins roll och närvaro i samhället.

Foto: Kamil Klyta/Unsplash
Ursäkter, och moralisk reparation i allmänhet, är en ofrånkomlig del av våra gemensamma etiska liv. Därför är de värda att undersöka filosofiskt.
Elsa Magnell
De antika stoikerna lärde att människan skulle stå oberörd inför världens flyktiga händelser. Bo Lindberg skriver här om den romerske statsmannen och filosofen Seneca, som förde vidare stoicismens filosofi.
Bo Lindberg
Foto: Nathalia Segato/Unsplash
Under 1900-talet vande vi oss vid att tänka på ”mänskliga rättigheter”. Kanske borde vi på ungefär samma sätt börja tänka på naturens rättigheter? Filosofen Patrik Baard och juristen Yaffa Epstein resonerar kring om, och i sådana fall hur, rättigheter kan vara ett lämpligt sätt att erkänna naturvärden.
Patrik Baard, Yaffa Epstein
Är AI en ny form av agens som påverkar människor? Vad gör denna nya teknologi med vår relation till oss själva, varandra och det icke-mänskliga? Johan Marticki forskar om vad som händer med mänsklig agens i en värld som blir alltmer fylld av algoritmer och AI. Här berättar han om tematiken i sin nypublicerade avhandling.
Johan Marticki
Foto: Sint-Katelijne-Waver
Augustinus av Hippo är en av historiens viktigaste teologer. Han vördas som helgon i flera av de största kyrkorna och hans skrifter studeras än i dag flitigt i humanistiska ämnen. Martin Westerholm skriver om vad vi kan lära oss av Augustinus filosofi.
Martin Westerholm
Foto: aitac/Unsplash
Alla har någon gång i livet upplevt kärlek – antingen genom att älska eller bli älskade. Men vad är kärlek egentligen? För att hitta svar vänder sig Felix Maier till de antika grekiska filosoferna.
Felix Maier
Foto: Oscar Chevillard/Unsplash
På 1950-talet utforskade Maurice Merleau-Ponty det litterära skrivandet genom närläsningar av romankonstens stora mästare. Han fann att litteraturen för oss närmare den verklighet som skildras. Lovisa Andén skriver om tänkaren som bröt med Jean-Paul Sartre och förenade modernismens litteratur med fenomenologins filosofi.
Lovisa Andén
Foto: Wikimedia Commons (CC BY-SA 4.0)
Mikael Johansson har gjort den första översättningen av Marcus Aurelius ”Självbetraktelser” på över hundra år. Här berättar han om den romerske kejsarens stoiska livsfilosofi och om vad vi kan lära oss av stoikerna i dag.
Mikael Johansson
Foto: Joshua Kettle/Unsplash
Hur kan vi egentligen veta någonting? Det har nog varit den mest centrala frågan inom epistemologin sedan Platon. En av de största debatterna handlar om huruvida kunskap är ett normativt begrepp eller inte. Balder Ask Zaar ger här en överblick av debatten och sina skäl för varför kunskapsbegreppet i slutänden inte är normativt.
Balder Ask Zaar
Faltonia Betitia Proba, född i Rom omkring år 320, betraktas i dag som den första kristna kvinnliga poeten. Sigrid Schottenius Cullhed berättar om Probas liv och gärning – och om hur hon under senantiken förde samman kristendomen och den romerska traditionen.
Sigrid Schottenius Cullhed