Svaret beror både på vad vi menar med artificiell intelligens (AI) och demokrati men också på vilka sammanhang som avses. AI består av algoritmer som utför beräkningar och används till exempel flitigt för att styra och anpassa innehållet i sociala medier. Om det leder till att medborgaren får ”mer av samma” eller blir utsatt för förenklade och extrema budskap, kan det vara ett problem för en upplyst offentlighet.

Ett helt annan fråga är hur demokratin påverkas när AI blir ett verktyg för offentligt beslutsfattande. Skulle det vara ett demokratiskt problem om en myndighet tar ett beslut med hjälp av en algoritm i stället för att basera beslutet på en tjänstemans bedömning?

Det är knappast ett problem att ett myndighetsbeslut tas med stöd av en AI som utgörs av algoritmer som utför beräkningar utifrån givna parametrar. Mer utmanande är tanken att offentliga beslut tas av en AI med kapacitet för maskininlärning utan att någon människa deltagit i beslutet.

För att ringa in frågan behöver vi skilja på AI i den enkla betydelsen av ett program som ger ett förutbestämt svar givet bestämda parametrar och AI i den mer avancerade betydelsen av ett program som har förmågan att förbättra sig själv och därför ge svar som inte är förutbestämda. Det senare kallas också för maskininlärning. En ytterligare distinktion är mellan AI som beslutsstöd och AI som ersättning för mänskligt beslutsfattande. Endast i det senare fallet är det AI som beslutar.

Det är knappast ett problem att ett myndighetsbeslut tas med stöd av en AI som utgörs av algoritmer som utför beräkningar utifrån givna parametrar. Mer utmanande är tanken att offentliga beslut tas av en AI med kapacitet för maskininlärning utan att någon människa deltagit i beslutet. I en sådan situation går det inte att få svar på varför beslutet blivit som det blivit, förutom att det är vad ”maskinen” kommit fram till.

Det finns alltså en risk att maskininlärning som ersätter mänskligt beslutsfattande undergräver principen att demokratiska beslut ska vara möjliga att försvara inför alla medborgare.

I det fallet utmanas föreställningen att demokratiska beslut får sin moraliska särställning av att vara grundade på offentligt tillgängliga skäl. Till skillnad från auktoritära politiska system, utgår demokratin från att den makt som utövas av staten och andra offentliga organ ska vara möjlig att försvara inför alla medborgare. Men för att det ska vara möjligt, måste offentliga beslut baseras på skäl som är tillgängliga för den enskilde. Utan tillgång till skälen för ett beslut går det inte att begripa varför beslutet blivit som det blivit. 

Det finns alltså en risk att maskininlärning som ersätter mänskligt beslutsfattande undergräver principen att demokratiska beslut ska vara möjliga att försvara inför alla medborgare.

Samtidigt går det att invända mot den slutsatsen. Det är till exempel inte självklart att ett beslut som tagits av en människa alltid är baserat på tillgängliga skäl. Många enkla beslut tas snarast på rutin. En annan möjlig invändning är att en ökad användning av AI erbjuder stora fördelar. Det blir inte bara billigare men också mindre risk för felaktiga beslut. Är det verkligen viktigare att få tillgång till skälen för ett beslut än att beslutet är effektivt och korrekt? Dessa normativa frågor behöver studeras närmare om vi vill försäkra oss om att AI används på ett sätt som är förenligt med demokratins principer.

Läs mer:

Beckman, Ludvig; Rosenberg Hultin, Jonas; Jebari, Karim, 2022. ”Artificial intelligence and democratic legitimacy. The problem of publicity in public authority”, AI and Society (open access).