Hur kommer utvecklingen av artificiell intelligens (eller AI) att påverka våra liv?

Många förändringar ser lovande ut. Kanske kommer självkörande bilar att effektivisera trafiken och minska utsläpp? Dessutom kan maskiner inte vara berusade! Och om man nu blir påkörd ändå kan maskininlärning användas för att ställa snabbare och mer pålitliga medicinska diagnoser.

En ökad användning av AI medför dock risker. Ett välbekant domedagsscenario är att AI:n tar över, reducerar oss till en billig energikälla och tvingar oss att slå tillbaka i våra skinnjackor och solglasögon. Men även i en nära framtid kan det uppstå allvarliga problem som (tyvärr) inte går att lösa med kung fu eller slow motion.

Användningen av AI-teknologi som stöd för att fatta viktiga beslut ökar fort. Automatiserade system som förlitar sig på maskininlärning och enorma databaser spelar en allt större roll i beslut om bland annat anställning, sociala bidrag, försäkringar, och borgen. Problemet är att sådana beslutsalgoritmer kan bli för komplexa för oss att förstå. Det sägs att till och med experter inom maskininlärning och AI inte riktigt vet hur automatiserade system kommer fram till sina beslut. Sådana system kan alltså anses vara ogenomskinliga på ett väldigt radikalt sätt.

Denna ogenomskinlighet skapar oro. Först och främst är det rätt frustrerande att få viktiga beslut utan förklaring (Varför älskar du hen mer än mig? Det bara är så! Suck/usch…). Men frustrationen pekar också ut ett reellt etiskt problem: om vi inte vet hur anställningssystemet tar beslut, hur kan vi då veta att beslutet inte baseras på den sökandes kön, social bakgrund, ras eller läggning?

Utöver dessa farhågor finns det även problem som handlar om hur ogenomskinliga beslutssystem kan undergräva vår autonomi.

En central tanke inom moralfilosofi, politisk filosofi, statsvetenskap och lagstiftning är att det är viktigt för människor att få vara autonoma, det vill säga att man får forma sitt liv i enlighet med sina egna preferenser, övertygelser och villkor. En sådan typ av autonomi anses av många vara en unik mänsklig förmåga. Man kan plugga matte för att man vill bli ingenjör och utveckla miljövänliga bränslealternativ. Man kan spara pengar för att köpa en bostad i ett visst område. Och så vidare.

Ogenomskinliga beslutsunderlag kan undergräva den typen av autonomi på åtminstone två sätt. För det första kan ogenomskinlighet i system som utarbetar beslutsunderlag hota autonomin hos experten som använder sig av systemet. Vidare kan den hota autonomin hos personen som det fattas beslut om. Det första hotet har diskuterats mycket inom filosofin. Det andra hotet har diskuterats betydligt mindre (den enda systematiska diskussionen råkar vara en artikel av mig). Detta trots att det andra hotet framstår som allvarligare.

Expertens autonomi anses vara hotad på följande sätt: När experten använder en automatiserad beslutsalgoritm som är för komplex för experten själv att förstå, så förlorar hen översikt över grunderna för beslutet. Kanske systemet rekommenderar ett beslut som experten inte skulle hålla med om, givet att experten hade full tillgång till informationen som låg till grund för rekommendationen. Även om hens jobb kan bli lättare, så kan experten inte längre utforma beslut enligt sina övertygelser och sin egen expertis. För experten är det just dess autonomi som expert som undermineras.

Oftast är vi dock i rollen som den som beslutet tas om, inte experten som använder sig av AI-systemet. I rollen som den som berörs av beslutet kan vår autonomi undergrävas på ett mer genomgripande sätt.

Anta att det var helt oklart hur det svenska universitetsantagningssystemet fattar beslut. Ingen visste vad som påverkade dina chanser att komma in på utbildningen du söker. Det skulle innebära att du inte kunde förbereda din ansökan på ett effektivt sätt. Ska man satsa på naturvetarprogrammet eller humanistiska programmet om man vill plugga statsvetenskap? Ingen vet! Och, eftersom systemet är för komplext att förstå, finns det ingen som kan veta heller. Systemets ogenomskinlighet skulle undergräva din förmåga att planera ditt eget liv.

Samma problem kan uppstå för ansökningar om bolån, sociala bidrag, jobb, och så vidare. Ju mer ogenomskinliga sådana beslutssystem blir, desto svårare blir det för oss att på ett effektivt sätt förbereda ansökningar. Många av dessa beslut får en enorm påverkan på den enskildes liv. Var vi bor, vad vi pluggar, vilka jobb vi har och vem vi jobbar med är saker som är grundläggande för vår identitet. Till slut blir det inte bara vår autonomi som expert, student eller bostadsägare som undergrävs, utan vår autonomi blott och enkelt.

Eller ännu mer dramatiskt: Vår autonomi som människor, vår förmåga att vara en genomtänkt och ansvarsfull person, skulle ständigt undergrävas av ogenomskinligt beslutsfattande.

I viss mån är vi alla bekanta med det här problemet. Vi är sällan 100 procent säkra på vilken strategi som bäst passar våra mål. Ibland är det vårt eget fel att vi inte hade relevant information, som när vi inser att vi inte läste utlysningen till anställningen ordentligt. Ibland är konsekvenserna obetydliga, som när vi borde ha passat bollen snarare än att skjuta. Men ibland är konsekvenserna stora. Om samhället förlitar sig på ogenomskinligt beslutsfattande för alltmer betydelsefulla beslut riskerar vi att hamna i en situation där vi förlorar alltmer kontroll över hur vårt liv ser ut, utan att alls veta hur vi borde ha handlat.