Forskning i filosofi och etik är en sak. Forskning om filosofi och etik är en annan. Till exempel har forskare vid KTH/RISE undersökt de etiska ramverk som nordiska länder har anammat i sina strategier på AI-området. Deras forskningsfrågor är inte vilka etiska ramverk som är att föredra, utan om och i vilken utsträckning länderna har anammat ramverken. Jacob Dexe (@dexe) är doktorand vid Kungliga Tekniska högskolan och forskar om transparens i algoritmiskt beslutsfattande. Här skriver han om hur etiska principer representeras i de nordiska ländernas AI-strategier, och om man genom strategierna lyckas förmedla hur man genom att skapa mer etiskt hållbar AI kan få en konkurrensfördel.

Man skulle kunna säga att teknikbranschen är rådvill inför både informella och formella krav på att fatta beslut med hjälp av algoritmer på ett ansvarsfullt sätt. Till del beror det på tekniken: Det går inte att fullt ut förstå eller förklara vad tillräckligt avancerade artificiella intelligenser faktiskt baserar sina beslut på. Därmed blir det också svårt att säga hur man ska säkerställa att sådana AI-beslut är etiska eller att konsekvenserna av att använda dem är acceptabla. 

Inom filosofin, liksom inom humaniora och samhällsvetenskap i stort, råder det delade meningar gällande vilka etiska ramverk som kan och bör appliceras. Och för vad och vem de bör gälla. 

För att försöka få en fördel i den internationella konkurrensen har länder och internationella samarbetsorgan tagit fram olika strategier och verksamhetsplaner för AI-området. De täcker frågor som företagsklimat, spetsforskning, rekrytering och utbildning, och i flera fall även frågor om etiska principer och modeller. 

2018 uttalade Nordiska rådet att: ”Countries that are successful in utilising and realising the benefits of AI, while managing risks responsibly, will have advantages in international competition and in developing more efficient and relevant public sector activities.” Det vill säga: Det finns en konkurrensfördel att ta tillvara på för de nordiska länderna i att bli först och bäst på etisk och hållbar AI. 

Det stora frågan (nåja), är då: Återspeglar de nordiska AI-strategierna denna potential? 

I artikeln Nordic lights? National AI policies for doing well by doing good analyserar vi strategier från Danmark, Finland, Norge och Sverige utifrån vilka etiska principer som reflekteras och i vilken omfattning, samt om länderna har försökt att konkretisera den konkurrensfördel som Nordiska rådet talade om. 

För att analysera vilka etiska principer som förekommer använde vi ett ramverk som tagits fram av Luciano Floridi m.fl, som ett led i att EUs High Level Expert Group (EU HLEG) on Trustworthy AI skulle ta fram sina rekommendationer. Ramverket är en syntes av flera andra förslag till etiska ramverk, och landade i fem principer: göra gott, inte göra skada, rättvisa, autonomi och förklarbarhet (på engelska: explicability) Alltså de bioetiska principerna plus en AI-specifik princip. 

Med ramverket som filter läste vi strategierna och noterade när uttalanden överensstämde med någon av principerna. Om man exempelvis hävdade att AI-användning kommer leda till ekonomisk tillväxt markerades uttalandet som att göra gott. Generellt verkar Sverige luta mer åt att representera göra gott, och autonomi är nästan helt frånvarande. Norge har mer emfas på autonomi och rättvisa, medan Finland och Danmark är tämligen välbalanserade enligt vårt notverktyg. 

Tabeller finns att läsa i detalj i pappret, tillsammans med en omfattande bilaga med noter. 

Angående hur länderna kan realisera konkurrensfördelen med etisk AI var den mest framträdande tanken att man skulle få en fördel av att vara först på bollen. Man skulle också kunna ställa krav på etik i offentliga inköp för att skapa en mer mogen AI-etisk marknad som kan konkurrera internationellt. Andra konkreta åtgärder som föreslås är tydliga standarder och regleringar, framförallt med inriktning på att påverka internationella överenskommelser. Även att ta fram nationella etiska riktlinjer ses som ett sätt att skapa konkurrensfördel. 

När det kommer till kritan är det dock tydligt att strategierna inte är tänkta att vara vägledande i etiska spörsmål. De är oftast framtagna av motsvarande Närings- och Finansdepartement i respektive länder, och prioriterar därmed att beskriva fördelen tekniken kan ge för marknad och myndigheter, snarare än att prioritera vilka etiska konsekvenser AI kan få och hur man hanterar dessa.

Sammanfattningsvis visar vi i artikeln att även om Nordiska rådet säger att etisk AI är, eller kan vara, en komparativ fördel för Norden, så ger inte de nordiska AI-strategierna särskilt mycket belägg för att så skulle vara fallet. Ingen kommer övertygas om att det är en fördel genom att läsa strategierna, om man inte redan är övertygad. I den mån vägledning ges är den implicit och vag, och frågan om hur etisk AI kan bli en konkurrensfördel lämnas till andra att svara på. 

Vidare läsning:

Nordic Lights? National AI policies for doing well by doing good: https://doi.org/10.1080/23738871.2020.1856160

AI4People – An Ethical Framework for a Good AI Society: Opportunities, Risks, Principles, and Recommendations:  https://doi.org/10.1007/s11023-018-9482-5

Europeiska kommissionens High Level Expert Group on Artificial Intelligence rapport ”Etiska riktlinjer för tillförlitlig AI”: https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=60441

Kartläggning av AI-principer från Berkman Klein centre: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3518482