Så kan AI i offentlig sektor utmana demokratiska principer

I demokratiska välfärdsstater är förutsägbarhet och transparens grundläggande principer. Som individ ska man genom Sveriges lagar kunna förutse beslut som myndigheter tar och man ska kunna förstå på vilka grunder ett beslut är taget. Dessa principer kan komma att förändras när AI hanterar ärenden inom välfärden, vilket Vanja Carlsson från Göteborgs universitet har forskat på.

Beslutsprocesser inom Arbetsförmedlingen

Hon har i en studie tittat på hur AI-användning påverkar öppenhet och förutsägbarhet i beslutsprocesser inom Arbetsförmedlingen. Vanja Carlsson intervjuade anställda och gick igenom policydokument, rapporter och arbetsmaterial, och kunde konstatera att kalkylerbarhet inte alltid stämmer överens med förutsägbarhet. 

– AI är ett bra verktyg för att generera slutsatser utifrån statistiska data som ålder, kön, utbildning och arbetslivserfarenhet. Samtidigt missar sådana slutsatser mycket av den komplexitet som individuellt anpassade åtgärder kräver, säger hon.  

Två olika sorters kunskap

Kvaliteten i individuella bedömningar härstammar från professionella tjänstepersoners utbildning och yrkeserfarenhet, medan statistiska kalkyler genererar säkra generella bedömningar. Detta är två olika sorters kunskap, där det ännu är oklart vad individbeslut ska grundas på. 

– En del hävdar att AI gör bedömningar mer opartiska eftersom dessa bygger på objektiva data. Andra trycker på att det som i lagens anda menas med förutsägbarhet också måste ta hänsyn till varje individs personliga förutsättningar i nuet, säger Vanja Carlsson.  

Transparens och ansvar

Vanja Carlsson har även tittat på hur AI inom offentlig sektor kan försämra transparensen och minska möjligheten till ansvarsutkrävande. Något som beror på att algoritmerna som AI-verktygen bygger på kan vara svårförstådda, och ibland även otillgängliga. Om det är svårt att redogöra för hur ett AI-genererat beslut är taget, blir det också svårt att peka ut var ansvaret för beslutet ska läggas. 

– Aktörer inom offentlig sektor köper oftast in AI-verktyg från privata företag, för vilka algoritmerna är helt centrala affärshemligheter, säger Vanja Carlsson.