Delrapport om svensk AI-regulatorisk sandlåda klar: "Komplicerat"
Foto: Imy, Adobe stock
Som ett initiativ inom Esam har Bolagsverket, Skatteverket, Arbetsförmedlingen och IMY arbetat med ett pilotprojekt av en AI-regulatorisk sandlåda. Nu är den första delrapporten av projektet publicerad, och några av insikterna är att gränsdragningar av AI-system kan vara komplicerade, och att det är vitalt att identifiera vilken risknivå ett AI-system tillhör.
Det myndighetsgemensamma pilotprojektet har som syfte att öka kunskapen om hur AI-regulatoriska sandlådor ska fungera i Sverige. EU:s AI-förordning ställer nämligen krav på att varje medlemsstat ska ha en sandlåda där AI-system kan tränas och testas i en kontrollerad miljö, innan de tas i bruk.
– Det är bara genom att testa, lära oss och göra om som vi kan skapa förutsättningar för en effektiv innovationsfrämjande regulatorisk sandlåda. Vi myndigheter har en viktig roll att vara proaktiva och ge vägledning, på så sätt ökar vi chanserna till ett hållbart digitaliserat Sverige med stor konkurrenskraft, säger Carin Sundhage, vikarierande stabschef på IMY.
Under våren har man genomfört en inledande iteration av projektet, som lett till ett antal insikter:
- Det kan vara komplicerat att dra gränserna för omfattningen av ett AI-system, det vill säga vad som är en del av systemet och vad som inte är det. Det avsedda ändamålet för systemet bör stå i centrum.
- En central fråga är att identifiera vilken risknivå ett AI-system tillhör. Det är särskilt betydelsefullt om systemet är ett så kallat högrisksystem, på grund av de särskilda krav som ställs på dessa system.
- Ett tvärfunktionellt arbetssätt är avgörande; en mindre arbetsgrupp som är aktiv ger bättre samverkan. Den kontinuerliga dokumentationen är viktig för att kunna gå tillbaka till tidigare resonemang.
David Magård, strateg på Bolagsverket, kommenterar arbetet:
– I offentlig förvaltning måste vi ta stöd av varandra och jag tycker att det här är det bästa sättet. Det är ofta när man kommer ned på detaljnivån som man kommer till nödvändig konkretisering. Jag tycker att vi lyckas påvisa flera av de övergripande otydligheterna med AI-förordningen, men också ett sätt att hantera dem. Och kanske också att det i vissa delar är en förordning som har fått ett rykte om sig att vara mer ingripande, än den nog kommer att vara, säger David Magård, strateg på Bolagsverket.
Projektet kommer att fortsätta med nya iterationer under hösten.
Läs mer om ämnet:
