AI ska avlasta biståndshandläggare i Lunds kommun

Berätta, vad är det som pågår i Lunds kommun?

– I Lunds kommun kommer vi nu under hösten, tidiga vintern starta en poc för beslutsstöd för våra biståndshandläggare på vård- och omsorgsförvaltningen i Lund, säger Björn Pettersson, projektledare välfärdsteknik, Lunds kommun.

Och vad ska den poc:en undersöka?

– Den ska undersöka hur AI kan stödja våra biståndshandläggare i det här med att ta fram ett biståndsunderlag, beslutsmeddelande med mera. Och vi börjar då med det vanliga; att transkribera mötet med brukaren men också om AI kan formulera och placera in informationen på rätt sätt, och om vi kan kontrollera AI:ns generativa texter på ett sätt som fungerar. 

Är det här någonting som ni har tittat på tidigare, eller har ni hämtat inspiration från andra?

– Vi har under våren och förra året genomfört ett antal workshopar med våra biståndshandläggare. Där har de fått gå igenom vilka möjligheter de skulle vilja se, vilka verktyg de skulle vilja ha och på vilket sätt de skulle vilja jobba som våra verktyg idag inte stödjer. Så vi har en lång lista nu av saker som de vill kunna förbättra i deras arbete. 

Hur kommer ni att testa det här, hur kommer den här poc:en att gå till?

– Biståndshandläggarna har en ansträngd situation redan idag, så vi vill inte belasta dem mer än nödvändigt. Så i början kommer vi ha ett helt parallellt system där vi bara testar. Det kommer att spela in riktiga möten men sen kommer inte det ligga till grund för några beslut. Utan vi kommer bara att jämföra, vad kommer biståndshandläggarna själva fram till och vad kommer det AI-generativa svaret vara? Kan vi kontrollera det på något sätt, kan vi styra vilken information som kategoriseras på vilket sätt. Så ungefär.

Det finns lite olika risker när man tittar på den här typen av beslutsunderlag och beslutsprocesser. Hur tänker du kring dem och hur har ni hanterat dem?

– Det är många risker och det pratas mycket om det. Det första är då att det här är ett beslutsstöd, det ska inte vara AI som fattar beslut. Utan biståndshandläggaren är den myndiga personen som ska besluta. Det finns alltid en risk att det blir automation fatigue eller bias, att man tröttnar lite grand och gärna trycker på knappen. Men det tänker vi att man kan motarbeta med att återinvestera en del av den tid vi tjänar i metodikkurser och löpande diskussioner om det mesta runt handläggningen.

– Sen tror vi också att man behöver ha compliance och bygga in transparensen och följbarheten i systemen. Alla ska kunna följa upp, biståndslagenmåste kunna följa handläggningen. På vilka grunder har AI transkriberat eller valt den här informationen och så vidare. Och fairness tänker vi också, att där kommer det in i två steg. Vi behöver ta fram syntetiska data tillsammans med våra biståndshandläggare och då är det naturligt att samtidigt ta in rättvisebegreppen, med genusperspektiv och språkskillnader, och så vidare. Hur vi ska hantera det när vi tar fram syntetiska data, underlag. Det kommer att vara mycket diskussioner där. Och i nästa steg när vi har ett befintligt AI-system så finns det ju även färdiga fairness-moduler som man kan använda sig av. Så i två steg, där.

Vad ser ni framåt, med den här typen av beslutsunderlag?

– De här workshoparna var väldigt intressanta, som vi hade med våra biståndshandläggare. Det kom fram väldigt mycket förhoppningar om framtiden. Och man får vara ärlig med att det var ett stort missnöje med våra befintliga verksamhetssystem, som man mer ser som ett hinder än en hjälp för sitt arbete. Så det är också första steget till en ny generation verksamhetssystem, som är mindre inlåst och där våra processer styr – det är inte fastlåsta, inbyggda processer eller logiklager som liksom styr vår verksamhet, utan tvärtom. Och handläggarna pratar om en AI-mentor som en äldre kollega som kan stötta dem och samla in kompletterande information, påminna när det är dags att följa upp och så vidare. Det är en oändligt lång lista som det kommer att ta några år att komma igenom. Så är det.

Önskelistan är lång, men en bit på vägen nu?

– Absolut. Man måste börja någonstans och det viktigaste navet i det här är beslutsunderlaget; det är ändå navet som man sen kan bygga på.