Så skapar tre AI-verktyg verksamhetsnytta för Läkemedelsverket

Läkemedelsverket verkar för att främja den svenska folk- och djurhälsan och ansvarar för godkännanden och tillsyn av läkemedel, naturläkemedel, samt tillsyn av kosmetika och medicintekniska produkter.

Under de senaste åren har myndigheten utvecklat ett antal AI-verktyg för att stödja regulatoriska uppgifter inom läkemedelsområdet. På MVTE-mässan pratade Gabriel Westman, enhetschef och vetenskaplig ledare på Läkemedelsverkets AI-enhet, om arbetet. 

Undviker läkemedelsförväxling

Ett av verktygen heter Packsim, som genom datorseende ska undvika läkemedelsförväxling. Läkemedelsförpackningar är nämligen ofta relativt lika varandra, så när sköterskor i vården är stressade kan det finnas en risk för felmedicinering.

– När någon aktör kommer till oss med en ny läkemedelsförpackning har det varit svårt att bedöma om den är lik någon annan. Det finns 10 000-tals produkter i Sverige och det är inte så lätt att bläddra genom alla dessa, och samtidigt komma ihåg vad man sett tidigare och så vidare. 

Läkemedelsverket tränar därför en bildmodell på all grafik på läkemedelsförpackningar. Modellen bedömer färger, former och figurer och skapar en bildsökmotor för förpackningar. 

– Om vi får in en ny design nu kan vi säga exempelvis: “Den här är för lik en annan produkt som är helt annorlunda, och det finns en hög risk för patienten ifall dessa skulle blandas ihop. Skruva på er design en aning, byt den där böljande vågen till en annan form eller ändra något annat. Gör ni det så är vi nöjda.”  

Modell för att sortera biverkningsrapporter

Ett annat verktyg är PhavAI - som används för att sortera och prioritera biverkningsrapporter. Under covidpandemin skickades en enorm mängd biverkningsrapporter in till Läkemedelsverket – faktum är att mer än hälften av alla biverkningsrapporter som någonsin har inkommit in till Läkemedelsverket handlar om covidvaccin.  

– Vi hade sedan tidigare en vana av att titta på alla rapporter i lugn och ro, i den takt vi hann med. Detta gick inte under pandemin – och vi kunde inte sålla agnarna från vetet. Här kommer PhavAI in.  

När en person skickar in en rapport fyller hen i om biverkningen är allvarlig eller ej, exempelvis om personen fått bestående men eller har behövts läggas in på sjukhus. Dessa ärenden handläggs med förtur. Majoriteten av alla inskickade rapporter markeras dock inte som allvarliga, men Läkemedelsverket vet att 10-15 procent av dessa uppgraderas till allvarliga när de väl har blivit handlagda.  

Detta kan ske månader eller år senare, speciellt under covidvaccineringen då det rådde sådan “rapportkö”. Därför behövde Läkemedelsverket en triage-modell som kunde hjälpa till med att sortera och prioritera. En sådan modell tar alla ärenden som inte flaggats som allvarliga, läser texten och termerna och gör en prognos över vilka som har högst sannolikhet för att Läkemedelsverket ska uppgradera till allvarliga.  

– Det här är ju inget som går att göra 100-procentigt, utan det är en kvalificerad gissning som man gör tidigt i förloppet. Men vi testade fyra olika modellarkitekturer, lät dem bada i biverkningsspråk, byggde klassificerare och såg att den bästa modellen kunde göra denna bedömning med samma prestanda som våra mest erfarna experter. Så med detta verktyg sparar vi mycket tid och ökar kvaliteten i våra bedömningar.

AI-assistenten Regulus

Myndigheten implementerar också just nu den generativa AI-assistenten Regulus (Regulatory universal support). Här har informationssäkerhet högsta prioritet.  

– Vi vill och kan såklart inte skicka in våra hemligheter i exempelvis Googles Gemini eller OpenAI:s ChatGPT. Vi behöver assistentfunktioner som finns hos oss, på våra servrar, men som ändå kan leverera värde.  

Den första delen i arbetet med Regulus handlar därför om att ta modeller som är fritt tillgängliga inom EU, och flytta in dem i Läkemedelsverkets serverhall på en server som inte är uppkopplad mot internet.  

– På så vis kan vi bygga ett system som gör att användare kan få assistentstöd på ett säkert sätt, där användare kan nyttja modellen i sitt dagliga arbete fastän att det handlar om säkerhetsklassad information och hantering av personuppgifter. 

Därutöver omges tekniken av tydliga processer för att säkerställa kvaliteten, och AI:n får aldrig ha sista ordet. 

– Regulus ska kunna svara på frågor och medarbetare ska kunna ladda in, sammanfatta, översätta och jämföra hela dokument. Men informationen som genereras ska alltid betraktas som ett utkast av en junior medarbetare – informationen kan vara användbar men den ska alltid granskas och kvalitetssäkras. Vi får aldrig anta att AI:n har gjort rätt.