Överläkare Åsa Ingvar: Stora risker med appar som upptäcker hudcancer

Att använda en AI-app för att upptäcka hudförändringar går till såhär: En användare fotograferar sina misstänkta hudförändringar och skickar dem till appen för bildanalys, därefter svarar appen om det finns risk för att förändringen är hudcancer.

Åsa Ingvar, överläkare i hudsjukvård på Skånes universitetssjukhus och docent vid Lunds universitet, ser en problematik med apparna och den ökade användningen av dem.

– Dokumentationen av alla dessa AI-appar är bristfällig. Därmed kan man inte veta hur bra de fungerar. Jag tror att befolkningen har en övertro på att dessa bildanalysappar alltid har rätt, men de känner inte till deras begränsningar. 

AI tränar på vissa hudförändringar

En anledning till Åsa Ingvars app-tvivel är att man i tidigare forskning har sett att nya appar har en tendens att fungera sämre när de används i verkliga livet, jämfört med när de tränas och utvecklas i en dator. 

– AI:n tränar ofta på en specifik uppsättning av bilder på vissa hudförändringar och hudtyper, med en viss typ av kamera och ljussättning. Så om användaren ändrar någon parameter, såsom dålig belysning eller visar upp en hudtyp som AI:n aldrig har sett – då blir AI:n jättedålig eftersom den bara är bra på det dataset som den tränats på. Det är heller inte säkert att AI:n tränar på alla typer av hudförändringar som finns. 

– Och här blir den bristande dokumentationen ett problem. Eftersom ingen vet vilka begränsningar som finns i dataseten, blir det också oklart om patienter och läkare kan lita på resultaten.

Kan överdiagnostisera

Ett annat problem är den potentiella överdiagnostiseringen, där en app indikerar att en person har cancer fast den inte har det. I en nederländsk studie fick en andel av befolkningen använda en hudcancerapp som en del av deras sjukvårdsförsäkrings utbud. Bland personerna i den gruppen hittades några fler fall av elakartad hudcancer jämfört med övriga samhället, men också många fler “onödiga” biopsier som en följd av falska positiva resultat i appen.

– Relationen mellan hur mycket oro man skapar, hur mycket biopsier man tar, och hur många fall av elakartad cancer man hittar, blir lite skev när man släpper apparna lösa på marknaden. 

Åsa Ingvar poängterar att det också finns ett visst moraliskt dilemma när det kommer till godartad hudcancer, det vill säga när en person de facto har sjukdomen men den är inte farlig.

– Det kanske kan låta hemskt men man behöver inte upptäcka allt – många personer går runt med ofarlig hudcancer länge som aldrig leder till sjukdom eller ger några symptom. 

– Det är en svår balansgång det här, men att upptäcka fler fall av ofarlig hudcancer via appar kommer inte nödvändigtvis att minska sjuklighet och dödlighet i hudcancer, men det kommer ganska säkert att skapa ökad oro och kostnader. 

Vad skulle du vilja se att svenska myndigheter gör på området?

– Det måste till ökade kontroller och krav, där alla kommersiella appar som används är noggrant dokumenterade och testade. En slags certifiering på att appen fungerar som den ska.

Om detta inte blir fallet ser Åsa Ingvar ett scenario där ännu fler oroliga patienter kommer att vända sig till sina appar. Apparna kommer i sin tur larma om misstänksamma hudförändringar och att den inte kan utesluta cancer.

– Nästa steg blir då att patienten går till läkaren och berättar vad appen säger. Detta kan läkare i sin tur påverkas av – det skapar en osäkerhet eftersom ingen läkare vill ha fel när det gäller hudcancer. 

– Det blir en kedja av events som resulterar i att tilliten till läkarna kan minska och en ökad mängd dyra och onödiga biopsier. Detta kommer i sin tur leda till längre köer för dem som verkligen behöver vård för hudcancer.