Studier visar: Hudcancer-appar brister i information och märkning

Att tidigt upptäcka hudcancerformen malignt melanom är viktigt, och idag finns det många mobilappar som utlovar snabb och smidig analys av egentagna bilder av leverfläckar och födelsemärken. Men det är svårt för en enskild konsument att veta om apparna håller måttet, konstaterar Åsa Ingvar, som i två studier forskat om AI-baserade appar för självundersökning av hudförändringar.

– För att kunna avgöra om det går att lita på appens kvalitet behöver man som användare få information om hur den är uppbyggd – och det saknas ofta idag, säger Åsa Ingvar.

Studierna genomfördes i Australien, och syftet med dem var dels att undersöka vilken typ av märkning och information som tillverkarna ger kring apparna – dels komma med riktlinjer för hur informationen om apparna bör se ut.

Uppfyllde inte rekommendationer
I den ena studien granskade forskarna 21 AI-baserade dermatologiska mobilappar och kunde konstatera att ingen av apparna uppfyllde helt vanliga märkningsrekommendationer.

– Det är ett bekymmer eftersom man som användare inte får kunskap om apparnas begränsningar, säger Åsa Ingvar.

Som exempel nämner hon att flera av de AI-baserade apparna ofta är ”tränade” på bilder på hudförändringar tagna på personer med ljus hudton, vilket kan göra dem sämre på att analysera bilder från personer med annan hudfärg. Apparna kan också begränsas av att de bara tränats på bilder från en viss typ av kamera, eller om de tränats på för få eller inga bilder alls av vissa hudförändringar.

– Det är välkänt bland utvecklare att AI-appar är känsliga för avvikelser från den data de är tränade på. Men denna kunskap måste även spridas bland användare, oavsett om de är sjukvårdspersonal eller inte, säger Åsa Ingvar.

Låg tröskel
Ytterligare en begränsning är att apparna ofta har låg tröskel när det gäller att varna användarna för hudförändringar.

– Apptillverkarna vill inte riskera att missa till exempel malignt melanom, så de ger hellre rådet att söka vård för ofta än för sällan. Det kan innebära ökad belastning på den mer traditionella vården genom en ökad andel onödiga besök som inte medför ett medicinskt mervärde i form av förbättring av ett sjukdomstillstånd, säger Åsa Ingvar.

I den andra studien tog forskarna hjälp av en expertpanel för att reda ut vilka krav och vilken märkning som bör gälla för AI-baserade dermatologiska appar. Expertpanelen landade bland annat i att det behöver vara tydligt hur apparna testats och tränats, vilka kliniska studier som eventuellt gjorts, och om det finns begränsningar i appen.

– Precis som många andra har jag goda förhoppningar på användandet av AI inom sjukvården. Men AI-baserade appar har begränsningar när det gäller att upptäcka elakartad hudcancer. Förhoppningsvis kan tydligare riktlinjer leda till att kvaliteten höjs, säger Åsa Ingvar.

Vetenskapliga publikationer:
Examining labelling guidelines for AI-based software as a medical device: A review and analysis of dermatology mobile applications in Australia - PubMed (nih.gov)

Minimum labelling requirements for dermatology artificial intelligence-based Software as Medical Device (SaMD): A consensus statement - PubMed (nih.gov)

Källa: Skånes universitetssjukhus.