AI-beslutsstöd och diagnos: vad är den juridiska skillnaden?

Börja med vad programvaran är avsedd att göra

Ett system kan sammanfatta text, prioritera ärenden eller ge information som används vid diagnos. Samma teknik kan därför omfattas av olika krav beroende på användningen.

Tillverkarens avsedda ändamål är centralt. Marknadsföring, instruktioner och faktisk funktion behöver beskriva samma produkt.

Att kalla något beslutsstöd gör det inte automatiskt till en lågriskprodukt.

Regel 11 kopplar information till risk

MDR:s regel 11 gäller programvara som ger information för diagnostiska eller terapeutiska beslut. Riskklassen beror bland annat på följden av ett felaktigt beslut.

Programvara kan hamna i klass IIa, IIb eller III när informationen kan bidra till allt allvarligare skada. Annan programvara kan omfattas av en lägre klass.

Klassificeringen måste göras för det konkreta ändamålet. En generell beskrivning av AI räcker inte.

Mänsklig granskning är inte ett frikort

En läkare i loopen kan minska risk, men bara om granskningen är verklig. Användaren behöver förstå resultatet, se relevant källinformation och kunna avvika.

Automatiseringsbias kan göra att en rekommendation följs trots svagt underlag. Tidspress och otydliga gränssnitt kan förstärka problemet.

Säkerheten beror därför både på produkten och på hur vårdgivaren bygger arbetsflödet runt den.

Tillsynen omfattar fler frågor än diagnosen

Läkemedelsverket granskar medicintekniska produkter och deras tillverkare. IVO granskar vårdgivares och legitimerad personals arbete. IMY ansvarar för dataskyddstillsyn.

Samma system kan alltså beröra flera myndigheter. CE-märkning, dataskydd och patientsäkerhet är parallella frågor.

När ett verktyg ändras eller får ett nytt användningsområde kan bedömningen behöva göras om.

Curevos användningsgräns

Hos Curevo används AI för att strukturera patientens uppgifter och förbereda underlag. Patienten ska inte få en AI-genererad diagnos eller behandling utan läkarens granskning.

Det är ett medvetet säkerhetsval för Curevos tjänst. Det ska inte blandas ihop med ett påstående om att all diagnostisk AI är förbjuden.

Varje verktyg behöver dessutom bedömas utifrån sitt avsedda ändamål, sin validering och den miljö där det används.