Medicinskt ansvar vid AI-stöd: vem ansvarar för vad?

Tre aktörer med olika ansvar

När AI används i vården finns minst tre ansvarsnivåer. Tillverkaren ansvarar för produkten, vårdgivaren för organisationen och legitimerad personal för sin yrkesutövning.

De här nivåerna ersätter inte varandra. Ett produktfel, en bristande införandeprocess och en felaktig klinisk bedömning behöver bedömas var för sig.

Därför blir påståendet att ansvaret alltid ligger hos läkaren för enkelt.

Vårdgivarens ansvar gäller systemet runt beslutet

Hälso- och sjukvårdslagen kräver att verksamheten organiseras så att den ger god och säker vård. Det omfattar bemanning, rutiner, kompetens och uppföljning.

Om ett AI-stöd införs behöver vårdgivaren bland annat bestämma när det får användas, vem som granskar resultatet och hur avvikelser hanteras.

Vårdgivaren måste också följa upp om verktyget fungerar i den egna patientgruppen och det verkliga arbetsflödet.

Yrkesansvaret gäller den kliniska handlingen

Legitimerad personal ska arbeta enligt vetenskap och beprövad erfarenhet. Ett beslutsstöd tar inte bort skyldigheten att göra en självständig bedömning.

Det betyder inte att användaren ska upptäcka varje dolt produktfel. Kravet måste bedömas utifrån utbildning, tillgänglig information och hur systemet har presenterats.

En signatur visar vem som har godkänt journaltext eller ett beslut, men avgör inte ensam hela ansvarsfrågan.

Tillverkaren ansvarar för produktens avsedda funktion

Om programvaran är en medicinteknisk produkt ansvarar tillverkaren för bland annat klassificering, riskhantering, klinisk utvärdering och övervakning efter lansering.

Felaktig prestanda eller bristande instruktioner kan därför vara en produktfråga, inte bara en fråga om hur vårdpersonal använde verktyget.

Vårdgivaren behöver känna till produktens avsedda ändamål och får inte använda den som om den vore validerad för något annat.

Så görs ansvar praktiskt spårbart

Rutinerna bör visa vilken version av systemet som användes, vilket underlag det fick och vad användaren såg. Det ska också framgå vem som fattade beslutet.

Personal behöver kunna avvika från förslaget och rapportera fel utan att arbetsflödet går sönder. Allvarliga signaler ska nå både vårdgivaren och, när det krävs, tillverkaren eller myndighet.

Tydlig spårbarhet skyddar patienten och gör det möjligt att avgöra vad som faktiskt gick fel.