Digital behandling skal være patientsikker
Digital sundhedsfaglig behandling kan som udgangspunkt anvendes i hele patientforløbet – fra udredning og diagnostik til behandling, opfølgning, monitorering og afslutning.
Det afgørende er, at behandlingen er faglig forsvarlig og kan gennemføres patientsikkert.
Ved brug af digitale løsninger bør der særligt tages stilling til:
- Om behandlingen kan gennemføres teknisk sikkert, så fortrolighed overholdes, patientidentifikation sikres og behandlingen ikke afbrydes utilsigtet.
- Om behandlingen sker fagligt forsvarligt, så gældende lovgivning og faglige retningslinjer overholdes.
- Om behandlingen er et fagligt forsvarligt alternativ, når du ikke ser patienten ved en fysisk konsultation/indlæggelse.
- Om behandlingen gennemføres at både sundhedspersonen og patienten og at begge har de nødvendige kompetencer til at anvende den digitale løsning til behandlingen.
Ansvar ved brug af kunstig intelligens AI
Kunstig intelligens kan i mange forskellige former anvendes som en del af digital sundhedsfaglig behandling, fx som støtte ved diagnostik, vurdering af patientdata eller planlægning og opfølgning på behandling.
Når AI bruges i behandling, vil en anbefaling, analyse, screening eller andet fra et AI-system altid skulle ses som beslutningsstøtte. AI kan ikke erstatte sundhedspersonens eget faglige ansvar.
Den behandlingsansvarlige sundhedsperson skal altid kunne stå på mål for sin endelige vurdering eller beslutning, det gælder også, når man har anvendt oplysninger m.v. fra et AI-system. Der skal derfor være relevant menneskelig sundhedsfaglig kontrol med AI-anbefalinger m.v., der bruges som led i behandling i sundhedsvæsenet.
Det betyder bl.a. at sundhedspersonen skal foretage en selvstændig faglig vurdering af, om AI-systemets anbefaling eller lignende er relevant og forsvarlig i den konkrete situation.
Flere kan have et medansvar
Afhængigt af den konkrete situation kan fejl være knyttet til flere aktørers handlinger eller ansvarsområder.
Det kan fx være:
- Den behandlende læge, tandlæge eller anden sundhedsperson, hvis en AI-anbefaling følges uden tilstrækkelig faglig vurdering eller kontrol.
- Behandlingsstedet eller den faglige ledelse, hvis der eksempelvis mangler forsvarlige procedurer for brugen af AI, relevant oplæring af personalet, tilsyn eller kvalitetssikring.
- Udvikleren eller leverandøren af AI-systemet, hvis en fejl skyldes designfejl, utilstrækkelig testning eller andre mangler ved produktet.
Der skal derfor altid foretages en samlet vurdering af, hvem der har handlet, hvilke opgaver og ansvarsområder de enkelte aktører har haft, og hvad der konkret har ført til en eventuel fejl eller risiko for fejl.
Hvis en behandling med brug af AI viser sig at være fagligt forkert
Hvis en behandling viser sig at være fagligt forkert, vil det bl.a. være relevant at undersøge:
- Hvad der var årsagen til fejlen
- Om AI-systemet blev anvendt inden for sit tilsigtede formål og i overensstemmelse med de tekniske anvisninger
- Om der var passende menneskelig kontrol med AI-systemets anbefalinger eller lignende
- Om den sundhedsfaglige vurdering og den efterfølgende opfølgning var fagligt forsvarlig
- Om behandlingsstedet havde sørget for den nødvendige oplæring, instruktion, tilsyn og kvalitetssikring i forbindelse med brugen af AI
- Om leverandøren eller producenten havde givet tilstrækkelige oplysninger om systemets begrænsninger og risici
- Om der var fejl i selve AI-systemet, og hvilken betydning disse fejl havde for behandlingen.
Spørgsmål om ansvar for selve AI-produktet og reglerne for medicinsk udstyr hører under Lægemiddelstyrelsen, som er tilsynsmyndighed på området.
Tilsyn med digital sundhedsfaglig behandling
Styrelsen for Patientsikkerhed fører tilsyn med sundhedspersoner og behandlingssteder, der tilbyder digital sundhedsfaglig behandling.
Det gælder bl.a. når der anvendes videokonsultation mellem sundhedsperson og patient, eller når en behandlende læge fremsender scanningsbilleder eller måleresultater til en anden sundhedsperson, som på baggrund af det fremsendte kan stille en diagnose til brug for den videre behandling.
Observationer fra tilsyn med digitale behandlingssteder
Vi har ved tilsyn med digitale sundhedsfaglige behandlingssteder observeret, at digital sundhedsfaglig behandling kan have fordele, fx i forhold til tilgængelighed og effektiv udnyttelse af både patientens og behandlerens tid.
Vi har imidlertid også set en del eksempler på, at der ikke har været tilstrækkeligt gode arbejdsgange for bl.a. indhentelse og journalføring af informeret samtykke.
Der har i flere tilfælde været manglende beskrivelser af behandlingsstedets organisatoriske rammer, ansvarsforhold og kompetencer. Der har også været eksempler på mangelfuld opfølgning på medicinsk behandling og utilstrækkelig journalføring, fx vedr. diagnostik.
Endelig har der været eksempler på uklarhed om, hvordan der sikres sammenhæng mellem patientens behandling varetaget ved det digitale behandlingssted og den behandling, patienten modtager hos andre parter, fx patientens praktiserende læge.
Rapport om udvikling af sundhedsfaglige tilsyn med digitale behandlingssteder (PDF)