AI, transparens og den kliniske dømmekrafts grænse

En CT-scanning af thorax analyseres af et AI-system. Algoritmen markerer et område som malignitetsmistænkeligt med 87% sandsynlighed. Radiologen ser samme billede, men bemærker samtidig patientens kendte inflammatoriske lidelse og et atypisk mønster, der ikke passer helt.

På akutmodtagelsen alarmerer en sepsisalgoritme på baggrund af vitale parametre og laboratorietal. Systemet anbefaler øjeblikkelig protokolopstart. Patienten fremstår imidlertid klinisk upåvirket og fortæller, at han altid har høj puls ved indlæggelse.

Hvem – eller hvad – har ret?

Det danske sundhedsvæsen har gennem årtier bevæget sig mod øget transparens. Aktivitet registreres, kvalitet måles, forløb standardiseres. Med nye AI-initiativer – beslutningsstøtte, prædiktive modeller og automatiseret journalanalyse – intensiveres denne udvikling.

Intentionen er legitim: høj kvalitet, patientsikkerhed og ansvarlig ressourceanvendelse. Men styringslogikken rummer en tavs forudsætning: at klinisk praksis i princippet kan gøres fuldt gennemsigtig gennem data, dokumentation og algoritmer.

Det er en illusion.

Relationel opacitet som vilkår

Ingen læge har fuld og sikker adgang til patientens indre liv. Ingen patient har fuld adgang til lægens overvejelser. Vi kan spørge, forklare og dokumentere, men vi kan ikke eliminere den uvished, der kendetegner mødet mellem to mennesker.

Man kan formulere det sådan: Intet menneske har fuld, hel og sikker viden om, hvad den anden tænker, føler eller vil. En påstand om det modsatte ville være en ontologisk fejltagelse.

Forståelse er altid fortolkning [1]. Bevidstheder er ikke direkte tilgængelige for hinanden [2]. I klinikken betyder det, at symptomer, billeder, laboratorietal og patientudsagn aldrig taler for sig selv. De skal fortolkes.

Denne grundlæggende utilgængelighed kan kaldes relationel opacitet. Den er ikke en fejl i systemet. Den er et vilkår.

Fra standardisering til reduktion

Sundhedsvæsenets styring bygger historisk på en rationalitet, hvor effektivitet søges gennem standardisering og måling [3]. DRG, kvalitetsdatabaser og indikatorer har givet overblik og mulighed for sammenligning.

Men klinisk kvalitet kan ikke reduceres til det målbare uden tab.

Den kliniske hverdag består af vurderinger under ufuldstændig viden. Diagnostik er sandsynlighedstænkning. Behandling indebærer afvejning af risici, værdier og kontekst. Organisationer fungerer netop gennem løbende meningsskabelse under usikkerhed [4].

Når styringssystemet implicit forudsætter, at kvalitet kan gøres fuldt synligt gennem registrering, opstår en spænding mellem administrativ transparens og professionel dømmekraft.

AI ændrer ikke vilkåret

AI kan analysere enorme datamængder og identificere mønstre, som ingen enkeltperson kan overskue. Den kan øge sensitivitet i radiologi, forbedre risikostratificering ved sepsis og understøtte prioritering i akutmodtagelsen.

Men algoritmen opererer på historiske data og statistiske sandsynligheder. Den kan estimere risiko – ikke forstå patientens situation. Den kan foreslå – ikke tage ansvar.

Når en sepsisalgoritme alarmerer, opstår der ikke mindre fortolkning, men mere. Hvad betyder denne alarm i netop denne kliniske kontekst? Er der komorbiditet, atypisk præsentation, kendte baselineafvigelser? Hvad siger patientens samlede kliniske fremtoning?

Relationel opacitet forsvinder ikke med AI. Den kliniske fortolkningsopgave består.

Hvis AI implementeres under forestillingen om, at usikkerhed kan reduceres til nul, forstærker vi en allerede problematisk transparenslogik. Hvis den derimod forstås som støtte til dømmekraft, kan den være et værdifuldt supplement.

Når uroen melder sig

Mange læger oplever i dag en betydelig administrativ byrde og et dokumentationspres, som kan virke distancerende i forhold til patientkontakten. Denne uro bør ikke alene tolkes som modstand mod forandring. Den kan være en erfaring af, at styringskravene forsøger at overskride en grænse.

Transparens og tydelighed er nødvendige i et offentligt sundhedsvæsen. Men kun indtil deres grænse nås. Der findes altid en rest af uvished i enhver klinisk situation – også når den ledsages af en algoritmisk sandsynlighed i procent.

En nødvendig realisme

Sundhedsvæsenet har brug for data og teknologisk innovation. Men det har også brug for erkendelsen af, at klinisk praksis aldrig bliver fuldt gennemsigtig.

Professionel dømmekraft giver kun mening, fordi situationen ikke er fuldt bestemt på forhånd. Hvis alt kunne reduceres til indikator eller algoritme, ville dømmekraft være overflødig.

Spørgsmålet er derfor ikke, om vi skal have mere transparens og mere AI. Spørgsmålet er, om vi tør anerkende deres grænse.