Kunstig intelligens som journalfører – en trojansk hest?

Brugen af AI-værktøjer breder sig – mindst én ud af syv praktiserende læger i Danmark bruger allerede AI-understøttede tale-til-tekst-modeller, og nu har regeringen planer om at udrulle lignende programmer i stor stil på sygehuse. Programmerne lytter med i konsultationen, analyserer indhold og genererer et journalnotat struktureret efter f.eks. subjektiv, objektiv, analyse og plan (SOAP)-modellen og kan udfærdige henvisninger og attester. Håbet er, at lægen sparer tid, som kan bruges sammen med patienterne. Ved første øjekast fremstår programmerne som værdifulde redskaber, der kan aflaste klinikeren i en fortravlet hverdag. De mange fordele til trods: Vi skal være opmærksomme på de afsavn, faldgruber og dilemmaer, som teknologien introducerer. Vi vil her undersøge to forhold, hvor teknologien påvirker: Lægen selv og læge-patient-relationen.

Lægen selv

Lytteevnen

Lytning er en af lægens kerneopgaver. Vi lytter for at empatisere, samle og fortolke information og stille diagnoser. Det er en aktivt proces, der kræver kognitive ressourcer. Hvordan påvirkes lægens lytteevne, når maskinen »lytter for os« og registrerer meget af det, vi tidligere selv skulle fastholde for at kunne journalføre? Risikerer vi, at vores sanser gradvist sløves, og at opmærksomheden på væsentlige detaljer mindskes?

Journalføring som refleksivt værktøj

Journalføringsprocessen kan føles som en byrde i en travl hverdag, men er langt fra værdiløs. Et større analytisk arbejde starter i det øjeblik, patientens fortælling omsættes til et sammenhængende journalnotat. En række hensyn skal balanceres: jura, læsbarhed, længde og personlig klang. Her tages stilling til, hvilke anamnestiske oplysninger der bør frasorteres, og hvad der skal fremhæves. Disse overvejelser konsoliderer konsultationen i hukommelsen og kan give nye diagnostiske og behandlingsmæssige idéer.

Kort sagt: journalføringen fungerer som et refleksivt værktøj.

Journalføring som læringsproces

Journalføringen fungerer ligeledes som et læringsværktøj for medicinstuderende og yngre læger. Den hjælper med at forankre den strukturerede tilgang til patienten og træner én til at bruge et præcist, fagligt sprog. Desuden kan et journalnotatudkast fra en medicinstuderende eller nyuddannet læge foranledige værdifuld mesterlære fra en ældre kollega. Man kunne derfor frygte, at læringen svækkes, hvis AI udbredes til alle læger og medicinstuderende – uden omtanke for niveau. Hertil kommer, at AI genererede notater i op til et ud af tre tilfælde indeholder fejl [1]. Hvis man ikke selv trænes i at omsætte klinisk information til skrift – kan man så finde maskinens fejl?

Fremmedgørelse

Journalnotater bærer i dag – på godt og ondt – en personlig klang og kan ofte genkendes af både forfatter og kolleger. AI-genererede notater er derimod ofte sprogligt ensartede og monotone. Det menneskelige præg udviskes. Hvordan opleves det at være behandler i et stadig mere højteknologisk sundhedsvæsen? Betyder det noget, når behandleren genfinder notater, der står skrevet i eget navn, men i sandhed er lavet af en algoritme, hvis antagelser og beslutningsprocesser er uforståelige for vedkommende? I juridisk forstand er notatet stadigvæk ens eget, men det sproglige indhold kan opleves som fremmed og maskinelt. Vi risikerer et faldende engagement og meningstab hos brugerne.

Læge – patient-relationen

Fortrolighed, konsultations tilgang og datasikkerhed

Den klassiske læge – patientdyade transformeres i denne tid til en triade med den kunstige intelligens som et nyt medlem. De indbyrdes relationer er til forhandling, og både læge og patient skal forholde sig til den nye part. F.eks. kan det fortrolige rum mellem læge og patient blive påvirket, når patienten er bevidst om, at samtalen optages af kunstig intelligens. Flere mulige udfald kan tænkes, herunder at patienten føler sig overvåget, holder fortrolige oplysninger tilbage eller bliver mere formel. Ligeledes kan det forestilles, at lægen ubevidst begynder at tilpasse konsultationen for at imødekomme maskinens evne til at konstruere det bedst mulige notat.

Hvis systemerne implementeres i større skala, hvilken frihed vil patienten de facto have til at fravælge den kunstige intelligens som tredjepart i konsultationen? Hvis sundhedssystemet tilvænner sig teknologien, vil et fravalg af den risikere at påvirke patienten negativt.

Reduktion af stigma

Interessant er, om AI’s homogenisering af notater kan reducere stigmatiserende journalføring fra lægens side [2]. Et fordomsfrit journalsprog er vigtig af mindst to årsager: Det reducerer bias i beslutningsprocesser og bevarer en opbyggelig relation mellem læge og patient. Patienter har allerede adgang til sygehusjournaler og vil i 2027 også kunne tilgå journaler fra almen praksis. Samtidig skal vi have for øje, at AI selv introducerer nye, subtile former for bias.

Tid og nærvær

Det mest brugte argument for at bruge AI-journalsystemerne er, at det frigør tid, som lægen kan bruge sammen med patienterne. Men hvor meget tid spares egentlig?

De 1-2 minutter [3], der spares på ikke selv at journalføre, skal korrigeres for den tid, man bruger på at indhente informeret samtykke fra patienten samt de aktuelle fejl og mangler ved AI-notaterne, som der skal korrigeres for: AI kan ikke »se« patienten, og værdifuld objektiv information som nonverbale signaler og kliniske undersøgelser fanges ikke op. Nonverbale fortolkninger og beslutninger fra lægens side går ligeledes tabt, og her forsøger AI selv at udfylde huller. Vælger klinikerne at acceptere notatet i sin rene AI-form, vil den tid, der på kort sigt spares, formentlig tabes igen, når den næste behandler orienterer sig i en journal af ringere kvalitet. Spørgsmålet om, hvor meget tid der spares, kan således ikke nemt besvares.

Det er værd at tænke over, hvem en evt. tidsbesparelse vil komme til gode. Vil den skabe et mindre fortravlet arbejdsmiljø for lægen f.eks. ved at øge den reelle tid sammen med patienten? Eller vil den blot afføde en forventning om, at der skal ses flere patienter?

Konklusion

Vi mener, at kvaliteten af AI-baserede journaliseringssystemer stadig er mangelfuld, og implementeringen er præget af overoptimisme og proinnovation bias. Der er grund til at slå koldt vand i blodet set i lyset af det spinkle datagrundlag på området. En nuanceret og velinformeret cost–benefit-diskussion bør finde sted, før man implementerer en teknologi, der ikke nemt kan rulles tilbage, og som risikerer at introducere utilsigtede konsekvenser for den enkelte bruger og systemet som helhed.