»Er vi klar til AI i sundhedsvæsenet?«
Det var det ærligt talt store spørgsmål til besvarelse, da Espen Jimenez Solem, som en af oplægsholderne på Yngre Læger og Overlægeforeningens fælles uddannelseskonference om AI, entrede scenen.
Han er klinisk professor på Københavns Universitet og overlæge på Klinisk Farmakologisk Afdeling på Bispebjerg og Frederiksberg Hospital og havde bl.a. indsigter fra eget AI-projekt – Pharmacovigilance by AI Real-time Analyzes (PHAIR) med. Her er formålet gennem AI og massive datamængder langt mere præcist, effektivt og proaktivt at kunne overvåge bivirkningerne ved lægemidler. Og f.eks. fjerne urealistisk højt satte bivirkningstal, som ingen rigtig ved, hvor er kommet fra. Samt komme tættere på personlig medicin ved at risikostratificere på baggrund af alder, komorbiditeter og øvrige faktorer.
Men Espen Jimenez Solem, der er en af initiativtagerne til »Netværk for sundhed og AI«, kom også – som en art svar på oplæggets spørgsmål – med en række mere generelle betragtninger om, hvad der skal til for, at sundhedsvæsenet for alvor bliver klar til AI. Og det handler i høj grad om, at lægerne tager AI til og på sig.
»Vi har trods alt kun et fåtal af gode erfaringer med implementeringer af store AI-løsninger«, lød det fra Espen Jimenez Solem.
»Vi bruger allerede i høj grad AI til formuleringer, overblik, beslutningsstøtte og så videre. Mit store spørgsmål er så: Gør vi det som profession, eller gør vi det som individer? Gør vi det, fordi vi tænker det som en del af lægegerningen at arbejde med AI, eller gør nogle det, fordi de har en personlig interesse for det, hvad end de forsker i det eller selv er computernørd?«.
Svaret kom han selv med.
»Vi gør det meget på individuel basis. Men måske skal vi som profession tænke på det mere professionelt og sikre en helhed og ensartethed. Gå ind og sige, at det er en del at være læge at kunne bruge værktøjet AI, ligesom det nye værktøj engang hed CT-skanner eller stetoskop. Så er det noget, der skal integreres i vores uddannelse og videreuddannelse som speciallæger. Det skal ikke være noget, man lærer på egen hånd mellem vagterne«.
Et rigtig godt billede på, hvor hurtigt AI løber, kan man få ved at se på, hvad EU’s præsident, Ursula von der Leyen, sagde under EU’s budgetforhandlinger i 2025: »Da det nuværende budget blev forhandlet, troede vi at AI først ville nærme sig menneskelig tankegang omkring 2050. Nu forventer vi, at det allerede sker næste år (ugeskriftets oversættelse, red,)«.
»Så vi gik fra en tidsperiode på 25 år til et halvt år i udviklingen af AI-løsninger. Det fortæller rigtig meget om, hvordan vi skal forholde os til det. EU’s forventninger er, at AI vil bidrage til bedre ressourceudnyttelse, mindre administration, mere patienttid, mere præcis diagnostik, mere målrettet behandling og en styrket folkesundhed. Det er forventningerne«, siger Espen Jimenez Solem.
»Men den aktuelle virkelighed, hvis vi ser realistisk på det, er, at vi har fragmenteret data, sådan en uformel brug af AI-løsninger og silodannelser, hvor der er enkelte, der laver noget som sådan nogle punktnedslag uden at se på helheden. Det, vi mangler, er nogle, som kigger på sundhedsvæsnet overordnet og siger, hvor er det AI – og andre nye teknologier – kan gavne mest. Det er dér, vi skal bruge ressourcerne«.
I en kronik skriver Espen Jimenez Solem om, at ingen rigtig ved, hvor AI hjælper patienterne mest. Og at der er brug for en systematisk kortlægning af, hvor AI ville skabe størst patientværdi pr. investeret krone.
Ifølge Espen Jimenez Solem er en række af barriererne altså en manglende national konsensus, uklare ansvars- og beslutningslinjer og mangel på AI-kompetencer. Bl.a. fra læger, fordi der er brug for, at de kaster deres kliniske blik på den stormbølge af muligheder, som AI åbner op for.
»Nu har jeg været med til rigtig mange data science-konferencer og kan se, at de kan alt muligt spændende og cutting edge, hvor de bruger sundhedsdata. Men de har ingen anelse om, hvordan det skal implementeres, eller om det har nogen værdi for patienter, klinikere eller andre. Og så bliver det lidt en øvelse for øvelsens skyld. Vi skal have vores kliniske blik på det, for at det skal give mening.«
Men også manglende tillid til AI. Fra sundhedspersoner, fra jurister og fra patienterne. Et sigende eksempel stammer fra hans eget projekt, hvor de i en spørgeskemaundersøgelse stillede 1.500 borgere spørgsmålet: »Er du tryg ved, at dine sundheds- og journaldata anvendes i avancerede statistiske analyser for at opdage bivirkninger ved medicin?«
98% svarede ja.
Så spurgte de på en lidt anderledes måde: »Er du tryg ved, at dine sundheds- og journaldata anvendes i kunstig intelligens-baserede analyser for at opdage bivirkninger ved medicin?«
Nu var der kun 45%, som svarede ja.
»Men det er jo semantik. AI er avanceret statistik. Men AI gør noget ved os. Vi har mindre tillid og er mere påpasselige. Det samme kan man sige om jurister. I vores projekt har vi brugt to år og flere mio. kr. sammen med Kammeradvokaten på at risikovurdere. Havde vi sagt, at det var statistiske analyser i stedet, så var det gået noget hurtigere«.
Inddragelse af patienterne i udviklingen er i det hele taget afgørende. Det gælder sådan set uanset, om det er AI eller udviklingen af andre dele af sundhedsvæsenet. Noget, vi ifølge Espen Jimenez Solem ikke er særligt dygtige til. Derfor har man også i PHAIR et borgerpanel, »som faktisk har indflydelse på projektet«.
»Vi er tit uenige, men det har virkelig åbnet mine øjne for, hvor langt jeg som forsker og klinisk farmakolog kan være fra patienternes behov. Hvad er det for nogle bivirkninger, vi skal prioritere i vores analyse? Min tanke var, at vi skulle forudsige indlæggelse, dødsfald og svære bivirkninger. Når vi spørger borgerne, så er de mere interesserede i, hvad det er, der gør, at de ikke kan lege med deres børnebørn, sove om natten, passe deres arbejde, eller hvorfor det klør om natten. Det har ændret vores fokus til det mere patientnære«.
Og endelig så er det også helt afgørende, at der foruden kompetencer og løbende kvalitetssikring bliver skabt klare rammer og et klart juridisk ansvar.
»Jeg hørte engang en sige: ,There were no shipwrecks before the ships were invented’. Vi venter stadig på den store AI-katastrofe. Vi ved, at den kommer, men vi ved ikke, hvor stor den bliver, eller hvordan den ser ud. Men ved hver ny innovation, kommer der også en ulykke, og her er det afgørende, at vi på forhånd har afklaret, hvem der har ansvaret, og hvem der har de nødvendige kompetencer til at håndtere konsekvenserne«.
Fakta
Om lægers langsigtede læring med AI
»Det kan godt være, at byrden ved at løse en opgave føles mindre, når du med AI er inde og røre ved de medicinske beslutninger. Så langt så godt. Det er de kortsigtede effekter. Men der er ikke nogen lige nu, der interesserer sig for de langsigtede effekter. Altså, hvilken betydning har det for vores læring, når vi får den her type teknologi ind, så lægen f.eks. ikke længere selv behøver at skrive journalnoter? Måske er der noget læring i den proces selv at sidde og syntetisere den viden, man har fået ind? Måske var det netop den proces, der hjalp til at tage beslutningen om, hvad der skulle ske? Ingen af os ved det. Jeg savner bare det perspektiv, og at nogle forholder sig til den vurdering om, hvad det egentlig er, at vores medicinske beslutninger består af«.
Pernille Just Vinholt, professor og ledende overlæge, Blodprøver og Biokemi, Odense Universitetshospital
Om lægers legitimitet og pres fra eksterne leverandører
»Lægers tilkæmpede autoritet og legitimitet kommer under pres fra nye aktører i sundhedsvæsenet, som ikke har samme forpligtelser og ansvar. Vi ser producenter, som er mest interesseret i at brande et potentiale, for at du kan finde ting lidt tidligere, og at jo flere data, des bedre. Men de undersøger ikke de vigtigste endepunkter, som dødsfald, mobilitet, kliniske forskelle og de negative forskelle ved at måle og veje sig selv hele tiden. Det kan betyde, at lægen ændres til at være den, der agerer på patientens symptomer og risici, til at reagere på det, som computeren har sagt. Hvis der er 500 diagnoser, og du har risiko for dem alle sammen, hvor skal vi så sætte grænsen? Er det den praktiserende læge, som skal sende det videre til specialister? Er det noget, vi skal stemme om som samfund? Det er svært at svare på«.
Christoffer Bjerre Haase, HU-læge, ph.d., forsker og ekstern lektor, Københavns Universitet
Om dystopiske fremtidsudsigter
»Der er nogle, som er meget dystopiske i forhold til AI. Ikke bare mennesker, der sidder i nogle kældre og konspirerer, men nobelpristagere og AI godfathers som Geoffrey Hinton og Yoshua Bengio, som siger, at der er 10-20% risiko for, at menneskeheden simpelthen går til grunde, fordi vi fuldstændig mister kontrollen. Jeg kan godt forstå, hvis der sidder nogle og tænker, at vi bare skal have fuld fart på det her, men der er altså nogle uintenderede konsekvenser, som følger med, så vi bliver altså nødt til at gøre det virkelig gennemtænkt og sikre, at der er nogle retninger som AI ikke går i«.
Christiane Vejlø, techanalytiker og forfatter til bl.a. »Argumenter for mennesker«
Der skal afsættes midler af til at honorere og måle afdelingerne på at udvikle sig inden for AI. Og så mangler der beslutningskraft til at skalere gode projekter nationalt, lyder det fra Camilla Rathcke, formand for Lægeforeningen.
Er det en for uformaliseret måde at gøre det i forhold til at drage nytte og læring i en større skala? Altså, når AI-projekter popper op lokalt, fordi særligt interesserede – og tilpas it-kyndige – får en god idé, allierer sig med en privat aktør og afprøver og vurderer, om det fungerer meningsfuldt. Fremfor en mere centralt styret planlægning.
Det kan man altid diskutere, siger Camilla Rathcke, formand for Lægeforeningen.
»Men jeg tror faktisk, at det er vigtigt sted at starte. I rigtig mange sammenhænge efterspørger vi metoder, redskaber og digitale værktøjer, som skaber værdi og giver mening at anvende i den kliniske hverdag og ikke produkter, der bliver påklistret udefra. Så jeg er ikke så bekymret for det her med, at der foregår en masse forskelligartede projekter og initiativer. Det synes jeg er godt«, lyder det fra Camilla Rathcke.
Men:
»Når man så finder noget, der skaber værdi og giver mening, så er det enormt vigtigt, at det bliver skaleret og måske afprøvet i en større kontekst, før det bliver fuldt ud implementeret nationalt. Her mangler vi noget. Det har vi efterspurgt længe; en beslutningskraft til at beslutte på tværs af landet, at når nogle modeller og metoder virker, så bør det gøres til gængs praksis alle steder. Det er det, vi forventer og håber, at Digital Sundhed Danmark kan understøtte«.
At AI-projekterne opstår der, hvor der er en lokal interesse – og de rette kompetencer – er for Camilla Rathcke sådan set ikke så mærkeligt. Det er ikke så anderledes end ved forskning. Interessen og kompetencerne inden for AI kunne man dog godt med fordel skubbe til fra centralt hold ved at sætte et anderledes fokus end hidtil.
»Vi så gerne, at afdelingerne på en eller anden måde blev honoreret eller målt på, at man forsøger at udvikle sig i kvalitetsarbejde, metodearbejde og AI-redskaber. Men det kræver, at der afsættes midler til det. Det har jo i hvert fald manglet indtil nu«, siger lægeformanden.
Lige nu oplever Camilla Rathcke, at vi står med »fødderne plantet i de første år af en mere gængs brug af AI visse steder i sundhedsvæsenet, og at det kommer til at udvikle sig drastisk«. Der kommer til at ske rigtig meget i de kommende fem år – ikke mindst med en forhåbning om, at man er kommet langt længere med netop at skalere de velfungerende projekter til bredere dele af sundhedsvæsenet.
I samme åndedrag maner hun dog også til en form for besindighed.
»Helt generelt kan jeg godt være lidt bekymret for forventningsafstemningen omkring, hvor meget AI-værktøjerne kan løse i morgen af alverdens problemer. Der er milevid forskel på AI-værktøjer. Selv om du kan bruge AI til at kigge på statistiske patologibilleder, så er det også vigtigt at huske på, at der er meget stor kompleksitet i meget af det, vi laver, og at vi ikke bare kan bruge AI til f.eks. CT-skanninger af lunger, bryst og bughule uden at få en masse støj, som ikke nødvendigvis passer med patientens symptomer. Så der er altså et stykke vej til, at AI styrer sundhedsvæsenet – i Danmark og andre steder«, siger Camilla Rathcke, der samtidig slår fast, at det er vigtigt at holde sig for øje, at AI-værktøjer langt fra »bare« er indkøb og implementering.
»De her komplekse systemer kræver også enormt meget tid efter implementering. Det er systemer, vi i vid udstrækning løbende skal forholde os til. Det vil f.eks. afhænge af populationen, og vi skal hele tiden forholde os til, om den ændrer sig, så et AI-værktøj måske estimerer forkert«.
Lidt længere nede på listen over ting, der kunne bekymre Camilla Rathcke, er hele spørgsmålet om ansvaret. Ansvaret, hvis (eller når) AI fejler. På den store eller mindre klinge. Et emne, som var oppe at vende fra flere sider undervejs på Overlægeforeningen og Yngre Lægers uddannelseskonference om AI.
»Jeg kan sagtens forstå, at læger kan have den bekymring. Og det er også en bekymring, vi hører om: Hvem har egentlig ansvaret for de her redskaber? Men alt det, vi stiller ind på vores hospitaler af isenkram, som skal kalibreres, justeres, korrigeres og testes løbende for, om det måler validt, det har vores driftsherrer selvfølgelig ansvaret for. Det gælder også AI-løsninger. Så jeg er ikke så bekymret for, at vi nu som læger kommer i klemme. Vi anvender allerede i dag mange ting, som vi har tillid til, men som vi trods alt forholder os kritisk til, hvis pengene ikke passer i det samlede sygdomsbillede. Det skal vi selvfølgelig blive ved med – og dokumentere vores valg og fravalg. Det skal nok finde sit naturlige leje«.
