Dødens gab. Ældrebyrden. Det dobbeltdemografiske pres. Uanset betegnelsen er det klart, at sundhedsvæsenet står over for betydelige udfordringer i det næste årti. Med udsigt til en stor stigning i antallet af borgere over 80 år og et faldende antal sundhedsarbejdere vokser behovet for at finde nye løsninger. En af de mest omtalte muligheder er brugen af kunstig intelligens (AI).
Fokus på brug af AI og teknologi afspejles tydeligt i anbefalingerne i Robusthedskommissionen, som anbefaler digitalt først. Også Sundhedsstrukturkommissionen fokuserer på, at datadrevne teknologier som AI kan bruges til screeninger, hurtigere diagnostik og automatisering af arbejdsgange. De fastslår samtidig, at den hastige udvikling medfører et behov for klare rammer for, hvordan de nye teknologier kan anvendes, hvis potentialet skal indfries. Før vi som samfund rider videre på hypebølgen og kaster os ud i en bred (og ureflekteret) implementering, er det både nødvendigt og kløgtigt at nærstudere potentialer og begrænsninger ved AI i sundhedssektoren, som de tager sig ud anno 2024.
Derfor afholdt Algoritmer, Data & Demokrati sammen med forsknings- og innovationscenteret CAI-X i 2023 og 2024 fire vidensfora for at blive klogere på, hvad forskellige grupper mener om AI. Vi samlede klinikere, tekniske forskere, kommercielle udviklere, patienter og pårørende for at tage en dialog om deres forestillinger om og forventninger til AI inden for sundhed. Et tværgående emne hos alle aktører var tillid.
I Danmark har vi høj tillid til myndighederne, især til vores læger og sygeplejersker. Gennem vores samtaler blev det tydeligt, at tillid til teknologi ikke kan tages for givet, især ikke tillid til AI. Særligt fylder tillidsdiskussionen en del for patienter og pårørende. Flere klinikere forventer, at AI vil løfte kvaliteten i sundhedssektoren, men samtidig kræver det en åbenhed til patienter og medarbejdere, for uden dette vil der mangle tryghed og tillid i relationen.
»For at sikre en vellykket og ansvarlig implementering af AI i sundhedsvæsenet foreslår vi følgende tre pejlemærker: Nuanceret debat, samarbejde med alle interessenter og udnyttelse af eksisterende viden«Lantz, Sørensen & Nielsen
Indspark fra patienter understreger, at tillid ofte forskydes fra teknologi mod de mennesker, som bruger og regulerer teknologien. Denne indsigt er vigtig, for det betyder, at tillidsfulde løsninger forudsætter en inddragelse af alle relevante interessenter fra starten. Indsigten er næppe overraskende, for danskernes tillid er primært rettet mod sundhedspersonalet, som de finder mere håndgribelige end teknologien. Samtidig viser det dog, at når teknologiens virke og anvendelse bliver kompleks, gør vi (borgerne) det mere håndgribeligt ved at forskyde tilliden til de personer, vi møder på hospitalet. Netop derfor er det vigtigt at udvikle og implementere AI sammen, så løsninger adresserer det kliniske behov, og så sundhedsarbejderne forstår, kan gennemskue og har tillid til de løsninger, de skal bruge som redskab i deres kliniske hverdag.
Vores vidensfora viser desuden, at der er en afstand mellem AI som revolutionær teknologi og den praktiske virkelighed. AI bliver ofte omtalt som løsningen på problemer, netop fordi den er »intelligent«, men i praksis er man nødt til at begrænse det selvlærende element, og dette misforhold mellem forventninger og praksis er med til at skabe skepsis til teknologien. Debatten om AI i sundhedsvæsenet bør derfor ikke kun fokusere på fremtidige muligheder, men også på aktuelle anvendelser og udfordringer. Her viser Digitaliseringsstyrelsens evaluering af AI-signaturprojekterne, at det ikke er nemt at udvikle og implementere AI, men også, at udfordringerne ændrer karakter gennem processen. I udviklingen er det adgang til data, GDPR og manglende infrastruktur, som udfordrer, og senere opstår også vanskeligheder med adgang til de relevante kompetencer og implementering i daglig drift. Tidligere erfaringer viser dermed, at AI ikke er et nemt quickfix, men en kompleks proces, som løbende ændrer karakter. På papiret er gevinsterne store, men der er behov for en sund balance mellem optimisme og skepsis, så vi opnår et balanceret billede af potentialerne.
Eksempler som digitale prøvesvar og algoritmer med skjult bias viser netop behovet for en nuanceret tilgang til AI. Samtidig har mønstergenkendelsesalgoritmer i brystkræftscreening vist lovende resultater ved at frigøre tid for eksperter. Teknologien skal have plads i sundhedsvæsenet, men det kræver grundig refleksion for at sikre en vellykket (løbende) implementering.
For at sikre en vellykket og ansvarlig implementering af AI i sundhedsvæsenet foreslår vi derfor følgende tre pejlemærker:
1. Nuanceret debat: Politikere og beslutningstagere bør fremme en debat om AI, der ikke kun fokuserer på AI-hypen, men også på de praktiske og etiske udfordringer. En sådan debat skal baseres på både optimisme og skepsis og inddrage erfaringer fra allerede eksisterende AI-projekter.
2. Samarbejde med alle interessenter: Udvikling og implementering af AI-løsninger skal ske i tæt samarbejde med klinikere, udviklere, patienter og pårørende. Dette vil sikre, at løsningerne er praktisk anvendelige og adresserer de reelle behov i sundhedsvæsenet. Samtidig er der brug for at have et menneskeligt perspektiv på AI i sundhed, da tilliden i høj grad opstår og findes mellem mennesker i tillidsopbyggende relationer.
3. Udnyttelse af eksisterende viden: De erfaringer, der er gjort med de første AI-projekter på tværs af landet (f.eks. Signaturprojekterne), bør udnyttes fuldt ud. Dette indebærer en grundig evaluering af, hvad der fungerer, og hvad der ikke gør, samt en løbende tilpasning af strategierne baseret på disse indsigter.
Sundhedsminister Sophie Løhde siger, at vi ikke kan købe os ud af udfordringerne i sundhedsvæsenet, men må gøre noget fundamentalt anderledes. Sundhedsstrukturkommissionen foreslår en fælles strategi for digitalisering og data og en fælles service- og leveranceorganisation (Digital Sundhed Danmark) til at understøtte innovation. Her kan AI oplagt være en del af løsningen, men det kræver, at vi går til opgaven med åbne øjne og en realistisk tilgang. Ved at skabe en nuanceret debat, samarbejde med alle interessenter og udnytte eksisterende viden kan vi sikre, at AI bliver en værdifuld ressource i fremtidens sundhedsvæsen.
Bent Flyvbjergs forskning i megaprojekter viser, at vi mennesker ofte overvurderer de kortsigtede gevinster, som på lang sigt kan vise sig at blive meget dyre. Det har vi set gentagne gange i de sidste ti år på offentlige it-projekter, så lad os sammen skynde os grundigt og involvere de rette aktører, så vi på tillidsfuld vis kan implementere mere AI i sundhedsvæsenet.
Denne kronik er baseret på refleksioner og anbefalinger fra fire vidensfora om AI i sundhedsvæsenet, afholdt af Algoritmer, Data & Demokrati og CAI-X. Det fulde Policy Brief kan læses her: https://algoritmer.org/nyt-add-webinar-og-policy-brief-om-kunstig-intel…;
