AI-etik i sundhedsvæsenet

Kunstig intelligens (AI) har potentiale til at forbedre diagnostik og behandling og forventes også at kunne afhjælpe konsekvenserne af personalemangel i sundhedsvæsenet. For at indfri de høje forventninger til AI-beslutningsunderstøttende værktøjer kræves en betydelig interdisciplinær indsats, hvor patienten og den kliniske domæneekspert er centralt placeret.

Vi står over for et komplekst dilemma, hvor der er modsatrettede hensyn mellem pres for hurtig implementering af AI i sundhedsvæsenet og behovet for grundig udvikling og testning af AI-værktøjer før ibrugtagning. Etikken spiller en afgørende rolle til sikring af, at AI-anvendelser i sundhedsvæsenet er retfærdige, transparente og respekterer patienternes rettigheder samt privathed. Patienten skal være i centrum for anvendelse af AI i sundhedsvæsenet, og beslutninger, der påvirker behandling og sundhed, skal tages med afsæt i patientens interesse.

På den baggrund giver denne artikel overblik over etiske udfordringer i tilknytning til udvikling og ibrugtagning af AI i sundhedsvæsenet. Ligeledes præsenteres og diskuteres forskellige guidelines og standarder, der proaktivt søger at imødegå etiske udfordringer.

Selv inden for lovende AI-anvendelsesområder som billeddiagnostik viser systematiske reviews [1, 2], at mange studier om AI-værktøjer, der performer bedre end klinikere, ikke er velunderbyggede. Heldigvis er der også fremskridt at spore, som i [3]. Men manglen på prospektive og randomiserede kliniske undersøgelser (RCT’er) og standardiseret rapportering samt inddragelse af underrepræsenterede grupper udgør udfordringer, der understreger betydningen af etik og inklusion i AI-udviklingen inden for sundhedsvæsenet [4].

Det er vigtigt at sikre, at AI-værktøjer er nøje afstemt med de etiske principper, der er relevante for patientpleje og diagnostik, og at de ikke fører til forringelse af patientens sundhed eller kliniske resultater. Derfor er det afgørende at afstemme AI-optimismen med et kritisk perspektiv for at fremme en tilgang til AI i sundhedsvæsenet, hvor patientens velbefindende og etiske principper prioriteres for at sikre ansvarlig og bæredygtig anvendelse af AI i patientpleje og behandling.

Kunstig intelligens i sundhedsvæsenet – etiske udfordringer

AI kan betragtes som en samlebetegnelse, som dækker over systemer, der kan analysere, lære og træffe beslutninger og genererer nyt på samme måde, som vi mennesker gør. AI kan i sundhedsvæsenet alt afhængigt af kontekst fungere med forskellige grader af autonomi fra diagnostisk beslutningsstøtte til brugen af sprogmodeller.

Der er en række etiske problemstillinger i tilknytning til anvendelse af AI-beslutningsstøtteværktøjer i sundhedsvæsenet [5]. F.eks. kan AI-værktøjer være baseret på mangelfulde eller skævvredne datasæt og dermed give anledning til fejlbehæftede output, der diskriminerer bestemte patientgrupper. Et eksempel er, når et dermatologisk AI-værktøj til detektering af malignt melanom trænes på billedmateriale med overvejende lyse hudtyper og derved underdiagnosticerer andre hudtyper [6]. Tilsvarende kan AI-værktøjer bidrage til at forstærke ulighed i sundhed, som det påvises i [7], hvor et amerikansk AI-værktøj fejlagtigt tilskriver en for lav risikoscore til patientgrupper med mørke hudtyper, der påviseligt er mere syge end tilsvarende patienter med lyse hudtyper. Problemet opstår, fordi algoritmen baserer sig på en prædiktion af sundhedsudgifter i stedet for sygdom. Et sådant greb betragtes traditionelt som et effektivt pejlemærke, dvs. en proxy, for præcision i prædiktioner. Men dette gælder ikke for alle patientgrupper, da der historisk grundet systemiske fordomme har været store forskelle i behandlingstilbud i det amerikanske sundhedsvæsen. Når et generelt effektivt pejlemærke anvendes ukritisk, kan dette greb afføde bias. Men det er også en kompleks udfordring at afdække sociale determinanters betydning for helbredet og dernæst afgrænse datasæt samt udvikle modeller til AI-værktøjer, der afhjælper ulighed i sundhed og understøtter inklusion. AI-værktøjer kan således utilsigtet gentage og forstærke forskelsbehandling i sundhedsvæsenet. Endelig kan det, selv med grundighed og de bedste intentioner, være vanskeligt på forhånd at afgøre, hvordan skævvredne modeller kan undgås.

Når AI-værktøjer bidrager med input til beslutninger, er det et afgørende legitimitetshensyn, at AI-bidraget er gennemskueligt, og ansvar kan placeres, ligesom de fleste sætter højere etiske standarder for AI-systemer end mennesker og f.eks. kræver, at AI systemer skal være langt mindre fejlbarlige end klinikere [8]. Transparens betragtes derfor som væsentligt for pålidelig AI, hvilket afspejles i lovgivning og reguleringstiltag [9, 10] samt guidelines [11-13]. Her fremhæves, at vi skal kunne forstå, hvad der foregår i en black-box-model for at kunne have tillid til et AI-systems bidrag til beslutninger.

Det er især vigtigt, at AI-værktøjer ikke giver korrekte svar på et fejlagtigt grundlag. Det kan forekomme, hvis et betydningsløst mærke på røntgenbilleder i et datasæt tilfældigvis medvirker til at generere et korrekt output.

Til fremme af transparens ses »explainable AI« (XAI) som en potentiel løsning [14-16]. Her kan benyttes »black-box explainers«, dvs. modeller, der f.eks. post hoc præsenterer en forklaring af en kompleks models output [17, 18]. Sådanne forklaringsmodeller gengiver ikke 1:1 komplekse modellers indre virkningsmekanismer, eftersom disse ikke afspejler menneskelige måder at ræsonnere på. Men hvis et intransparent AI-værktøj er grundigt empirisk valideret efter RCT-forbillede, så kan en idealiseret eller tilnærmet forklaringsmodel dog siges at tilvejebringe et nødvendigt legitimeringsgrundlag, der understøtter klinikerens ansvar for behandlingen samt bidrager til et informeret beslutningsgrundlag i samråd med patienten.

Omvendt hævder nogle [19, 20], at eftersom XAI er en stående udfordring, så bør AI-performance have forrang over et forlangende om forklarlighed. Sat på spidsen hævder argumentet, at det er vigtigere at redde liv end at kunne tilvejebringe en forklaring af en black-box-model. Imidlertid er det svært at forestille sig og tillige velkendt fra studier [21], at klinikere og patienter vil finde det legitimt, hvis AI-systemer anbefaler en behandling alene med henvisning til, at et AI-system er valideret og pålideligt. Således præsenterer [22] et scenarie, hvor et intransparent, men valideret til at være diagnostisk præcist AI-system rangordner flere behandlingsmuligheder for en patient med brystkræft og anbefaler, at begge bryster fjernes kirurgisk. Her er det ikke tilstrækkeligt blot at vide, at AI-systemet er valideret og pålideligt. Uden yderligere information om, hvordan systemet kom frem til anbefalingen, vil klinikeren i samråd med patienten ikke på ansvarlig vis kunne træffe en beslutning vedrørende behandling.

En kombination af empirisk validerede AI-værktøjer og forklaringsmodeller kan derfor udgøre et tilstrækkeligt legitimeringsgrundlag for ibrugtagning af AI-beslutningsstøttesystemer. Imidlertid er der en konflikt mellem presset for at implementere AI i sundhedsvæsenet versus behovet for omfattende og tidskrævende empirisk validering af sundhedsteknologier, herunder AI-værktøjer. Derfor skal det understreges, at validering af AI-modeller kræver omhyggelige evalueringer og, under implementering af AI, et stramt kontrolregime.

Standarder og guidelines til etisk ansvarlig udvikling

Der findes et væld af tilgange, der anviser, hvordan man proaktivt adresserer etiske problemstillinger og sikrer brugerinddragelse i forbindelse med udvikling, ibrugtagning og evaluering af AI-systemer. På EU-plan er der udviklet retningslinjer og såkaldte Ethics by Design-guidelines med afsæt i grundlæggende rettigheder og etiske principper om respekt for autonomi, forebyggelse af skade, retfærdighed og forklarlighed [12]. Herunder udmøntes krav til udvikling af pålidelig AI, der omfatter krav om menneskelig kontrol, robusthed og sikkerhed, sikring af privathed og datastyring, gennemsigtighed, diversitet, ikkediskrimination, retfærdighed samt ansvarlighed [11]. Tilsvarende fremmer AI-forordningen disse krav, ligesom forordningen indeholder et appendiks med krav til teknisk dokumentation for AI-systemer [10]. WHO fremhæver ligeledes en række værdibaserede designmetoder [13]. Men værdibaserede tilgange er ikke i sig selv nogen garanti for succes. F.eks. har en af de fremhævede tilgange, value sensitive design, kun i ringe omfang bidraget til egentlig systemudvikling [23]. Ofte finder systemudviklere sådanne tilgange alt for overordnede og foretrækker rene tekniske tilgange til f.eks. biashåndtering og privathedsfremmende design [24]. Men når etiske udfordringer alene ses i en teknisk optik, nedtones sociotekniske problemstillinger og kontekstuelle faktorers betydning i klinisk beslutningstagen.

Derfor er den største udfordring for værdibaserede designtilgange og Ethics by Design-guidelines, at der kræves interdisciplinært samarbejde med inddragelse af humanistiske såvel som tekniske samfunds- og sundhedsfaglige kompetencer. I en række systemudviklingssammenhænge kan man indskyde en brobyggerfunktion, der kan bistå i afstemningen af de mange forskelligartede behov og hensyn. Men i kliniske sammenhænge er det desuden nødvendigt, at kliniske domæneeksperter er tæt knyttet til AI-systemudviklingen.

Patienternes inddragelse i AI-udviklingsprocessen er ligeledes af afgørende betydning. Deres perspektiver kan medvirke til at identificere potentielle etiske udfordringer og bidrage til en retfærdig og ansvarlig udvikling og implementering af AI i sundhedsvæsenet. Patientinddragelse kan resultere i, at patientens behov bedre tilgodeses, og at offentlighedens tiltro til forskningen stiger [25]. Ligeledes fremhæver [26] effekt på forskningsprocessen i form af påvirkning af forskningsspørgsmål, og at patientrelevante outcomes medtages. Vogsen et al [27] nævner forbedring af patientinformation og patientrekruttering som konsekvens af patientinddragelse, mens Karlsson et al [28] finder, at patientinddragelse kan løfte kvaliteten af projektet og være med til at give ny viden til forskerne samt en større forståelse for patient- og pårørendeperspektivet. Ud over de nævnte gevinster argumenterer [25] for, at offentligheden bør inddrages ud fra demokratiske og moralske bevæggrunde – udvikling uden dem, det handler om, anses her for uetisk.

Der foreligger desuden en række standarder til dokumentation af kliniske studier, som har tilføjet AI-guidelines, såsom The STARD-AI protocol [29] og The CONSORT-AI extension [15]. Sådanne standarder fremmer transparent og pålidelig AI ved at anskueliggøre kvalitetskrav til arbejdet med data samt træning og validering af modeller. Desuden gives der overblik og guidelines på sitet »Future AI: Best Practices for trustworthy AI in medicine« [30]. Slutteligt kan det nyligt udviklede danske Model for ASsessing the value of AI-evalueringsredskab [16] give administrative og sundhedsprofessionelle ledere en holistisk vurdering af værdien af nye AI-løsninger.

Konklusion

Siden de tidlige 00’ere har vi set en række succesfulde AI-gennembrud båret frem af lettilgængelige enorme datamængder på nettet, forøget computerregnekraft og øget lagringsplads samt gamle og nye teknikker inden for AI. Sådanne succeser kan ikke umiddelbart transformeres til kritiske domæner med komplekse beslutningsprocesser. Det er ressourcekrævende at udvikle og anvende AI i højrisikoområder, hvor fejl er fatale, og data en sparsom ressource.

Ved at integrere kliniske domæneeksperter, patienter og etiske principper i udviklingen og implementeringen af AI i sundhedsvæsenet kan vi skabe pålidelige AI-løsninger, der opfylder de virkelige behov i patientpleje og behandling.