Skip to main content

Hvem tager ansvaret, hvis AI og andre avancerede data ændrer lægens autoritet?

De svære dilemmaer og potentielle problemer ved AI, wearables og andre avancerede datateknologier opstår ikke, når teknologierne tager fejl, men når de på et tidspunkt er gode nok til måske at være korrekte.

cover
Illustration: Bigstockphoto

Christoffer Bjerre Haase, læge. c.haase@sund.ku.dk

9. dec. 2024
5 min.

Historisk set har vi læger som profession været exceptionelt gode til at gøre nye teknologier til vores egne i klinikken. Det skal vi også med kunstig intelligens (AI), wearables og andre avancerede datateknologier. Men måske vi denne gang skal være særligt påpasselige. Ikke fordi data »tager vores job«, men fordi data subtilt, men radikalt kan ændre lægens autoritet og ansvar.

Forestil dig et ekg-apparat, der faktisk analyserer ekg’er korrekt. Samtidig fastslår den diverse risici for den specifikke patient: »Baseret på ekg og risikofaktorerne X, Y, Z har denne patient 5% risiko for sygdom Æ, 12% risiko for sygdom Ø og 25% risiko for Å inden for ti år«.

Eller forestil dig, at du nemt kan anskaffe dig et håndholdt ultralydapparat, der kræver minimale evner at betjene, fordi AI selv kan analysere dine skanninger. Du kan hurtigt og nemt finde fund og risici fra top til tå. Hvem som helst kan gøre det.

Risikoen ved risici

Med avancerede data kan man finde alverdens sammenhænge, som potentielt kan være farlige. Risikovurderingernes korrekthed er svær at validere, fordi den teknologiske og kommercielle udvikling er langt foran forskningen. Men risikovurderingerne kan vise sig at være eller blive korrekte. Indtil nu har lægevidenskaben haft succes med at behandle nogle risici, såsom de kardiovaskulære.

Men hvis vi med avancerede data begynder at måle, diagnosticere og behandle langt flere risici hos langt flere borgere, er det uvist, om de positive behandlingseffekter overstiger omkostningerne hos den enkelte patient og sundhedsvæsenet som helhed. Sundhedsvæsenet kan dårligt håndtere det eksisterende pres, der som jo bekendt vil stige med demografiske ændringer. Når borgere ovenikøbet kan skanne og måle sig selv, enten med egne produkter eller hos private aktører med endnu mere avancerede maskiner, kan sundhedsvæsenet blive nødt til at sige stop.

Men hvis sundhedsvæsenet gennem lægen vælger ikke at undersøge og behandle konkrete risici, som den enkelte patient har målt, vil patienten og de pårørende kunne føle sig svigtet. Borgere bliver jo konstant informeret om at leve sundt, forebygge og reagere på tegn og symptomer. Hvorfor så ikke reagere på deres egne målte risici? Nogle borgere vil med sundhedsforsikringer finde andre veje til behandlinger. Dem, der ikke har den mulighed, vil føle sig endnu mere svigtet.

Lægens autoritet er i forandring

Den udvikling vil lægge et stort pres på læger. Lægens autoritet baserer sig på at være den profession, der bedst kan varetage problemstillinger om sygdom og sundhed. Sås der tvivl om dette, tvivles der på lægens autoritet.

Paul Star har undersøgt lægeprofessionens autoritet over de sidste 200 år i USA. Ifølge Paul Star har læger historisk haft en stigende social og kulturel autoritet. Den sociale autoritet kommer til udtryk i love og regler; det er lægen, der har det juridiske ansvar for at diagnosticere og udskrive medicin, og som i sidste ende har ansvaret for patienten. Den kulturelle autoritet kommer mere subtilt til udtryk; den omhandler lægens evne til at præge værdier og moral i samfundet, som når patienter har dårlig samvittighed over ikke at følge lægens råd, eller når samfundet investerer i sundhedsfremmende tiltag.

Lægens autoritet er ikke givet. Læger har historisk måttet kæmpe for deres autoritet. De har måttet kæmpe internt mellem specialer og eksternt med andre professioner, såsom homøopater, fysioterapeuter, kiropraktorer og farmaceuter. En kamp, som fortsat er i gang. Autoritet handler ifølge Paul Star om to former for kontrol: kampen om afhængighed og kampen om legitimitet.

Borgere, patienter og samfund er afhængige af lægers tekniske færdigheder og faglige ekspertise. Men hvis dataproducenter kan præsentere sundhedsfaglige undersøgelser og analyser, som det danske sundhedsvæsen ikke kan håndtere, skabes der mandat til, at producenterne selv kan tilbyde løsninger uden om lægen. Techgiganter som Apple, Google og Amazon anser sundhed som deres næste store »marked«. Et marked, hvor de på sigt ikke nødvendigvis behøver danske læger. Et marked baseret på frie forbrugeres ret til køb af service uafhængigt af velfærdsstatens sundhedsvæsen.

Legitimiteten er også under forandring. Politisk som lægefagligt legitimeres de nye data og deres producenter, når de accepteres, uden at der stilles nævneværdige krav. Mange teknologier, såsom ekg på smarture og ChatGPT bliver f.eks. i EU vurderet som »lavrisikoteknologier«, som ikke skal reguleres som diagnostiske teknologier, selv om de kan have betydning for sundhed og sundhedsvæsenet. Politisk tales der varmt om, at datateknologierne skal »løse« og »varetage« væsentlige funktioner i sundhedsvæsenet.

Hvis data skal tildeles autoritet, må producenterne drages til ansvar

Hvis samfundet og sundhedsvæsenet legitimerer avancerede data og mindsker behovet for lægefunktionen på sigt, vil det ændre lægeprofessionens autoritet. Avancerede teknologier kan overtage væsentlige lægefaglige funktioner, som tages ud af lægernes kontrol.

Det er i sig selv ikke nødvendigvis dårligt. F.eks. kan afhængighed af læger være et problem, hvis der ikke er en læge. Eller hvis enkeltstående læger udfører illegitim lægegerning. Men det bliver et problem, hvis AI og andre avancerede teknologier overtager lægens funktioner og ændrer på sundhedsfaglige prioriteringer, uden at nogen overtager det ansvar, som før var lægens.

I dag legitimeres lægen ikke kun af sin faglige ekspertise og sine tekniske færdigheder. Lægen legitimeres af det ansvar, der følger med lægegerningen. Patienter og borgere accepterer lægens autoritet, fordi den udgår fra patienters ønsker og politiske holdninger. Hvad der politisk prioriteres, arbejder lægerne for at effektuere. Lægeprofessionen kan med sin faglighed være uenig med befolkningen og politikerne i tekniske aspekter. Men den grundlæggende normative præmis om at være til patientens og samfundets bedste er konstituerende for lægen som profession. Legitimiteten varetages konkret, når læger tager ansvar i deres daglige kliniske arbejde, og legitimiteten varetages abstrakt, når læger deltager i den offentlige samtale: Hvad er bedst for den enkelte patient og for samfundet? Hvad vil vi med sundhedsvæsenet? Hvad skal vi prioritere?

Den sociale kontrakt diskuteres ikke på samme vis med data. Data reduceres oftest til praktiske teknikaliteter eller abstrakt etik. Men imellem disse ekstremer ligger spørgsmålene om ansvar, som både er etiske og praktiske: Hvem har helt konkret ansvaret, når AI og andre avancerede teknologier måler og advarer om potentielle sygdomme? Er det os læger? Forbrugerne? Dem, der introducerer produkterne? Dem, der tjener på dem? Hvem taber og vinder på udviklingen, hvis ingen tager ansvar?