Panelets vurdering af kunstig intelligens

Den praktiserende læge: AI dumper både på empati og kvalitet

Bolette Friedrichsen, praktiserende læge og formand for Dansk Selskab for Almen Medicin (DSAM), er langtfra begejstret for Bards e-mailsvar. Men afviser ikke, at tage kunstig intelligens (AI) i brug i almen praksis.

Bolette Friedrichsen vurderede som den eneste både empati og kvalitet i testen. Empati gav hun 3,25 i snit, svarende til »nogenlunde empatisk«, og kvaliteten 2,6 point i snit, svarende til et sted mellem »dårlig« og »acceptabel«.

»Den her model er dumpet i testen både på kvalitet og empati, men den får point for høflighed, som man dog nok bliver irriteret over, fordi det er så automatiseret. Er der noget, der er irriterende, når man er bange, bekymret eller syg, så er det høflighedsfraser«.

Hvad forstår du ved empati?

»Empati er noget, der opstår mellem to mennesker, som er sammen i samme rum. Det er at sætte sig i den andens sted og føle, hvad den anden føler. Det kræver en indlevelse, som en maskine altså bare ikke har«.

Hvad var godt ved Bards svar?

»Det var fint, at den lige huskede at gentage, hvad der blev sagt, sådan at patienten følte sig hørt. Det er jo god stil. Og det kan vi andre godt lære af, for vi svarer sommetider på det, vi tror, der bliver spurgt om.

Sammenlignet med mine egne mailsvar, synes jeg, at den er god, når den nævner generelle ting, man kan tage med i sine overvejelser. Psykologiske almengyldige råd om for eksempel kommunikation mellem forældre og børn og respektfuld omgang med hinanden er den god til. For eksempel gav jeg den maks. point på spørgsmålet fra moren til en datter med en spiseforstyrrelse. Det er et af de mest vellykkede svar«.

Hvor fejlede den?

»Bard virker ikke særlig kontekstbevidst. Den forstår ikke, hvad det er for en patient, den snakker med, og hvad der rører sig psykologisk inde i hovedet på sådan en patient.

Den svarer meget snævert, og så kommer den med direkte sundhedsfarlige svar og åbner for flere spørgsmål og dermed mere bekymring, som kan generere ekstra arbejde for lægen. Og så beroliger den, når der faktisk er grund til at være alarmeret.

Ca. 10% af patienterne går alt for lidt til læge og kommer først, når det er for sent. Her er det jo særligt problematisk, hvis den kunstige intelligens så ovenikøbet beroliger dem, når de faktisk har alvorlige symptomer«.

Kunne den have en rolle i almen praksis?

»Jeg ville aldrig bruge kunstig intelligens i den form, den har nu. Ikke oven på den her omgang. At svare patienterne uden at skræmme dem, men også uden at betrygge dem i, at alt er godt, hvis det ikke er tilfældet, er virkelig en balance, som jo kræver, at man kender sin patient. Men vi har drøftet på DSAM’s repræsentantskabsmøde, at der er potentialer til, at den kunne hjælpe os på forskellig vis, og vi har også AI på dagsordenen til vores årsmøde i oktober.

Der kunne godt være AI-værktøjer, som udelukkende fungerer lokalt. Og i givet fald kunne jeg finde på at bruge dem til at formulere svar ud fra nogle idéer, jeg har, men den skal ikke svare på mine vegne. Og under alle omstændigheder: Hvis kunstig intelligens tages i brug, skal det deklareres over for patienterne«.

Patienten: »AI kan jo ikke vise ægte empati«

En maskine kan ikke udvise empati, mener Anne Meiniche, som er journalist og patient i sundhedsvæsenet igennem mange år og dertil aktiv i debatten om patientindflydelse. Men hun ser et potentiale i kunstig intelligens (AI) til at styrke hende som patient.

»Empati drejer sig om at blive mødt og forstået, når man er syg, fordi, man gerne vil have udryddet noget tvivl. Jeg vil gerne have, at lægen lytter og forstår mit problem. Og kommer med de forklaringer, jeg har brug for. Det kan kunstig intelligens godt levere. Men det er jo ikke rigtig empati. Det er kunstig empati – og det tror jeg egentlig ikke, at der er nogen der har lyst til at få«, siger Anne Meiniche.

Derfor har hun givet testens laveste samlede pointtal for empati, og hun har ikke givet et eneste svar fem point for »meget empatisk«, mens kun et fik fire for »empatisk«.

»Jeg ville give flere fire og også fem, hvis det var en læge, der kom med de grundige og imødekommende svar. Det virker i sig selv empatisk, at der er tid til uddybning«, siger hun.

Anne Meiniche har både mødt læger, der var meget empatiske, og nogle, der slet ikke var.

»Det er problematisk, når læger ikke er interesseret i, hvad det er for en patient, de sidder over for«, siger hun.

På den baggrund synes hun, at Bard klarer sig meget godt i testen, og flere gange, hvor hun har givet den tre point, ville hun havde givet den 3,5, hvis det var muligt.

Hvad var godt ved Bards svar?

»Den er jo faktisk utrolig grundig og informativ. Og den har masser af tid. Og det er noget af det, man savner normalt. Hvis den var en læge, der gav mig sådan nogle svar, så ville jeg faktisk føle mig mødt på en eller anden måde. Og det er vel også en form for empati at afsætte alverdens tid«.

»Du kan ikke stille dumme spørgsmål til den. Altså lægen kan godt se lidt træt ud, ikke? Men det gør den ikke«.

Hvor fejlede den?

»Det der med ,jeg er ked af at høre …’ Det gider man i virkeligheden ikke. Det er jo et meget kunstigt svar. Det er et maskinsvar«.

Der er også andre ulemper ved Bard, mener Anne Meiniche.

»Når man får så grundige svar, kan man være i den tro, at nu har vi faktisk været hele vejen rundt om det. Og det har man måske ikke«, siger hun.

Hun peger også på, at AI kan komme til at stjæle tid fra lægen, fordi patienten bliver opmærksom på detaljer og nye problemer, som måske slet ikke er relevante.

Kunne den have en rolle i almen praksis?

Anne Meiniche kan godt se AI vinde indpas i sundhedsvæsenet. Ikke så meget med empatisk kommunikation som med assistance til patienterne til for eksempel at forstå deres egen journal og klæde dem på med spørgsmål til mødet med de sundhedsprofessionelle.

Men hun har sine forbehold.

»To store problemer skal løses først. Det ene er, at nogle kan tro, de faktisk er i kontakt med et menneske. Derfor skal det være helt tydeligt, at det er en maskine. Og det skal alle vide. Derfor skal den heller ikke have et menneskenavn.

Det andet problem er selvfølgelig, hvis den giver forkerte svar. Det går jo ikke. Så man skal lære at være kritisk, og måske skal man begrænse, hvad den kan svare på – i forhold til for eksempel mere alvorlige diagnoser«.

Kommunikationseksperten: »Bards svar kan virke mere vedkommende end lægernes«

Lektor i digital kommunikation på Syddansk Universitet (SDU), Anette Grønning, har som led i sin forskning gennemgået hundredvis af e-mailkonsultationer. Hun mener, at kunstig intelligens (AI) kan hjælpe lægerne med svar. Ikke fordi AI er mere empatisk, men fordi lægerne ikke har tid til at svare så grundigt.

»Jeg kan egentlig godt lide den – den imødekommer noget«, sådan lyder den umiddelbare reaktion fra Anette Grønning på Bards 12 svar.

Hun har givet Bard 40 point ud af 65 mulige – flest af alle fire paneldeltagere; 36 var laveste point og givet af »patienten« Anne Meiniche.

Som led i sin forskning har Anette Grønning gennemgået hundredvis af mails mellem læger og patienter.

»Svarene i testen er mere vedkommende end dem, jeg ser fra lægerne. Det er selvfølgelig ikke fordi, læger ikke kan skrive empatisk, men fordi de har nogle andre betingelser. De har et tidspres, og de har typisk et begrænset antal enheder til rådighed. Svarene fra Bard er meget længere end i e-mailkonsultationer, og det kan jo godt virke empatisk, fordi det signalerer: ,Jeg bruger tid på dig’«, forklarer hun.

Til gengæld synes hun, at Bard svarer lidt mekanisk.

»Den gentager samme formulering: ,Jeg er ked af …’ og ,Jeg kan godt forstå …’, men jeg synes ikke, at nogen af svarene virker frastødende eller kolde for mig«.

Læger kan i øvrigt også svare ensartet er hendes erfaring.

»Når du har læst hundredvis af mailsvar fra læger, så kan du se, at de begynder med ,Hej Ulla’ eller ,Kære fru Hansen’ og ,Tak for din beskrivelse’, ,Tak for din mail’ eller ,Tak for din besked’«.

Hvad forstår du ved empati?

»Empati er, at du kan mærke, at jeg kan mærke dig. Og det er ligegyldigt, om der er en skærm imellem, om det er via telefon, eller om man er til stede sammen. Det er klart, at det er sværere, når du ikke kan bruge alle dine sanser og er afskåret fra at se mimikken og høre tonefaldet. I en e-mail ligger empatien i sproget. Det er derfor, det er så vigtigt, hvordan vi skriver«.

Hvad var godt ved Bards svar?

»Den kommer med forslag til spørgsmål, patienten kan stille lægen som en opvarmning til konsultationen. Det synes jeg er godt. Og så er den god til at kvalificere, opsummere og f.eks. sige: ,Her er de fire vigtigste link, hvor du kan få mere information’«.

Hvor fejlede den?

Kunne den have en rolle i almen praksis?

»Jeg har hørt flere praktiserende læger sige, at de ikke bryder sig om de her e-mailkonsultationer, så jeg kunne forestille mig, at kunstig intelligens kunne hjælpe med at løse den opgave.

Den lægefaglige del kan ikke udliciteres, men det her med at skrive – det kan man godt bruge den til. Men det skal udvikles sammen med lægerne«.

Empatieksperten: Det følelsesmæssige bliver ikke tilgodeset

Som psykolog og forfatter til bogen »Empati i den sundhedsprofessionelle relation« er Ingeborg Bonnevie i denne her sammenhæng »empatiekspert«.

»Den giver gode, konkrete og faktuelle informationer om forebyggelse, sygdom og behandling, men det er jo ikke altid, hvad patienten efterspørger. Det følelsesmæssige hos patienter, som spørger ud fra bekymringer, bliver ikke tilgodeset«, siger hun.

»At forstå patientens problem kræver en dialog med lægen, som kender patienten og kan give nogle mere nuancerede og personlige svar. Og også nogle beroligende svar, hvis patienten har brug for det. Det gør Bard ikke her«.

Hvad er godt?

»Indledningen på svarene starter med: ,Jeg er ked af at høre …’, og så bliver der tit sagt, at det kan være »rigtig frustrerende« eller »rigtig svært«. Det synes jeg er meget fint, fordi det viser, at den, der lytter, indlever sig og prøver at forstå, at der er noget vanskeligt her, som patienten gerne vil tale om. Så det kan opleves som empatisk«.

»Bard kan ikke pejle sig ind på, hvad det er for en relevant information og støtte, patienten egentlig har brug for, og patientens spørgsmål kan let drukne i al den information, Bard leverer. For patienten kan et svar med mange informationer opleves overvældende og skræmmende. Det kan skabe frygt og usikkerhed, og det kræver altså en mere nuanceret dialog form at komme ind på forebyggelse, undersøgelse og behandling, som Bard gør.

Og så er der nogle steder, hvor det virker som om, at den ikke helt har forstået, hvad der blev spurgt om.

Der er for eksempel en kvinde, som er bekymret over, at moren får lungebetændelse igen og igen. Bard svarer først, at det er forståeligt, hun er bekymret, men længere nede skriver Bard, at kvinden faktisk skal være bekymret. Det er forvirrende og ikke empatisk.

Et andet spørgsmål i testen handler om en kvinde, som er bekymret over, at moren, der bor på plejehjem, tit får blærebetændelse. Svaret har jeg givet et total, men den skulle have haft et ettal, for der er slet ingen empati i det svar. Bard informerer grundigt om blærebetændelse, men kvindens egentlige problem ligger måske et helt andet sted. Det kan være, hun er bekymret for, om personalet passer og plejer moren godt nok, eller at hun føler sig belastet af ansvaret som pårørende. Men det kræver menneskelig indlevelse at forstå«. 

Kan du se kunstig intelligens have en rolle i almen praksis?

»Det kunne jeg godt, hvis informationsniveauet tilpasses patientens spørgsmål. Den er oplysende og virker alligevel også tilpas indfølende og forstående. Så man kunne godt bruge den som chatbot, men med forbehold for, at mere følsomme emner kan den ikke tage sig af«.