»For det første kan den se mønstre, som mennesker ikke kan. For det andet er den objektiv. Læger og sygeplejersker bliver meget påvirkede af enkeltpatienter, som har skilt sig ud. Enten uventet døde eller uventet overlevede, men det er ikke sikkert, at det hjælper den næste patient, at de enkelte patienter har så stor indflydelse på vores beslutninger. Vi får et mere objektivt beslutningsgrundlag, og dermed får vi adgang til en mere ensartet vurdering og måske endda større lighed i behandlingen«, siger Anders Perner.
Algoritmen kan udfordre lægen
Den kunstige intelligens skal levere et tal på patientens risiko for at dø under indlæggelsen eller kort efter og desuden angive, hvor stor usikkerheden er på estimatet, men den skal også udpege de faktorer, der vejer tungest i forhold til et dødeligt udfald. På længere sigt skal algoritmen leverer prognoser fra time til time, og den vil hele tiden blive klogere på den enkelte patient.
»Tre hovedfaktorer spiller sammen: alder, kroniske sygdomme og den akutte sygdom. Hvis algoritmen siger, at alderen for eksempel er afgørende, kan vi ikke gøre så meget, men hvis en dårlig prognose hænger sammen med en kronisk sygdom eller med den akutte sygdom, kan vi måske ændre på det. Vi får konkrete angrebsmuligheder til at forbedre behandlingen«, siger Anders Perner.
Han ser også et potentiale i, at algoritmen med tiden kan afsløre sammenhænge, som lægerne i dag ikke har kendskab til.
»Jeg forventer, at den vil udfordre os, at den kan vise mønstre, som vi ikke har set, når betydningen af specifikke hændelser eller tilstande bliver fremhævet. Og det er der, det store behandlingsmæssige potentiale ligger. Vi kan få en ny indsigt, som kan gøre en forskel for den specifikke patient, eller lede til forskning i nye behandlinger«.
En vigtig feature er, at beslutningsværktøjet skal være så transparent og forklarende som muligt, men den vil ikke kunne redegøre for alle sine mellemregninger. Fænomenet »den sorte boks« – altså, at vi ikke ved, hvordan algoritmen er nået frem til et resultat, kan begrænses, men ikke helt undgås, mener Anders Perner.
»Hvis du vil se alle vægtninger i algoritmen – så kan du ikke se skoven for bare træer. Men det kan godt være, at du kan vælge f.eks. at se de tre mest betydende forklaringer, og så kan du skrue op og ned på vægtningen. Det kan man sætte den op til«.
Ja til en ekstra hjerne klokken tre om natten
På Sygehus Sønderjylland i Aabenraa – og det er her skypumpen kommer ind i billedet – deler ledende overlæge Lynge Kirkegaard og speciallæge i anæstesi og intensiv medicin Christina Frøslev-Friis ønsket fra Anders Perners om at løfte kvaliteten af behandlingen på intensiv.
»Jeg har brug for nye værktøjer, der udvider min kapacitet og giver mig overblik, så jeg kan se, hvad spor vi kører i. Med sådan et værktøj ville vi blive bedre til vores job«, siger Lynge Kirkegaard.
Også Christina Frøslev-Friis, der er formand for Lægeforeningens sundheds-it-udvalg, er positivt stemt over udsigten til en algoritme som »kollega«.
»Jeg siger ja tak til alt, hvad der kan fungere som en ekstra hjerne klokken tre om natten. En algoritme som beslutningsstøtte vil absolut være velkommen – hvis den kan levere en prognose på individniveau. Udfordringen med alt hvad vi har indført af teknologi, har været, at det er udviklet med afsæt i den brede masse, men der er bare ingen mennesker, der ligner den brede masse«.
Fra sygehuset er der udsigt til P-pladsen, og dramaet med skypumpen har været et samtaleemne her på sygehuset siden den junidag, hvor den slog ned – og den dukker derfor helt naturligt op som reference her.
»Jeg plejer at sige, at det er som den vejrudsigt, som vi oplevede for nylig: Meteorologerne sagde, at vi fik torden og regn, men skypumpen her ude på parkeringspladsen – den opdagede de altså ikke. Jeg vil vide, hvordan 'udsigten' er lige her på intensiv på Aabenraa sygehus – og for netop den patient, jeg står med«.
Lægerne har flere krav til det nye værktøj. Det skal være brugervenligt, bevise sit værd i en klinisk test, og så skal det være gennemskueligt.
»Hvis vi skal forholde os til det, der kommer ud, så skal vi kende forudsætningen for, at det faktisk er rigtigt. Jeg ved godt, at vi ikke kan gennemskue alle de mønstre, den analyserer, men man kan godt have en gennemsigtig proces for, hvad der puttes ind, og hvad den beregner på, så vi ved, hvilken værdi vi kan tillægge resultatet«, siger Christina Frøslev-Friis.
Lynge Kirkegaard har også et ønske om at forstå, hvordan den kunstige intelligens når frem til sine prognoser.
»Jeg kan godt acceptere, at jeg ikke kan gennemskue alle processerne, men for mig er der en grænse, hvis maskinlæring betyder, at den selv kan ændre på algoritmen, afhængig af, hvilke resultater den får. Så mister jeg kontrollen over, hvad der foregår«, siger han.
Han vil gerne have algoritmens bud på behandling, men er mere skeptisk, når det gælder om at lytte til den kunstige intelligens i spørgsmålet om, hvorvidt en behandling er udsigtsløs og skal stoppes.
»Selvfølgelig kan den give en prognose på overlevelsestid – men det handler jo også om at opveje indsats og gevinst for patienten – hvor meget ondt skal patienten gå igennem for at få lov at leve, og hvor lang skal den overlevelsesgevinst være – skal den være en uge eller tre måneder? Nogle patienter synes, det er forfærdeligt og vil bare dø, andre er parate til at gennemgå et pinefuldt forløb. Jeg tvivler på, at vi kan bruge elektronisk beslutningsstøtte lige der«.
»Maskinen« kommer ikke til at dominere
Selv om de to læger som udgangspunkt er positivt stemte over for den kunstige intelligens, er de sikre på, at de ikke risikerer at tillægge den for stor værdi. Ingen behøver at frygte et scenario, hvor lægerne underlægger sig »maskinen«.
Christina Frøslev-Friis:
»Den vil blive mødt med en vis skepsis – og det tror jeg er meget sundt«.
Lynge Kirkegaard:
»Vi kommer til at bruge meget tid på at være skeptiske. Ligesom med vejrmeldingen. Tror vi så meget på den, at vi lader paraplyen blive hjemme eller slæber vi den med alligevel? Der skal meget sikkerhed til, før vi får tillid til sådan noget og tør bruge det i alvorlige beslutninger. Jeg tror, vi langt hen ad vejen vil sige: »O.k. den siger sådan, men jeg har set det før – så jeg tror nu altså, at det er sådan«.
Den største skepsis lige nu gælder dog ikke algoritmens troværdighed, men implementeringen af den. Ganske enkelt fordi selv simple it-løsninger ikke er på plads på sygehusene endnu.
Som formand for Lægeforeningens sundheds-it-udvalg hører Christina Frøslev-Friis mere end de fleste om de problemer med it, som lægerne kæmper med i dagligdagen.
»Vores it-systemer i sundhedssektoren er en begrænsende faktor for at få ny teknologi til at fungere. Det er oldnordisk, at man skal åbne fire systemer for at gå en stuegang. Der er mange af vores systemer, hvor man tænker: Det findes bedre i 2019 – de er en væsentlig forhindring for at vi kan udnytte teknologien«.
Lynge Kirkegaard:
»Hvis vi kunne vælge at få alt det basale it på plads frem for at få den ny algoritme, så ville vi vælge det, for det ville spare os for så meget besvær i dagligdagen. For eksempel kan jeg ikke trække ud af systemet, hvor mange patienter, vi bedøvede på afdelingen i går, selv om de data er tastet ind. Jeg kan bare ikke trække dem ud. Det er helt bondsk, for selvfølgelig kan det lade sig gøre. Men det gør det svært at tro på, at vi kan implementere noget, som er langt mere avanceret«.
Tilbage på Rigshospitalet er Anders Perner også optaget af, hvordan lægerne og sygeplejerskerne vil tage imod beslutningsværktøjet.
»Det er helt afgørende, at vi får algoritmen implementeret på den rigtige måde, så vi undgår både overdreven tiltro til algoritmen og overdreven mistillid. Jeg ved ikke, hvor omstillingsparate vi er. Hvor klar vi er til at bruge sådan et værktøj. Det er jo en udfordring – en anden måde at drive sygepleje og lægegerning på end vi plejer«.
Endnu er der et stykke vej, før den kunstige intelligens kan rykke ind på intensivafdelinger. En prototype er først klar om et par år, og så skal en metode til implementering udvikles i samarbejde med læger, sygeplejersker, patienter, pårørende og det omgivende samfund, inden kliniske forsøg sættes i værk.
»Vi skal ikke glemme, at vi ikke er særligt gode til kritisk at implementere eller deimplementere ting. Alt for meget teknologi implementeres i sundhedsvæsenet uden en final test – og det her er meget komplekst, så derfor skal vi vide, om den virker efter hensigten«, siger han.
Anders Perner vurderer, at værktøjet i bedste fald er klar til brug om fem år. Og han har ikke travlt. Det vigtigste er, at dokumentationen er på plads, og at implementeringen kører på skinner.
Læs også: »Kunstig intelligens kan give os tid til patienterne igen«