En ny æra i peerreviewprocessen: Start med referencelisten

Hvis forskerne har brugt falske referencer – kan vi så stole på resten af artiklen? Forskningsintegriteten er under pres i takt med den stigende anvendelse af kunstig intelligens i skriveprocessen. Vi oplever i dag ikke sjældent, at et peerreview kan afsluttes efter kontrol af de første 5-10 referencer, fordi de simpelthen ikke eksisterer.

Kunstig intelligens har på få år ændret den måde, forskningsartikler bliver skrevet på. De fleste forskere har allerede oplevet fordelene ved AI-værktøjer til sproglig forbedring og strukturering af tekster [1-3]. Men udviklingen har også en bagside. Når vi i dag udfører peerreview, oplever vi ikke sjældent, at vi kan stoppe, efter at vi har kontrolleret de første 5-10 referencer. Flere af dem eksisterer ganske enkelt ikke. Der er ikke længere tale om klassiske referencefejl med forkerte sidetal eller stavefejl i forfatternavne. Derimod møder vi referencer, som ser fuldstændig troværdige ud: korrekte formater, plausible titler, rigtige forskernavne og realistiske udgivelsesår. Problemet er blot, at artiklerne aldrig er blevet publiceret. Hvis en forfatter kan indsætte falske referencer til forskning, der ikke eksisterer, hvad siger det så om den øvrige artikel – og forfatterne selv?

En nyligt publiceret analyse i The Lancet fortjener stor anerkendelse for at sætte tal på problemet [4]. I studiet gennemgik forskerne mere end 2,5 mio. medicinske artikler fra de seneste tre år og 126 mio. referencer. De identificerede mere end 4.000 fabrikerede referencer fordelt på ca. 2.800 artikler. Dette lyder ikke af meget, hvis man regner det i procenter, men det særligt bekymrende var dog udviklingen over tid. I 2023 indeholdt omtrent én ud af 2.828 artikler mindst én fabrikeret reference, i 2025 var tallet steget til én ud af 458, og bare på de første syv uger af 2026 var det én ud af 277 artikler. Forekomsten steg mere end 12 gange på blot få år. Forfatterne peger forsigtigt på flere mulige forklaringer, men tidsmæssigt falder stigningen sammen med den brede udbredelse af store sprogmodeller som ChatGPT. Det er velkendt, at disse modeller kan generere overbevisende, men fiktive referencer. Tidligere undersøgelser har vist, at 30-69% af AI-genererede referencer i biomedicinske sammenhænge er opdigtede.

Problemet er imidlertid større end AI alene. Allerede før den nuværende AI-bølge advarede forskere og tidsskrifter om såkaldte paper mills – kommercielle virksomheder, der producerer fabrikerede manuskripter mod betaling. En omfattende gennemgang i Nature beskrev, hvordan hundredvis af artikler blev trukket tilbage efter mistanke om systematisk forskningssvindel, og hvordan tidsskrifter måtte ændre deres redaktionelle procedurer for at håndtere problemet [5]. Uanset om årsagen er paper mills, bevidst uredelighed eller ukritisk brug af AI, står vi tilbage med det samme problem: Referencelisten kan ikke længere tages for givet.

Traditionelt har peerreview fokuseret på metode, statistik, fortolkning og klinisk relevans. Det bør det fortsat gøre. Men i en tid, hvor en reference kan være fabrikeret på få sekunder, bør første trin i mange reviews måske være langt mere jordnært: Findes referencerne overhovedet? Derfor er det måske på tide at ændre rækkefølgen i peerreviewprocessen. Før vi bruger timer på at vurdere metode og resultater, bør vi sikre os, at artiklens videnskabelige fundament eksisterer. Samtidig kan ansvaret ikke alene placeres hos frivillige peerreviewers. De værktøjer, der har skabt problemet, kan også være en del af løsningen. Tidsskrifter bør implementere automatiserede systemer, der kontrollerer referencer allerede ved indsendelse af manuskriptet. Det er ikke tilstrækkeligt at verificere, at et DOI-nummer leder til en artikel. Systemet skal også kunne afgøre, om DOI’et faktisk svarer til den titel, de forfattere og det indhold, der citeres.

I den nye æra for videnskabelig publicering bør peerreview begynde med referencelisten.