I en nylig undersøgelse overgik et AI-værktøj en menneskelig ekspert i at opdage duplikerede billeder i videnskabelige forskningsartikler.
Sholto David, som undersøger billedmanipulation i akademiske artikler, bemærkede, at mange i det videnskabelige samfund ikke er klar over omfanget af dette problem.
Han brugte AI til at granske adskillige artikler fra Toksikologiske rapporter journal på jagt efter billedduplikater.
Videnskabelig forskning er baseret på autenticitet og nøjagtighed. Når disse billeder kopieres, kaster det en skygge af tvivl over hele undersøgelsens integritet.
Desuden kan duplikerede billeder fordreje sandheden og ofte undlade at give ophavsmanden retfærdig kredit. Hvis de genbruges forkert eller ude af kontekst, kan de føre til misvisende fortolkninger eller konklusioner. Fejlagtig fremstilling påvirker den umiddelbare undersøgelse og kan sprede sig udad og påvirke efterfølgende forskning baseret på fejlbehæftede præmisser.
Davids værktøj identificerede næsten alle mistænkelige papirer, som han havde markeret, og 41, som han havde overset, med en hastighed, der var betydeligt hurtigere end hans egne evner. Papiret er i øjeblikket tilgængelig på Bioxriv.
I alt indeholdt 115 af de 715 analyserede artikler uhensigtsmæssige duplikationer (16%). Papiret er i øjeblikket tilgængelig på Bioxriv.
Akademisk publicering kæmper allerede med problemer i forbindelse med billedmanipulation.
En undersøgelse fra 2016 ledet af billedteknisk ekspert Elisabeth Bik afslørede, at omkring 4% af de artikler, hun inspicerede visuelt i 40 biomedicinske tidsskrifter, indeholdt ukorrekt duplikerede billeder. Davids undersøgelse placerer tallet meget højere end det.
David understreger desuden, at ikke alle billedmanipulationer udføres med onde hensigter. Mange tilfælde opstår på grund af utilsigtede justeringer eller af hensyn til æstetik og klarhed.
Ikke desto mindre er der en voksende konsensus om at håndtere billedændringer, der overtræder de etiske retningslinjer.
Mere om AI-værktøjet
Det AI-værktøj, David brugte til sin undersøgelse, hedder Imagetwin og bruges allerede af ca. 200 akademiske enheder, herunder forlag og universiteter.
Denne software benchmarker billeder i akademiske artikler mod en stor database med over 25 millioner billeder for at verificere dem.
Patrick Starke, en af udviklerne af ImageTwin, forklarede, at det genererer et unikt "fingeraftryk" for hvert billede i en forskningsartikel. Dette fingeraftryk bruges efterfølgende til interne papirscanninger og eksterne databasetjek.
Starke afslørede, at forskellige universiteter bruger Imagetwin til at granske artikler, før de sendes til et tidsskrift.
AI har stor indflydelse på den akademiske verden. A nylig undersøgelse af 1.600 forskere af det videnskabelige forlag Nature fandt ud af, at på trods af udbredt støtte til AI i den akademiske verden var omkring 68% mennesker bekymrede over misinformation i forbindelse med store sprogmodeller (LLM'er) som ChatGPT.
Hvor en AI bidrager til misinformation, giver en anden AI håb - i hvert fald i dette tilfælde.
