Nature Index-tillægget for 2024 om kunstig intelligens, der udkom i denne uge, afslører en videnskabelig verden, der er i gang med et AI-drevet paradigmeskifte.
Denne årlige rapport, der udgives af tidsskriftet Nature, sporer videnskab af høj kvalitet ved at måle forskningsresultater i 82 naturvidenskabelige tidsskrifter, der er udvalgt af et uafhængigt panel af forskere.
Den seneste udgave illustrerer, hvordan kunstig intelligens ikke bare ændrer, hvad forskere studerer, men også fundamentalt ændrer, hvordan forskning udføres, evalueres og anvendes globalt.
En af de mest slående tendenser, som indekset afslører, er stigningen i AI-forskning i virksomheder. Amerikanske virksomheder har mere end fordoblet deres produktion i Nature Index-tidsskrifter siden 2019, hvor deres Share (en metrik, der bruges af indekset til at måle forskningsproduktion) er steget fra 51,8 til 106,5.
Dette boom i F&U-aktivitet kommer dog med en advarsel - det udgør stadig kun 3,8% af den samlede amerikanske AI-forskningsoutput i disse publikationer. På trods af en stor stigning i virksomhedernes F&U inden for kunstig intelligens har vi ikke set denne indsats afspejlet i den offentlige forskningsindsats.
Det rejser spørgsmål om, hvor virksomhedernes AI-forskning befinder sig. Udgiver virksomhederne deres mest banebrydende arbejde andre steder, eller holder de det under lås og slå?
Svaret er et spørgsmål om konkurrerende navne og fortællinger. OpenAI, Microsoft, Google, Anthropic og en håndfuld andre er fast forankret i closed source-modellen, men open source AI-industrien, der ledes af Meta, Mistral og andre, vinder hurtigt terræn.
Det bidrager til dette, at finansieringsforskellen mellem private virksomheder og offentlige institutioner inden for AI-forskning er svimlende.
I 2021 nåede den private sektors investeringer i AI på verdensplan ifølge Stanford University's AI Index Report op på ca. $93,5 milliarder.
Dette omfatter udgifter fra tech-giganter som Google, Microsoft og Amazon samt AI-fokuserede startups og andre virksomheder på tværs af forskellige brancher.
I modsætning hertil er den offentlige finansiering af AI-forskning meget lavere. Den amerikanske regerings F&U-udgifter til AI uden for forsvaret var i 2021 ca. $1,5 milliarder, mens Europa-Kommissionen afsatte omkring 1 milliard euro (ca. $1,1 milliarder) til AI-forskning det år.
Dette gabende hul i ressourceforbruget giver private virksomheder en fordel inden for AI-udvikling. De har råd til mere kraftfulde computerressourcer og større datasæt og kan tiltrække toptalenter med højere lønninger.
"Vi ser i stigende grad en situation, hvor AI-forskning i topklasse primært udføres i forskningslaboratorierne hos et ret lille antal virksomheder, der hovedsageligt er baseret i USA". forklarede Holger Hoos, en AI-forsker ved RWTH Aachen University i Tyskland.
Mens USA fortsat er førende inden for AI-forskning, er lande som Kina, Storbritannien og Tyskland ved at udvikle sig til vigtige knudepunkter for innovation og samarbejde.
Men denne vækst er ikke ensartet over hele kloden. Sydafrika er den eneste afrikanske nation i top 40 for AI-produktion, hvilket viser, hvordan den digitale kløft risikerer at blive dybere i AI-æraen.
AI i peer review: løfter og farer
Peer review sikrer akademisk og metodisk stringens og gennemsigtighed, når artikler indsendes til tidsskrifter.
I år blev en nonsensartikel med gigantiske AI-genererede rottetestikler udgivet i Frontiershvilket viser, at peer review-processen langt fra er uigennemtrængelig.
Nogen brugte DALL-E for at skabe videnskabelige tal i en lind strøm og sende dem til Frontiers Journal. Og ved du hvad? Redaktøren udgav den. LOLhttps://t.co/hjQkRQDkal https://t.co/aV1USo6Vt2 pic.twitter.com/VAkjJkY4dR
- Veera Rajagopal (@doctorveera) 15. februar 2024
Nylige eksperimenter har vist, at AI kan generere forskningsrapporter, der næsten ikke kan skelnes fra dem, der er skrevet af menneskelige eksperter.
Sidste år, et eksperiment Ved at teste ChatGPT's fagfællebedømmelser i forhold til menneskelige bedømmere af samme artikel fandt man, at over 50% af AI'ens kommentarer til Nature-artiklerne og mere end 77% til ICLR-artiklerne stemte overens med de punkter, der blev rejst af de menneskelige bedømmere.
Naturligvis er ChatGPT meget hurtigere end menneskelige fagfællebedømmere. "Det bliver sværere og sværere for forskere at få feedback af høj kvalitet fra bedømmere", siger James Zou fra Stanford University, der var leder af eksperimentet.
AI's forhold til forskning rejser grundlæggende spørgsmål om videnskabelig evaluering og om, hvorvidt menneskelig dømmekraft er en naturlig del af processen. Balancen mellem AI-effektivitet og menneskelig indsigt er et af flere vigtige spørgsmål, som forskere fra alle baggrunde bliver nødt til at tage stilling til i de kommende år.
AI vil måske snart være i stand til at styre hele forskningsprocessen fra start til slut og potentielt sætte menneskelige forskere helt ud på sidelinjen.
For eksempel, Sakana's AI-forsker genererer selvstændigt nye forskningsideer, designer og udfører eksperimenter og skriver og gennemgår endda videnskabelige artikler. Det frister til en fremtid, hvor kunstig intelligens kan drive videnskabelige opdagelser med minimal menneskelig indgriben.
På metodesiden er det forbundet med risici at bruge maskinlæring (ML) til at behandle og analysere data. Princeton forskere argumenterede at eftersom mange ML-teknikker ikke let kan gentages, udhuler det eksperimenternes reproducerbarhed - et nøgleprincip i videnskab af høj kvalitet.
I sidste ende er AI's fremtrædende plads i alle aspekter af forskning og videnskab ved at tage fart, og processen er sandsynligvis irreversibel.
Sidste år skrev Nature undersøgte 1.600 forskere og fandt ud af, at 66% mener, at AI muliggør hurtigere databehandling, 58%, at det fremskynder analyser, der tidligere var umulige, og 55% mener, at det er en omkostnings- og tidsbesparende løsning.
Som Simon Baker, hovedforfatter til supplementets oversigt, konkluderer: "AI ændrer den måde, forskere arbejder på, for altid, men den menneskelige ekspertise skal fortsat have overtaget."
Spørgsmålet er nu, hvordan det globale videnskabelige samfund vil tilpasse sig AI's rolle i forskningen og sikre, at AI-revolutionen inden for videnskaben kommer hele menneskeheden til gode, uden at uforudsete risici ødelægger videnskaben.
Som med så mange andre aspekter af teknologien er det en udfordring at mestre både fordele og risici, men det er nødvendigt for at sikre en sikker vej fremad.
