Nature Index-tillägget 2024 om artificiell intelligens, som släpptes i veckan, avslöjar en vetenskaplig värld som befinner sig i ett AI-drivet paradigmskifte.
Denna årliga rapport, som publiceras av tidskriften Nature, kartlägger vetenskap av hög kvalitet genom att mäta forskningsresultat i 82 naturvetenskapliga tidskrifter, som valts ut av en oberoende forskarpanel.
Den senaste upplagan illustrerar hur AI inte bara förändrar vad forskare studerar, utan i grunden förändrar hur forskning bedrivs, utvärderas och tillämpas globalt.
En av de mest slående trenderna som avslöjas i indexet är den kraftiga ökningen av AI-forskning för företag. Amerikanska företag har mer än fördubblat sin produktion i Nature Index-tidskrifter sedan 2019, och deras andel (ett mått som används av indexet för att mäta forskningsproduktion) ökade från 51,8 till 106,5.
Denna boom i FoU-aktivitet kommer dock med en varning - den står fortfarande bara för 3,8% av den totala amerikanska AI-forskningsproduktionen i dessa publikationer. I grund och botten, trots en stor ökning av företagens AI-FoU, har vi inte sett dessa ansträngningar återspeglas i offentlig forskningsproduktion.
Detta väcker frågor om var företagens AI-forskning finns. Publicerar företagen sina mest banbrytande arbeten på andra ställen, eller håller de dem bakom lås och bom?
Svaret är ett av konkurrerande namn och berättelser. OpenAI, Microsoft, Google, Anthropic och en handfull andra är fast förankrade i modellen med sluten källkod, men AI-industrin med öppen källkod, som leds av Meta, Mistral och andra, vinner snabbt mark.
En bidragande orsak till detta är den häpnadsväckande skillnaden i finansiering mellan privata företag och offentliga institutioner inom AI-forskning.
Enligt Stanford Universitys AI Index Report uppgick den privata sektorns investeringar i AI i världen 2021 till cirka $93,5 miljarder.
Detta inkluderar utgifter från teknikjättar som Google, Microsoft och Amazon, liksom AI-fokuserade nystartade företag och andra företag inom olika branscher.
Däremot är den offentliga finansieringen av AI-forskning mycket lägre. Den amerikanska regeringens FoU-utgifter för AI utanför försvaret uppgick 2021 till cirka $1,5 miljarder, medan Europeiska kommissionen avsatte cirka 1 miljard euro (cirka $1,1 miljarder) för AI-forskning det året.
Detta gapande tomrum i resursutgifterna ger privata företag en fördel i AI-utvecklingen. De har råd med kraftfullare datorresurser och större datamängder och kan locka till sig topptalanger med högre löner.
"Vi ser alltmer en situation där AI-forskning av högsta klass främst bedrivs i forskningslaboratorierna hos ett ganska litet antal företag, huvudsakligen baserade i USA" förklarade Holger Hoos, AI-forskare vid RWTH Aachen University i Tyskland.
Medan USA behåller sin ledande ställning inom AI-forskningen växer länder som Kina, Storbritannien och Tyskland fram som viktiga nav för innovation och samarbete.
Denna tillväxt är dock inte enhetlig över hela världen. Sydafrika är det enda afrikanska landet bland de 40 främsta när det gäller AI-produktion, vilket visar att den digitala klyftan riskerar att fördjupas i AI-eran.
AI i peer review: löften och faror
Peer review säkerställer akademisk och metodologisk stringens och transparens när artiklar skickas in till tidskrifter.
I år blev en nonsensartikel med gigantiska AI-genererade råtttestiklar publicerad i Frontiers, vilket visar att peer review-processen är långt ifrån ogenomtränglig.
Någon använde DALL-E vetenskapliga siffror och skickade in dem till de behöriga myndigheterna. Frontiers Journal. Och gissa vad? Redaktören publicerade det. LOLhttps://t.co/hjQkRQDkal https://t.co/aV1USo6Vt2 pic.twitter.com/VAkjJkY4dR
- Veera Rajagopal (@doktorveera) 15 februari 2024
Nya experiment har visat att AI kan generera forskningsutvärderingsrapporter som nästan inte går att skilja från dem som skrivs av mänskliga experter.
Förra året, ett experiment När man testade ChatGPT:s peer reviews jämfört med mänskliga granskare av samma artikel fann man att över 50% av AI:s kommentarer till Nature-artiklarna och över 77% till ICLR-artiklarna överensstämde med de punkter som tagits upp av mänskliga granskare.
Naturligtvis är ChatGPT mycket snabbare än mänskliga peer reviewers. "Det blir allt svårare för forskare att få feedback av hög kvalitet från granskare", säger James Zou från Stanford University, som ledde experimentet.
AI:s förhållande till forskning väcker grundläggande frågor om vetenskaplig utvärdering och om huruvida mänskliga bedömningar är en del av processen. Balansen mellan AI-effektivitet och mänsklig insikt är en av flera viktiga frågor som forskare från alla bakgrunder kommer att behöva ta itu med under de kommande åren.
AI kan snart komma att kunna hantera hela forskningsprocessen från början till slut, vilket kan leda till att mänskliga forskare helt och hållet ställs åt sidan.
Till exempel, SakanaAI-forskare genererar självständigt nya forskningsidéer, utformar och genomför experiment och skriver och granskar till och med vetenskapliga artiklar. Detta lockar till en framtid där AI kan driva på vetenskapliga upptäckter med minimal mänsklig inblandning.
På metodsidan finns det risker med att använda maskininlärning (ML) för att bearbeta och analysera data. Princeton forskare hävdade att eftersom många ML-tekniker inte enkelt kan replikeras, undergräver detta experimentens replikerbarhet - en viktig princip för högkvalitativ vetenskap.
I slutändan blir AI allt viktigare inom alla aspekter av forskning och vetenskap, och processen är sannolikt oåterkallelig.
Förra året var Nature undersökte 1.600 forskare och fann att 66% anser att AI möjliggör snabbare databehandling, 58% att det påskyndar tidigare ogenomförbara analyser och 55% anser att det är en kostnads- och tidsbesparande lösning.
Som Simon Baker, huvudförfattare till supplementets översikt, sammanfattar: "AI förändrar forskarnas sätt att arbeta för alltid, men mänsklig expertis måste fortsätta att ha inflytande."
Frågan är nu hur det globala forskarsamhället ska anpassa sig till AI:s roll i forskningen och se till att AI-revolutionen inom vetenskapen gynnar hela mänskligheten, utan att oförutsedda risker förstör vetenskapen.
Som med så många andra aspekter av tekniken är det en utmaning att behärska både fördelar och risker, men det är nödvändigt för att säkra en trygg väg framåt.
