Nature Index' 2024-supplement om kunstig intelligens, som ble lansert denne uken, avslører en vitenskapelig verden som står midt oppe i et AI-drevet paradigmeskifte.
Denne årlige rapporten, som publiseres av tidsskriftet Nature, kartlegger vitenskap av høy kvalitet ved å måle forskningsresultater i 82 naturvitenskapelige tidsskrifter, som er valgt ut av et uavhengig forskerpanel.
Den nyeste utgaven illustrerer hvordan kunstig intelligens ikke bare endrer hva forskere studerer, men også hvordan forskning utføres, evalueres og anvendes globalt.
En av de mest slående trendene som avdekkes i indeksen, er økningen i AI-forskning i bedrifter. Amerikanske selskaper har mer enn doblet sin produksjon i Nature Index-tidsskrifter siden 2019, og deres andel (et mål som brukes av indeksen for å måle forskningsproduksjon) har økt fra 51,8 til 106,5.
Denne økningen i FoU-aktivitet kommer imidlertid med et forbehold - den står fortsatt bare for 3,8% av USAs totale AI-forskningsproduksjon i disse publikasjonene. Til tross for en kraftig økning i bedriftenes FoU-aktivitet innen kunstig intelligens, har vi ikke sett at denne innsatsen gjenspeiles i offentlig forskningsproduksjon.
Dette reiser spørsmål om hvor bedriftenes AI-forskning befinner seg. Publiserer selskapene sitt mest banebrytende arbeid på andre arenaer, eller holder de det under lås og slå?
Svaret er et spørsmål om konkurrerende navn og narrativer. OpenAI, Microsoft, Google, Anthropic og en håndfull andre er fast forankret i modellen med lukket kildekode, men AI-industrien med åpen kildekode, ledet av Meta, Mistral og andre, vinner raskt terreng.
Dette skyldes blant annet at det er en svimlende forskjell i finansieringen av KI-forskning mellom private selskaper og offentlige institusjoner.
I 2021 nådde investeringene i privat sektor i kunstig intelligens på verdensbasis omtrent $93,5 milliarder kroner, ifølge Stanford Universitys AI Index Report.
Dette inkluderer utgifter fra teknologigiganter som Google, Microsoft og Amazon, samt AI-fokuserte oppstartsbedrifter og andre selskaper i ulike bransjer.
Derimot er den offentlige finansieringen av AI-forskning mye lavere. I 2021 brukte amerikanske myndigheter rundt $1,5 milliarder på forskning og utvikling av kunstig intelligens utenfor forsvarssektoren, mens EU-kommisjonen bevilget rundt 1 milliard euro (ca. $1,1 milliarder) til forskning på kunstig intelligens det året.
Dette gapende tomrommet i ressursbruken gir private selskaper et fortrinn i utviklingen av kunstig intelligens. De har råd til kraftigere dataressurser og større datasett, og de kan tiltrekke seg topptalenter med høyere lønninger.
"Vi ser i økende grad en situasjon der førsteklasses AI-forskning først og fremst utføres i forskningslaboratoriene til et ganske lite antall selskaper, hovedsakelig basert i USA." forklarte Holger Hoos, AI-forsker ved RWTH Aachen University i Tyskland.
Mens USA fortsatt er ledende innen forskning på kunstig intelligens, er land som Kina, Storbritannia og Tyskland i ferd med å utvikle seg til å bli viktige knutepunkter for innovasjon og samarbeid.
Veksten er imidlertid ikke lik over hele verden. Sør-Afrika er den eneste afrikanske nasjonen blant de 40 beste når det gjelder AI-produksjon, noe som viser at det digitale skillet står i fare for å forsterkes i AI-æraen.
AI i fagfellevurdering: løfter og farer
Fagfellevurdering sikrer faglig og metodisk stringens og åpenhet når artikler sendes inn til tidsskrifter.
I år ble en nonsensartikkel med gigantiske AI-genererte rottetestikler publisert i Frontiers, noe som viser at fagfellevurderingsprosessen langt fra er ugjennomtrengelig.
Noen brukte DALL-E for å lage vitenskapelige tall i tåkeprat og sende dem inn til Frontiers Journal. Og gjett hva? Redaktøren publiserte det. LOLhttps://t.co/hjQkRQDkal https://t.co/aV1USo6Vt2 pic.twitter.com/VAkjJkY4dR
- Veera Rajagopal (@doctorveera) 15. februar 2024
Nyere eksperimenter har vist at kunstig intelligens kan generere forskningsrapporter som nesten ikke skiller seg fra rapporter skrevet av menneskelige eksperter.
I fjor, et eksperiment Ved å teste ChatGPTs fagfellevurderinger opp mot menneskelige fagfeller på samme artikkel fant vi at over 50% av AI-kommentarene til Nature-artiklene og mer enn 77% av kommentarene til ICLR-artiklene stemte overens med punktene som ble tatt opp av menneskelige fagfeller.
ChatGPT er selvfølgelig mye raskere enn menneskelige fagfellevurderere. "Det blir stadig vanskeligere for forskere å få tilbakemeldinger av høy kvalitet fra fagfeller", sier James Zou fra Stanford University, som ledet eksperimentet.
Forholdet mellom kunstig intelligens og forskning reiser grunnleggende spørsmål om vitenskapelig evaluering og om hvorvidt menneskelig dømmekraft er en naturlig del av prosessen. Balansen mellom AI-effektivitet og menneskelig innsikt er ett av flere sentrale spørsmål som forskere fra alle bakgrunner må ta stilling til i årene som kommer.
AI kan snart være i stand til å styre hele forskningsprosessen fra start til slutt, og potensielt sette menneskelige forskere helt på sidelinjen.
For eksempel, Sakana's AI-forsker genererer selv nye forskningsidéer, utformer og gjennomfører eksperimenter, og skriver og vurderer til og med vitenskapelige artikler. Dette frister til en fremtid der kunstig intelligens kan drive frem vitenskapelige oppdagelser med minimal menneskelig inngripen.
Når det gjelder metodikk, er det forbundet med risiko å bruke maskinlæring (ML) til å behandle og analysere data. Princeton forskere hevdet at siden mange ML-teknikker ikke enkelt kan replikeres, svekker dette replikerbarheten til eksperimenter - et nøkkelprinsipp for vitenskap av høy kvalitet.
Til syvende og sist er AI i ferd med å få en fremtredende plass i alle aspekter av forskning og vitenskap, og prosessen er sannsynligvis irreversibel.
I fjor skrev Nature undersøkte 1 600 forskere og fant at 66% mener at AI muliggjør raskere databehandling, 58% at det fremskynder analyser som tidligere ikke var gjennomførbare, og 55% mener at det er en kostnads- og tidsbesparende løsning.
Som Simon Baker, hovedforfatteren av supplementets oversikt, konkluderer: "Kunstig intelligens er i ferd med å endre måten forskere jobber på for alltid, men den menneskelige ekspertisen må fortsatt ha forrang."
Spørsmålet er nå hvordan det globale vitenskapssamfunnet skal tilpasse seg AIs rolle i forskningen, slik at AI-revolusjonen innen vitenskapen kommer hele menneskeheten til gode, og uten at uforutsette risikoer ødelegger vitenskapen.
Som med så mange andre aspekter ved teknologien er det utfordrende, men nødvendig å beherske både fordeler og risikoer for å sikre en trygg vei fremover.
