Het 2024 Nature Index-supplement over kunstmatige intelligentie, dat deze week is gepubliceerd, laat een wetenschappelijke wereld zien die midden in een AI-gedreven paradigmaverschuiving zit.
Dit jaarlijkse rapport, gepubliceerd door het tijdschrift Nature, volgt wetenschap van hoge kwaliteit door de onderzoeksoutput te meten in 82 tijdschriften voor natuurwetenschappen, geselecteerd door een onafhankelijk panel van onderzoekers.
De nieuwste editie laat zien hoe AI niet alleen verandert wat wetenschappers bestuderen, maar ook de manier waarop onderzoek wordt uitgevoerd, geëvalueerd en wereldwijd wordt toegepast.
Een van de meest opvallende trends die uit de Index naar voren komt, is de stijging in AI-onderzoek bij bedrijven. Amerikaanse bedrijven hebben hun output in Nature Index-tijdschriften sinds 2019 meer dan verdubbeld, waarbij hun Share (een metriek die door de Index wordt gebruikt om onderzoeksoutput te meten) is gestegen van 51,8 naar 106,5.
Deze hausse in O&O-activiteiten komt echter met een voorbehoud - het is nog steeds slechts goed voor 3,8% van de totale Amerikaanse AI-onderzoeksoutput in deze publicaties. In wezen hebben we, ondanks een grote toename in O&O op het gebied van AI binnen bedrijven, deze inspanningen niet teruggezien in de openbare onderzoeksoutput.
Dit roept vragen op over waar AI-onderzoek in bedrijven zich bevindt. Publiceren bedrijven hun meest baanbrekende werk op andere locaties of houden ze het achter slot en grendel?
Het antwoord is er een van concurrerende namen en verhalen. OpenAI, Microsoft, Google, Anthropic en een handvol anderen zijn stevig verankerd in het closed-source model, maar de open-source AI-industrie, geleid door Meta, Mistral en anderen, wint snel terrein.
De financieringsverschillen tussen particuliere bedrijven en openbare instellingen op het gebied van AI-onderzoek zijn dan ook enorm.
In 2021 bedroegen de investeringen van de privésector in AI volgens het AI Index Report van Stanford University wereldwijd ongeveer $93,5 miljard.
Hieronder vallen uitgaven van techgiganten als Google, Microsoft en Amazon, maar ook AI-gerichte startups en andere bedrijven in verschillende sectoren.
De overheidsfinanciering voor AI-onderzoek is daarentegen veel lager. De niet-defensieve uitgaven van de Amerikaanse overheid aan AI R&D bedroegen in 2021 ongeveer $1,5 miljard, terwijl de Europese Commissie dat jaar ongeveer €1 miljard (ongeveer $1,1 miljard) voor AI-onderzoek uittrok.
Dit gapende gat in de uitgaven voor middelen geeft particuliere bedrijven een voordeel bij de ontwikkeling van AI. Ze kunnen zich krachtigere computerbronnen en grotere datasets veroorloven en toptalent aantrekken met hogere salarissen.
"We krijgen steeds meer te maken met een situatie waarin AI-onderzoek van topkwaliteit voornamelijk wordt gedaan in de onderzoekslaboratoria van een vrij klein aantal bedrijven dat voornamelijk in de VS is gevestigd," aldus de Amerikaanse president. verklaarde Holger Hoos, een AI-onderzoeker aan de RWTH Aachen Universiteit in Duitsland.
Terwijl de VS zijn leidende positie in AI-onderzoek behoudt, zijn landen als China, het Verenigd Koninkrijk en Duitsland in opkomst als belangrijke centra van innovatie en samenwerking.
Deze groei is echter niet overal ter wereld gelijk. Zuid-Afrika staat als enige Afrikaanse natie in de top 40 voor AI-output, wat laat zien hoe de digitale kloof in het AI-tijdperk dreigt te verdiepen.
AI in peer review: belofte en gevaar
Collegiale toetsing garandeert academische en methodologische nauwkeurigheid en transparantie wanneer papers worden ingediend bij tijdschriften.
Dit jaar werd een onzinartikel met gigantische AI-gegenereerde rattentestikels gepubliceerd in Frontierswat aangeeft dat het peer review proces verre van ondoordringbaar is.
Iemand gebruikte DALL-E wetenschappelijke cijfers te creëren en deze voor te leggen aan Frontiers Journal. En raad eens? De uitgever publiceerde het. LOLhttps://t.co/hjQkRQDkal https://t.co/aV1USo6Vt2 pic.twitter.com/VAkjJkY4dR
- Veera Rajagopal (@doctorveera) 15 februari 2024
Recente experimenten hebben aangetoond dat AI onderzoeksbeoordelingsrapporten kan genereren die bijna niet te onderscheiden zijn van de rapporten die door menselijke experts zijn geschreven.
Vorig jaar, een experiment Het testen van ChatGPT's peer reviews versus menselijke reviewers op dezelfde paper liet zien dat meer dan 50% van de opmerkingen van de AI op de Nature papers en meer dan 77% op de ICLR papers overeenkwamen met de punten die door menselijke reviewers naar voren waren gebracht.
Natuurlijk is ChatGPT veel sneller dan menselijke peer reviewers. "Het wordt steeds moeilijker voor onderzoekers om feedback van hoge kwaliteit te krijgen van beoordelaars", zegt James Zou van Stanford University, de hoofdonderzoeker van dat experiment.
De relatie tussen AI en onderzoek roept fundamentele vragen op over wetenschappelijke evaluatie en de vraag of menselijk oordeel inherent is aan het proces. De balans tussen AI-efficiëntie en menselijk inzicht is een van de belangrijkste kwesties waarmee wetenschappers van alle achtergronden de komende jaren zullen moeten worstelen.
AI zou binnenkort in staat kunnen zijn om het hele onderzoeksproces van begin tot eind te beheren, waardoor menselijke onderzoekers mogelijk helemaal aan de zijlijn komen te staan.
Bijvoorbeeld, SakanaAI-wetenschapper autonoom nieuwe onderzoeksideeën genereert, experimenten ontwerpt en uitvoert en zelfs wetenschappelijke artikelen schrijft en beoordeelt. Dit verleidt tot een toekomst waarin AI wetenschappelijke ontdekkingen kan stimuleren met minimale menselijke tussenkomst.
Aan de methodologische kant brengt het gebruik van machine learning (ML) om gegevens te verwerken en analyseren risico's met zich mee. Princeton onderzoekers betoogden dat aangezien veel ML-technieken niet eenvoudig kunnen worden gerepliceerd, dit de repliceerbaarheid van experimenten uitholt - een sleutelprincipe van wetenschap van hoge kwaliteit.
Uiteindelijk wint de opkomst van AI in elk aspect van onderzoek en wetenschap aan kracht en het proces is waarschijnlijk onomkeerbaar.
Vorig jaar publiceerde Nature 1.600 onderzoekers ondervraagd en ontdekten dat 66% geloven dat AI snellere gegevensverwerking mogelijk maakt, 58% dat het analyses versnelt die voorheen niet mogelijk waren en 55% vinden dat het een kosten- en tijdbesparende oplossing is.
Zoals Simon Baker, hoofdauteur van het overzicht in de bijlage, concludeert: "AI verandert de manier waarop onderzoekers werken voorgoed, maar menselijke expertise moet de overhand blijven houden."
De vraag is nu hoe de wereldwijde wetenschappelijke gemeenschap zich zal aanpassen aan de rol van AI in onderzoek, om ervoor te zorgen dat de AI-revolutie in de wetenschap de hele mensheid ten goede komt en zonder onvoorziene risico's die de wetenschap in gevaar brengen.
Zoals met zoveel aspecten van de technologie het geval is, is het beheersen van zowel de voordelen als de risico's een uitdaging maar noodzakelijk om een veilige weg voorwaarts te garanderen.
