Die diese Woche veröffentlichte Nature-Index-Beilage 2024 zum Thema Künstliche Intelligenz zeigt eine wissenschaftliche Welt, die sich inmitten eines KI-gesteuerten Paradigmenwechsels befindet.
Dieser jährliche Bericht, der von der Zeitschrift Nature veröffentlicht wird, gibt Aufschluss über die Qualität der Wissenschaft, indem er die Forschungsergebnisse in 82 naturwissenschaftlichen Zeitschriften misst, die von einem unabhängigen Gremium von Forschern ausgewählt wurden.
Die neueste Ausgabe zeigt, wie die KI nicht nur die Forschungsinhalte verändert, sondern auch die Art und Weise, wie Forschung durchgeführt, bewertet und weltweit angewandt wird, grundlegend verändert.
Einer der auffälligsten Trends, die der Index aufzeigt, ist der Anstieg der KI-Forschung in Unternehmen. Die US-Unternehmen haben ihren Output in den Zeitschriften des Nature-Index seit 2019 mehr als verdoppelt, wobei ihr Anteil (eine vom Index zur Messung des Forschungsoutputs verwendete Kennzahl) von 51,8 auf 106,5 gestiegen ist.
Dieser Boom bei den F&E-Aktivitäten hat jedoch einen Haken: Er macht nur 3,8% der gesamten KI-Forschungsleistung der USA in diesen Veröffentlichungen aus. Trotz des starken Anstiegs der KI-Forschung in den Unternehmen spiegeln sich diese Bemühungen nicht in den öffentlichen Forschungsergebnissen wider.
Dies wirft die Frage auf, wo die KI-Forschung der Unternehmen angesiedelt ist. Veröffentlichen Unternehmen ihre bahnbrechendsten Arbeiten an anderen Orten oder halten sie sie unter Verschluss?
Die Antwort liegt in den konkurrierenden Namen und Erzählungen. OpenAI, Microsoft, Google, Anthropic und eine Handvoll anderer sind fest im Closed-Source-Modell verwurzelt, aber die Open-Source-KI-Industrie, angeführt von Meta, Mistral und anderen, gewinnt schnell an Boden.
Dazu trägt auch bei, dass das Finanzierungsgefälle zwischen privaten Unternehmen und öffentlichen Einrichtungen in der KI-Forschung gewaltig ist.
Laut dem KI-Index-Bericht der Stanford University belaufen sich die Investitionen des Privatsektors in KI im Jahr 2021 weltweit auf rund $93,5 Milliarden.
Dazu gehören Ausgaben von Tech-Giganten wie Google, Microsoft und Amazon, aber auch von KI-fokussierten Start-ups und anderen Unternehmen aus verschiedenen Branchen.
Im Gegensatz dazu sind die öffentlichen Mittel für die KI-Forschung viel geringer. Die Ausgaben der US-Regierung für KI-Forschung und -Entwicklung außerhalb des Verteidigungssektors beliefen sich im Jahr 2021 auf etwa $1,5 Mrd., während die Europäische Kommission im selben Jahr rund 1 Mrd. EUR (etwa $1,1 Mrd.) für KI-Forschung bereitstellte.
Diese klaffende Lücke bei den Ressourcenausgaben verschafft privaten Unternehmen einen Vorteil bei der KI-Entwicklung. Sie können sich leistungsfähigere Computerressourcen und größere Datensätze leisten und Spitzentalente mit höheren Gehältern anlocken.
"Wir sehen zunehmend eine Situation, in der erstklassige KI-Forschung vor allem in den Forschungslabors einiger weniger, meist in den USA ansässiger Unternehmen betrieben wird. erklärt Holger Hoos, einem KI-Forscher an der RWTH Aachen, Deutschland.
Während die USA in der KI-Forschung nach wie vor führend sind, entwickeln sich Länder wie China, das Vereinigte Königreich und Deutschland zu wichtigen Zentren für Innovation und Zusammenarbeit.
Dieses Wachstum ist jedoch nicht überall auf der Welt gleich. Südafrika ist das einzige afrikanische Land unter den Top 40 bei der KI-Leistung, was zeigt, dass sich die digitale Kluft in der KI-Ära zu vertiefen droht.
KI in der Peer Review: Versprechen und Gefahr
Peer-Reviews gewährleisten akademische und methodische Strenge und Transparenz bei der Einreichung von Arbeiten in Fachzeitschriften.
In diesem Jahr wurde ein Nonsens-Papier mit riesigen KI-generierten Rattenhoden veröffentlicht in Frontiersund zeigt, dass das Peer-Review-Verfahren keineswegs undurchdringlich ist.
Jemand hat DALL-E um kauderwelschartige wissenschaftliche Zahlen zu erstellen und sie bei der Frontiers Journal. Und wissen Sie was? Der Herausgeber hat es veröffentlicht. LOLhttps://t.co/hjQkRQDkal https://t.co/aV1USo6Vt2 pic.twitter.com/VAkjJkY4dR
- Veera Rajagopal (@doctorveera) 15. Februar 2024
Jüngste Experimente haben gezeigt, dass KI Forschungsberichte erstellen kann, die sich kaum von denen menschlicher Experten unterscheiden lassen.
Letztes Jahr, ein Experiment Ein Test der Peer-Reviews von ChatGPT im Vergleich zu menschlichen Gutachtern für dieselbe Arbeit ergab, dass über 50% der KI-Kommentare zu den Nature-Papieren und mehr als 77% zu den ICLR-Papieren mit den von menschlichen Gutachtern angesprochenen Punkten übereinstimmten.
Natürlich ist ChatGPT viel schneller als menschliche Peer-Reviewer. "Es wird für Forscher immer schwieriger, qualitativ hochwertiges Feedback von Gutachtern zu erhalten", sagte James Zou von der Stanford University, der das Experiment leitete.
Die Beziehung zwischen KI und Forschung wirft grundlegende Fragen über die wissenschaftliche Bewertung und die Frage auf, ob menschliches Urteilsvermögen für den Prozess unabdingbar ist. Das Gleichgewicht zwischen KI-Effizienz und menschlicher Einsicht ist eine von mehreren Schlüsselfragen, mit denen sich Wissenschaftler aller Fachrichtungen in den kommenden Jahren auseinandersetzen müssen.
KI könnte schon bald in der Lage sein, den gesamten Forschungsprozess von Anfang bis Ende zu verwalten und menschliche Forscher möglicherweise ganz zu verdrängen.
Zum Beispiel, SakanaKI-Wissenschaftler generiert autonom neue Forschungsideen, plant und führt Experimente durch und schreibt und begutachtet sogar wissenschaftliche Arbeiten. Dies ist ein Vorgeschmack auf eine Zukunft, in der KI wissenschaftliche Entdeckungen mit minimalem menschlichen Eingreifen vorantreiben könnte.
Was die Methodik betrifft, so birgt die Verwendung von maschinellem Lernen (ML) zur Verarbeitung und Analyse von Daten Risiken. Princeton Forscher argumentierten dass viele ML-Techniken nicht leicht reproduzierbar sind und damit die Reproduzierbarkeit von Experimenten untergraben - ein Schlüsselprinzip hochwertiger Wissenschaft.
Letztlich gewinnt der Aufstieg der KI in allen Bereichen der Forschung und Wissenschaft an Dynamik, und dieser Prozess ist wahrscheinlich unumkehrbar.
Letztes Jahr, Nature befragte 1.600 Forscher und fanden heraus, dass 66% glauben, dass KI eine schnellere Datenverarbeitung ermöglicht, 58%, dass sie zuvor undurchführbare Analysen beschleunigt, und 55%, dass sie eine kosten- und zeitsparende Lösung darstellt.
Simon Baker, Hauptautor des Überblicks in der Beilage, kommt zu dem Schluss: "KI verändert die Art und Weise, wie Forscher arbeiten, für immer, aber das menschliche Fachwissen muss weiterhin die Oberhand behalten."
Die Frage ist nun, wie sich die globale wissenschaftliche Gemeinschaft auf die Rolle der KI in der Forschung einstellen wird, um sicherzustellen, dass die KI-Revolution in der Wissenschaft der gesamten Menschheit zugute kommt, ohne dass unvorhergesehene Risiken die Wissenschaft in Mitleidenschaft ziehen.
Wie bei so vielen Aspekten der Technologie ist es eine Herausforderung, sowohl die Vorteile als auch die Risiken zu beherrschen, aber notwendig, um einen sicheren Weg in die Zukunft zu sichern.
