Le supplément 2024 de l'index Nature sur l'intelligence artificielle, publié cette semaine, révèle un monde scientifique en proie à un changement de paradigme induit par l'IA.
Ce rapport annuel, publié par la revue Nature, évalue la qualité de la science en mesurant les résultats de la recherche dans 82 revues de sciences naturelles, sélectionnées par un panel indépendant de chercheurs.
La dernière édition illustre comment l'IA ne se contente pas de changer les sujets étudiés par les scientifiques, mais modifie fondamentalement la manière dont la recherche est menée, évaluée et appliquée à l'échelle mondiale.
L'une des tendances les plus frappantes révélées par l'indice est la montée en puissance des recherche sur l'IA dans les entreprises. Les entreprises américaines ont plus que doublé leur production dans les revues de Nature Index depuis 2019, leur part (une métrique utilisée par l'Index pour mesurer la production de recherche) passant de 51,8 à 106,5.
Toutefois, cette explosion de l'activité de R&D s'accompagne d'une mise en garde : elle ne représente encore que 3,8% du total des résultats de la recherche américaine en matière d'IA dans ces publications. En substance, malgré une augmentation importante de la R&D en IA dans les entreprises, ces efforts ne se sont pas reflétés dans les résultats de la recherche publique.
Cela soulève des questions sur la localisation de la recherche des entreprises en matière d'IA. Les entreprises publient-elles leurs travaux les plus novateurs dans d'autres lieux ou les gardent-elles sous clé ?
La réponse est une question de noms et de récits concurrents. OpenAI, Microsoft, Google, Anthropic et une poignée d'autres sont fermement ancrés dans le modèle à source fermée, mais l'industrie de l'IA à source ouverte, menée par Meta, Mistral et d'autres, gagne rapidement du terrain.
La disparité de financement entre les entreprises privées et les institutions publiques dans le domaine de la recherche sur l'IA est stupéfiante.
En 2021, selon le rapport AI Index de l'université de Stanford, les investissements du secteur privé dans l'IA à l'échelle mondiale ont atteint environ $93,5 milliards d'euros.
Cela inclut les dépenses des géants de la technologie tels que Google, Microsoft et Amazon, ainsi que des startups axées sur l'IA et d'autres entreprises dans divers secteurs.
En revanche, le financement public de la recherche sur l'IA est beaucoup plus faible. En 2021, le gouvernement américain a consacré environ 1,5 milliard de dollars à la recherche sur l'IA non militaire, tandis que la Commission européenne a alloué environ 1 milliard d'euros (approximativement 1,1 milliard de dollars) à la recherche sur l'IA cette année-là.
Cette lacune dans les dépenses en ressources donne aux entreprises privées un avantage dans le développement de l'IA. Elles peuvent s'offrir des ressources informatiques plus puissantes et des ensembles de données plus importants, et attirer les meilleurs talents grâce à des salaires plus élevés.
"Nous nous trouvons de plus en plus dans une situation où la recherche de pointe en matière d'IA se fait principalement dans les laboratoires de recherche d'un petit nombre d'entreprises basées pour la plupart aux États-Unis". a expliqué Holger Hooschercheur en IA à l'université RWTH d'Aix-la-Chapelle, en Allemagne.
Alors que les États-Unis conservent leur avance dans la recherche sur l'IA, des pays comme la Chine, le Royaume-Uni et l'Allemagne émergent en tant que centres majeurs d'innovation et de collaboration.
Toutefois, cette croissance n'est pas uniforme dans le monde entier. L'Afrique du Sud est le seul pays africain à figurer parmi les 40 premiers pays pour la production d'IA, ce qui montre que la fracture numérique risque de s'aggraver à l'ère de l'IA.
L'IA dans l'évaluation par les pairs : promesses et dangers
L'examen par les pairs garantit la rigueur académique et méthodologique ainsi que la transparence lorsque des articles sont soumis à des revues.
Cette année, un article absurde présentant des testicules de rats géants générés par l'IA a été publié. publié dans FrontiersLe processus d'évaluation par les pairs est loin d'être impénétrable.
Quelqu'un a utilisé DALL-E de créer des chiffres scientifiques en charabia et de les soumettre à la Commission européenne. Frontiers Journal. Et devinez quoi ? L'éditeur l'a publié. LOLhttps://t.co/hjQkRQDkal https://t.co/aV1USo6Vt2 pic.twitter.com/VAkjJkY4dR
- Veera Rajagopal (@doctorveera) 15 février 2024
Des expériences récentes ont montré que l'IA peut produire des rapports d'évaluation de la recherche qui ne se distinguent pratiquement pas de ceux rédigés par des experts humains.
L'année dernière, une expérience en testant les évaluations par les pairs de ChatGPT par rapport aux évaluateurs humains sur le même article, on a constaté que plus de 50% des commentaires de l'IA sur les articles de Nature et plus de 77% sur les articles de l'ICLR s'alignaient sur les points soulevés par les évaluateurs humains.
Bien entendu, ChatGPT est beaucoup plus rapide que les évaluateurs humains. "Il est de plus en plus difficile pour les chercheurs d'obtenir un retour d'information de qualité de la part des évaluateurs", a déclaré James Zou de l'université de Stanford, le chercheur principal de cette expérience.
La relation entre l'IA et la recherche soulève des questions fondamentales sur l'évaluation scientifique et sur la question de savoir si le jugement humain est intrinsèque au processus. L'équilibre entre l'efficacité de l'IA et la perspicacité humaine est l'une des nombreuses questions clés auxquelles les scientifiques de tous horizons devront faire face dans les années à venir.
L'IA pourrait bientôt être capable de gérer l'ensemble du processus de recherche, du début à la fin, ce qui pourrait permettre d'écarter complètement les chercheurs humains.
Par exemple, SakanaLe scientifique de l'IA de la génère de manière autonome de nouvelles idées de recherche, conçoit et mène des expériences, et même rédige et révise des articles scientifiques. Cela laisse présager un avenir où l'IA pourrait être à l'origine de découvertes scientifiques avec une intervention humaine minimale.
Sur le plan méthodologique, l'utilisation de l'apprentissage machine (ML) pour traiter et analyser les données comporte des risques. Princeton les chercheurs ont fait valoir que de nombreuses techniques de ML ne peuvent pas être facilement reproduites, ce qui nuit à la reproductibilité des expériences - un principe clé de la science de haute qualité.
En définitive, la montée en puissance de l'IA dans tous les aspects de la recherche et de la science s'accélère, et le processus est probablement irréversible.
L'année dernière, Nature a interrogé 1 600 chercheurs et a révélé que 66% pensent que l'IA permet un traitement plus rapide des données, 58% qu'elle accélère des analyses auparavant infaisables, et 55% qu'elle constitue une solution permettant de gagner du temps et de l'argent.
Comme le conclut Simon Baker, auteur principal de l'aperçu du supplément, "l'IA modifie à jamais la façon dont les chercheurs travaillent, mais l'expertise humaine doit continuer à s'imposer" : "L'IA change à jamais la façon dont les chercheurs travaillent, mais l'expertise humaine doit continuer à s'imposer."
La question est maintenant de savoir comment la communauté scientifique mondiale s'adaptera au rôle de l'IA dans la recherche, en veillant à ce que la révolution scientifique de l'IA profite à l'ensemble de l'humanité, sans que des risques imprévus ne viennent perturber la science.
Comme pour de nombreux aspects de la technologie, la maîtrise des avantages et des risques est un défi, mais elle est nécessaire pour garantir un avenir sûr.
