El suplemento 2024 del Nature Index sobre Inteligencia Artificial, publicado esta semana, revela un mundo científico inmerso en un cambio de paradigma impulsado por la IA.
Este informe anual, publicado por la revista Nature, realiza un seguimiento de la ciencia de alta calidad midiendo los resultados de la investigación en 82 revistas de ciencias naturales, seleccionadas por un grupo independiente de investigadores.
La última edición ilustra cómo la IA no sólo está cambiando lo que estudian los científicos, sino que está alterando fundamentalmente la forma en que la investigación se lleva a cabo, se evalúa y se aplica en todo el mundo.
Una de las tendencias más llamativas que revela el Índice es el aumento del investigación empresarial sobre IA. Las empresas estadounidenses han duplicado con creces su producción en las revistas del Índice Nature desde 2019, y su Share (métrica utilizada por el Índice para medir la producción investigadora) ha aumentado de 51,8 a 106,5.
Sin embargo, este auge de la actividad de I+D viene acompañado de una advertencia: sólo representa 3,8% de la producción total de investigación sobre IA en EE.UU. en estas publicaciones. En esencia, a pesar del importante aumento de la I+D empresarial en IA, no hemos visto que esos esfuerzos se reflejen en los resultados de la investigación pública.
Esto plantea interrogantes sobre la ubicación de la investigación empresarial sobre IA. Publican las empresas sus trabajos más innovadores en otros lugares o los mantienen bajo llave?
La respuesta es una competencia de nombres y narrativas. OpenAI, Microsoft, Google, Anthropic y un puñado más están firmemente atrincherados en el modelo de código cerrado, pero la industria de la IA de código abierto, liderada por Meta, Mistral y otros, está ganando terreno rápidamente.
A ello contribuye la asombrosa disparidad de financiación entre empresas privadas e instituciones públicas en la investigación de la IA.
En 2021, según el Informe sobre el Índice de IA de la Universidad de Stanford, la inversión del sector privado en IA en todo el mundo alcanzó aproximadamente $93,5 mil millones.
Esto incluye el gasto de gigantes tecnológicos como Google, Microsoft y Amazon, así como de empresas emergentes centradas en la IA y otras corporaciones de diversos sectores.
En cambio, la financiación pública de la investigación en IA es mucho menor. El gasto en I+D de IA no relacionada con la defensa del Gobierno de EE.UU. en 2021 fue de unos 1.400 millones de euros, mientras que la Comisión Europea destinó unos 1.000 millones de euros (aproximadamente 1.000 millones de euros) a la investigación de IA ese año.
Este vacío en el gasto de recursos está dando ventaja a las empresas privadas en el desarrollo de la IA. Pueden permitirse recursos informáticos más potentes y conjuntos de datos más grandes y atraer a los mejores talentos con salarios más altos.
"Cada vez nos encontramos más ante una situación en la que la investigación sobre IA de primer nivel se realiza principalmente en los laboratorios de investigación de un número bastante reducido de empresas, en su mayoría estadounidenses". explicó Holger Hoosinvestigador de Inteligencia Artificial de la Universidad RWTH de Aquisgrán (Alemania).
Mientras Estados Unidos mantiene su liderazgo en la investigación de la IA, países como China, Reino Unido y Alemania están emergiendo como importantes centros de innovación y colaboración.
Sin embargo, este crecimiento no es uniforme en todo el mundo. Sudáfrica es el único país africano entre los 40 primeros en producción de IA, lo que demuestra que la brecha digital corre el riesgo de agravarse en la era de la IA.
La IA en la revisión inter pares: promesa y peligro
La revisión por homólogos garantiza el rigor académico y metodológico y la transparencia cuando los trabajos se envían a las revistas.
Este año, un artículo sin sentido con testículos de rata gigantes generados por IA fue publicado en Frontierslo que indica que el proceso de revisión por pares dista mucho de ser impenetrable.
Alguien usó DALL-E para crear cifras científicas de galimatías y presentarlas a Frontiers Journal. ¿Y adivina qué? El editor lo publicó. LOLhttps://t.co/hjQkRQDkal https://t.co/aV1USo6Vt2 pic.twitter.com/VAkjJkY4dR
- Veera Rajagopal (@doctorveera) 15 de febrero de 2024
Experimentos recientes han demostrado que la IA puede generar informes de evaluación de la investigación casi indistinguibles de los redactados por expertos humanos.
El año pasado, un experimento Al comparar las revisiones por pares de ChatGPT con las de revisores humanos sobre el mismo artículo, se descubrió que más de 50% de los comentarios de la IA sobre los artículos de Nature y más de 77% sobre los artículos del ICLR coincidían con los puntos planteados por los revisores humanos.
Por supuesto, ChatGPT es mucho más rápido que los revisores humanos. "Cada vez es más difícil para los investigadores obtener comentarios de alta calidad de los revisores", afirma James Zou, de la Universidad de Stanford, investigador principal del experimento.
La relación de la IA con la investigación está planteando cuestiones fundamentales sobre la evaluación científica y sobre si el juicio humano es intrínseco al proceso. El equilibrio entre la eficiencia de la IA y la perspicacia humana es una de las cuestiones clave a las que tendrán que enfrentarse los científicos de todos los campos en los próximos años.
La IA pronto podría ser capaz de gestionar todo el proceso de investigación, de principio a fin, dejando de lado a los investigadores humanos.
Por ejemplo, SakanaCientífico de IA genera de forma autónoma nuevas ideas de investigación, diseña y realiza experimentos, e incluso redacta y revisa artículos científicos. Esto hace pensar en un futuro en el que la IA podría impulsar los descubrimientos científicos con una intervención humana mínima.
Desde el punto de vista metodológico, el uso del aprendizaje automático para procesar y analizar datos conlleva riesgos. Princeton los investigadores argumentaron que, dado que muchas técnicas de ML no pueden reproducirse fácilmente, esto erosiona la replicabilidad de los experimentos, un principio clave de la ciencia de alta calidad.
En última instancia, el ascenso de la IA a la prominencia en todos los aspectos de la investigación y la ciencia está ganando impulso, y es probable que el proceso sea irreversible.
El año pasado, Nature encuestó a 1.600 investigadores y descubrió que 66% creen que la IA permite un procesamiento más rápido de los datos, 58% que acelera análisis antes inviables y 55% consideran que es una solución que ahorra costes y tiempo.
Como concluye Simon Baker, autor principal del resumen del suplemento: "La IA está cambiando para siempre la forma de trabajar de los investigadores, pero la experiencia humana debe seguir prevaleciendo".
La cuestión ahora es cómo se adaptará la comunidad científica mundial al papel de la IA en la investigación, garantizando que la revolución de la IA en la ciencia beneficie a toda la humanidad, y sin riesgos imprevistos que causen estragos en la ciencia.
Como ocurre con tantos aspectos de la tecnología, dominar tanto las ventajas como los riesgos es un reto, pero necesario para garantizar un camino seguro hacia el futuro.
