Una reciente encuesta de Nature en la que participaron más de 1.600 investigadores de todo el mundo arrojó luz sobre el creciente papel de la IA en la ciencia y la investigación.
La encuesta reveló que, aunque muchos son optimistas sobre los beneficios potenciales de la IA en la ciencia, existe una creciente preocupación sobre cómo la IA está cambiando la industria científica en su conjunto.
En estudiar entre los participantes:
- Los que desarrollan o estudian activamente la IA (48%)
- Los que utilizan herramientas de IA para su investigación pero no las desarrollan (30%)
- Los que no utilizan la IA en sus actividades científicas (22%)
El auge de la IA en la investigación científica
El estudio reveló que, en la última década, se ha producido un notable aumento de los artículos de investigación que hacen referencia a términos de IA.
El análisis de datos y las técnicas estadísticas que utilizan el aprendizaje automático (ML) se han convertido en la norma.
Además, la IA generativa, en particular los grandes modelos de lenguaje (LLM), se está utilizando para generar texto, imágenes y código para la investigación científica.
Algunas estadísticas clave sobre los beneficios de la IA en la investigación:
- 66% de los investigadores señalan que la IA permite un tratamiento más rápido de los datos
- 58% creen que acelera cálculos antes inviables
- 55% creen que es una solución rentable y que ahorra tiempo
Irene Kaplow, bióloga computacional de la Universidad de Duke, describió: "La IA me ha permitido avanzar en la respuesta a preguntas biológicas donde antes era inviable".
Preocupaciones
Sin embargo, esta moneda tiene su reverso. Los investigadores expresaron su preocupación por lo siguiente:
- Mayor dependencia del reconocimiento de patrones sin una verdadera comprensión (69%)
- Posible perpetuación de sesgos o discriminación en los resultados (58%)
- La facilidad con la que pueden llevarse a cabo actividades fraudulentas (55%)
- La posibilidad de obtener resultados de investigación irrepetibles debido a una utilización descuidada de la IA (53%)
Jeffrey Chuang, experto en análisis de imágenes de cáncer del Laboratorio Jackson, destacó: "El principal problema es que la IA está desafiando nuestros estándares actuales de prueba y verdad".
Los LLM en el punto de mira
Los LLM, en particular ChatGPT, se citaban a menudo como herramientas de IA de incalculable valor en la ciencia. Sin embargo, estos modelos también encabezaban la lista de herramientas de IA preocupantes.
Entre las principales preocupaciones figuraban:
- Proliferación de la desinformación (68%).
- Plagio facilitado (68%).
- Introducción de errores en documentos de investigación (66%).
Isabella Degen, investigadora sobre IA en medicina de la Universidad de Bristol, comentó: "Está claro que se hace un mal uso de los grandes modelos lingüísticos. No entendemos bien dónde está la frontera entre el buen uso y el mal uso".
Además, la propiedad de las herramientas de IA y los recursos informáticos se señalaron como obstáculos para la investigación moderna. Las GPU son excepcionalmente caras y a las instituciones de investigación les resulta difícil entrenar internamente sus potentes modelos.
Como describió Garrett Morris, químico de la Universidad de Oxford, "sólo un número muy reducido de entidades del planeta tiene capacidad para entrenar los modelos de gran tamaño. Esa restricción está limitando la capacidad de la ciencia para hacer descubrimientos".
En general, la mayoría de los investigadores creen que la IA es una fuerza irreversible en la ciencia.
Como concluye Yury Popov, especialista en enfermedades hepáticas del Centro Médico Beth Israel Deaconess, "la IA es transformadora. Ahora tenemos que centrarnos en cómo asegurarnos de que aporte más beneficios que problemas."
