Los investigadores pretenden determinar cómo funcionan los modelos de "caja negra" para el descubrimiento de fármacos

1 de enero de 2024

drogas IA

Científicos de la Universidad de Bonn, dirigidos por el catedrático Jürgen Bajorath, han descubierto el funcionamiento interno de las "cajas negras" de las IA que intervienen en la investigación farmacéutica. 

Su estudiarpublicado recientemente en Nature Machine Intelligence, revela que los modelos de IA en el descubrimiento de fármacos dependen predominantemente de recordar datos existentes en lugar de aprender nuevas interacciones químicas. Esto desafía las suposiciones previas sobre cómo la IA hace predicciones en este campo.

Los investigadores utilizan el aprendizaje automático para localizar moléculas que interactúen eficazmente con las proteínas diana, lo que a menudo implica predecir qué moléculas se unirán fuertemente a las proteínas diana, seguido de la validación experimental de estas predicciones.

Esta forma de descubrimiento de fármacos asistido por IA experimentó grandes avances en 2023, incluyendo un Modelo desarrollado por el MIT que analizaba millones de compuestos en busca de posibles efectos terapéuticos, los fármacos descubiertos por la IA que mostraban prometedoras para frenar el envejecimientoy las proteínas generadas por la IA que muestran excelente resistencia de encuadernación.

La pregunta que Bajorath y su equipo intentaron responder es: ¿cómo consiguen algunos de estos modelos sus resultados?

El equipo de investigación se centró en las redes neuronales gráficas (GNN), un tipo de aplicación de aprendizaje automático muy utilizada en el descubrimiento de fármacos. Las GNN se entrenan con grafos que representan posibles interacciones entre fármacos. 

Sin embargo, como señala el profesor Bajorath, "cómo llegan las GNN a sus predicciones es como una caja negra a la que no podemos asomarnos".

Para desmitificar exhaustivamente este proceso, el equipo analizó seis arquitecturas GNN diferentes. Andrea Mastropietro, autor del estudio y doctorando en la Universidad Sapienza de Roma, afirma: "Las GNN dependen mucho de los datos con los que se entrenan."

Los investigadores descubrieron que las GNN se basan principalmente en las similitudes químicas de sus datos de entrenamiento para hacer predicciones, en lugar de aprender interacciones específicas entre compuestos y proteínas.

Esto significa esencialmente que los modelos de IA a menudo "recuerdan" más que "aprenden" nuevas interacciones.

El "efecto Hans el listo" en la IA

Los investigadores comparan este fenómeno con el "efecto Clever Hans", en el que un caballo parece realizar operaciones aritméticas interpretando sutiles indicaciones de su cuidador en lugar de comprender realmente las matemáticas. 

Del mismo modo, las predicciones de la IA se basan más en el recuerdo de datos conocidos que en la comprensión de interacciones químicas complejas.

Los resultados sugieren que la capacidad de las GNN para aprender interacciones químicas está sobrevalorada, y que métodos más sencillos podrían ser igualmente eficaces. 

Sin embargo, algunas GNN mostraron potencial para aprender más interacciones, lo que indica que la mejora de las técnicas de entrenamiento podría aumentar su rendimiento.

Prof. Bajorath's también está desarrollando métodos para aclarar la funcionalidad de los modelos de IA en busca de una "IA explicable", un campo emergente para hacer transparentes y comprensibles los procesos de toma de decisiones de la IA.

Únete al futuro


SUSCRÍBETE HOY

Claro, conciso y completo. Conozca los avances de la IA con DailyAI

Sam Jeans

Sam es un escritor de ciencia y tecnología que ha trabajado en varias startups de IA. Cuando no está escribiendo, se le puede encontrar leyendo revistas médicas o rebuscando en cajas de discos de vinilo.

×

PDF GRATUITO EXCLUSIVO
Adelántese con DailyAI

Suscríbase a nuestro boletín semanal y reciba acceso exclusivo al último eBook de DailyAI: 'Mastering AI Tools: Su guía 2024 para mejorar la productividad'.

*Al suscribirse a nuestro boletín de noticias, acepta nuestra política de privacidad. Política de privacidad y nuestro Condiciones generales