Des scientifiques de l'université de Bonn, dirigés par le professeur Jürgen Bajorath, ont découvert le fonctionnement interne des IA "boîtes noires" utilisées dans la recherche pharmaceutique.
Leur étuderécemment publiée dans Nature Machine Intelligence, révèle que les modèles d'IA dans la découverte de médicaments dépendent principalement du rappel de données existantes plutôt que de l'apprentissage de nouvelles interactions chimiques. Cela remet en question les hypothèses antérieures sur la façon dont l'IA fait des prédictions dans ce domaine.
Les chercheurs utilisent l'apprentissage automatique pour localiser les molécules qui interagissent efficacement avec les protéines cibles, ce qui implique souvent de prédire quelles molécules se lieront fortement aux protéines cibles, puis de valider expérimentalement ces prédictions.
Cette forme de découverte de médicaments assistée par l'IA a connu des percées majeures en 2023, notamment une Modèle développé par le MIT qui a analysé des millions de composés à la recherche d'effets thérapeutiques potentiels, les médicaments découverts par l'IA ont montré qu'ils étaient plus efficaces que les médicaments traditionnels. prometteur dans le ralentissement du vieillissementet les protéines générées par l'IA montrant excellente force de liaison.
La question à laquelle Bajorath et son équipe ont cherché à répondre est la suivante : comment certains de ces modèles parviennent-ils à leurs résultats ?
L'équipe de recherche s'est concentrée sur les réseaux neuronaux graphiques (GNN), un type d'application d'apprentissage automatique largement utilisé dans la découverte de médicaments. Les réseaux neuronaux graphiques sont formés à l'aide de graphes représentant des interactions médicamenteuses potentielles.
Toutefois, comme le souligne le professeur Bajorath, "la manière dont les GNN parviennent à leurs prédictions est comme une boîte noire dans laquelle nous ne pouvons pas jeter un coup d'œil".
Pour démystifier complètement ce processus, l'équipe a analysé six architectures GNN différentes. Andrea Mastropietro, auteur de l'étude et candidat au doctorat à l'université Sapienza de Rome, déclare : "Les GNN sont très dépendants des données avec lesquelles ils sont formés."
Les chercheurs ont découvert que les GNN s'appuient principalement sur les similitudes chimiques de leurs données d'apprentissage pour faire des prédictions plutôt que d'apprendre des interactions spécifiques entre les composés et les protéines.
Cela signifie essentiellement que les modèles d'IA "se souviennent" plutôt que d'"apprendre" de nouvelles interactions.
L'effet "Hans le malin" dans l'IA
Les chercheurs comparent ce phénomène à l'effet "Clever Hans", selon lequel un cheval semble faire de l'arithmétique en interprétant les signaux subtils de son maître plutôt qu'en comprenant réellement les mathématiques.
De même, les prédictions de l'IA consistent davantage à rappeler des données connues qu'à comprendre des interactions chimiques complexes.
Les résultats suggèrent que la capacité des GNN à apprendre les interactions chimiques est surestimée et que des méthodes plus simples pourraient être tout aussi efficaces.
Toutefois, certains GNN ont montré un potentiel dans l'apprentissage d'un plus grand nombre d'interactions, ce qui indique que des techniques de formation améliorées pourraient renforcer leurs performances.
Bajorath's développe également des méthodes pour clarifier la fonctionnalité des modèles d'IA dans le cadre de l'"IA explicable", un domaine émergent qui vise à rendre les processus décisionnels de l'IA transparents et compréhensibles.
