Wissenschaftler der Universität Bonn haben unter der Leitung von Professor Dr. Jürgen Bajorath das Innenleben von "Black Box"-KIs in der Pharmaforschung aufgedeckt.
Ihre StudieDie kürzlich in Nature Machine Intelligence veröffentlichte Studie zeigt, dass KI-Modelle in der Arzneimittelforschung überwiegend auf dem Abrufen vorhandener Daten beruhen, anstatt neue chemische Wechselwirkungen zu lernen. Dies stellt bisherige Annahmen darüber in Frage, wie KI in diesem Bereich Vorhersagen trifft.
Forscher nutzen maschinelles Lernen, um Moleküle zu finden, die effektiv mit Zielproteinen interagieren. Dazu gehört häufig die Vorhersage, welche Moleküle stark an Zielproteine binden werden, gefolgt von einer experimentellen Validierung dieser Vorhersagen.
Bei dieser Form der KI-gestützten Arzneimittelforschung gab es 2023 wichtige Durchbrüche, darunter ein MIT-entwickeltes Modell das Millionen von Verbindungen auf ihre potenzielle therapeutische Wirkung hin analysiert hat, zeigen die von der KI entdeckten Arzneimittel vielversprechend bei der Verlangsamung der Alterungund AI-generierte Proteine, die ausgezeichnete Bindungsstärke.
Die Frage, die Bajorath und sein Team zu beantworten versuchten, lautet: Wie kommen einige dieser Modelle zu ihren Ergebnissen?
Das Forschungsteam konzentrierte sich auf Graph Neural Networks (GNNs), eine Art von maschinellen Lernanwendungen, die in der Arzneimittelforschung weit verbreitet sind. GNNs werden anhand von Graphen trainiert, die potenzielle Arzneimittelinteraktionen darstellen.
Doch wie die GNN zu ihren Vorhersagen kommen, ist wie eine Blackbox, in die wir nicht hineinschauen können", so Prof. Bajorath.
Um diesen Prozess umfassend zu entmystifizieren, analysierte das Team sechs verschiedene GNN-Architekturen. Andrea Mastropietro, Studienautor und Doktorand an der Universität Sapienza in Rom, erklärt: "Die GNNs sind sehr abhängig von den Daten, mit denen sie trainiert werden."
Die Forscher entdeckten, dass sich die GNNs hauptsächlich auf chemische Ähnlichkeiten aus ihren Trainingsdaten stützen, um Vorhersagen zu treffen, anstatt spezifische Wechselwirkungen zwischen Verbindungen und Proteinen zu lernen.
Das bedeutet im Wesentlichen, dass sich die KI-Modelle oft an neue Interaktionen "erinnern", anstatt sie zu "lernen".
Der "Clevere Hans-Effekt" in der KI
Die Forscher vergleichen dieses Phänomen mit dem "Clever-Hans-Effekt", bei dem ein Pferd scheinbar Arithmetik betreibt, indem es subtile Hinweise seines Führers interpretiert, anstatt die Mathematik tatsächlich zu verstehen.
Auch bei den Vorhersagen der KI geht es eher darum, bekannte Daten abzurufen, als komplexe chemische Wechselwirkungen zu verstehen.
Die Ergebnisse deuten darauf hin, dass die Fähigkeit von GNNs, chemische Interaktionen zu lernen, überschätzt wird und dass einfachere Methoden ebenso effektiv sein könnten.
Einige GNNs zeigten jedoch das Potenzial, mehr Interaktionen zu lernen, was darauf hindeutet, dass verbesserte Trainingstechniken ihre Leistung steigern könnten.
Prof. Bajoraths Das Team entwickelt außerdem Methoden zur Klärung der Funktionsweise von KI-Modellen im Rahmen der "erklärbaren KI", einem neuen Bereich, der die Entscheidungsprozesse der KI transparent und verständlich machen soll.
