Ученые из Боннского университета под руководством профессора доктора Юргена Байората (Jürgen Bajorath) раскрыли внутреннюю работу "черного ящика" ИИ, участвующего в фармацевтических исследованиях.
Их исследованиеНедавно опубликованная в журнале Nature Machine Intelligence работа показала, что модели ИИ в области поиска лекарств в основном зависят от запоминания существующих данных, а не от изучения новых химических взаимодействий. Это ставит под сомнение прежние предположения о том, как ИИ делает прогнозы в этой области.
Исследователи используют машинное обучение для поиска молекул, эффективно взаимодействующих с целевыми белками, что часто включает в себя предсказание того, какие молекулы будут сильно связываться с целевыми белками, с последующим экспериментальным подтверждением этих предсказаний.
В 2023 году в этой форме открытия лекарств с помощью искусственного интеллекта произошли значительные прорывы, в том числе Модель, разработанная в Массачусетском технологическом институте ИИ, анализирующий миллионы соединений на предмет потенциального терапевтического эффекта, обнаружил лекарства, демонстрирующие обещание замедлить старениеи белки, созданные искусственным интеллектом, демонстрирующие отличная прочность скрепления.
Баджорат и его команда пытались ответить на вопрос: как некоторые из этих моделей достигают своих результатов?
Исследовательская группа сосредоточила свое внимание на графовых нейронных сетях (ГНС) - типе машинного обучения, широко используемом при поиске лекарств. Для обучения GNN используются графы, представляющие потенциальные взаимодействия лекарств.
Однако, как отмечает профессор Байорат, "то, как GNN делают свои прогнозы, похоже на черный ящик, в который мы не можем заглянуть".
Чтобы всесторонне изучить этот процесс, команда проанализировала шесть различных архитектур GNN. Андреа Мастропьетро, автор исследования и кандидат наук в Университете Сапиенца в Риме, утверждает: "GNN очень зависят от данных, на которых они обучаются".
Исследователи обнаружили, что при составлении прогнозов GNN опираются преимущественно на химическое сходство обучающих данных, а не на изучение конкретных взаимодействий между соединениями и белками.
По сути, это означает, что модели ИИ часто "запоминают", а не "учатся" новым взаимодействиям.
Эффект "умного Ганса" в искусственном интеллекте
Исследователи сравнивают этот феномен с "эффектом умного Ганса", когда кажется, что лошадь выполняет арифметические действия, интерпретируя тонкие сигналы своего дрессировщика, а не понимает математику.
Аналогично, предсказания ИИ больше направлены на запоминание известных данных, чем на понимание сложных химических взаимодействий.
Полученные результаты свидетельствуют о том, что возможности GNN по изучению химических взаимодействий переоценены, и более простые методы могут быть столь же эффективны.
Однако некоторые GNN продемонстрировали потенциал в обучении большему количеству взаимодействий, что указывает на то, что усовершенствованные методы обучения могут повысить их эффективность.
Профессор Байорат Команда также разрабатывает методы уточнения функциональности моделей ИИ, стремясь к "объяснимому ИИ" - зарождающемуся направлению, призванному сделать процессы принятия решений ИИ прозрачными и понятными.
