Вышедшее на этой неделе дополнение к Nature Index 2024, посвященное искусственному интеллекту, показывает, что научный мир находится в муках смены парадигмы, обусловленной ИИ.
Этот ежегодный отчет, публикуемый журналом Nature, отслеживает высокое качество науки, измеряя результаты исследований в 82 журналах по естественным наукам, отобранных независимой группой исследователей.
Последнее издание иллюстрирует, как ИИ не только меняет то, что изучают ученые, но и кардинально меняет методы проведения, оценки и применения исследований во всем мире.
Одной из наиболее ярких тенденций, выявленных в Индексе, является резкое увеличение Корпоративные исследования в области ИИ. С 2019 года американские компании более чем удвоили объем публикаций в журналах, входящих в индекс Nature, а их доля (показатель, используемый индексом для оценки результатов исследований) увеличилась с 51,8 до 106,5.
Однако этот бум научно-исследовательской деятельности сопровождается оговоркой - на него по-прежнему приходится лишь 3,8% от общего объема исследований в области ИИ в США, представленных в этих публикациях. По сути, несмотря на значительный рост корпоративных исследований и разработок в области ИИ, мы не видим отражения этих усилий в публичных исследованиях.
В связи с этим возникают вопросы о том, где проводятся корпоративные исследования в области ИИ. Публикуют ли компании свои самые революционные работы на других площадках или держат их под замком?
Ответ заключается в соперничестве имен и повествований. OpenAI, Microsoft, Google, Anthropic и ряд других компаний твердо придерживаются модели с закрытым исходным кодом, но индустрия ИИ с открытым исходным кодом, возглавляемая Meta, Mistral и другими, стремительно набирает обороты.
Этому способствует неравенство в финансировании исследований в области ИИ между частными компаниями и государственными учреждениями.
В 2021 году, согласно отчету Stanford University's AI Index Report, инвестиции частного сектора в ИИ в мире достигнут примерно $93,5 млрд.
Сюда входят расходы таких технологических гигантов, как Google, Microsoft и Amazon, а также стартапов, ориентированных на ИИ, и других корпораций, работающих в различных отраслях.
В отличие от этого, государственное финансирование исследований в области ИИ гораздо ниже. В 2021 году расходы правительства США на исследования в области ИИ, не связанные с обороной, составили около $1,5 млрд, а Европейская комиссия в том же году выделила на исследования в области ИИ около 1 млрд евро (примерно $1,1 млрд).
Этот пробел в расходах на ресурсы дает частным компаниям преимущество в разработке ИИ. Они могут позволить себе более мощные вычислительные ресурсы и большие массивы данных, а также привлечь лучших специалистов более высокими зарплатами.
"Мы все чаще сталкиваемся с ситуацией, когда первоклассные исследования в области ИИ проводятся в основном в исследовательских лабораториях довольно небольшого числа компаний, расположенных преимущественно в США". объяснил Хольгер Хоосисследователь в области искусственного интеллекта из Университета RWTH Aachen в Германии.
В то время как США сохраняют лидерство в области исследований ИИ, такие страны, как Китай, Великобритания и Германия, становятся основными центрами инноваций и сотрудничества.
Однако этот рост не является равномерным по всему миру. ЮАР - единственная африканская страна, вошедшая в топ-40 по объему производства ИИ, что свидетельствует о риске углубления цифрового неравенства в эпоху ИИ.
ИИ в рецензировании: перспективы и опасности
Рецензирование обеспечивает академическую и методологическую строгость и прозрачность при подаче статей в журналы.
В этом году нелепая статья с гигантскими крысиными яичками, сгенерированными искусственным интеллектом, была Опубликовано в журнале Frontiersчто свидетельствует о том, что процесс рецензирования далеко не так непрост.
Кто-то использовал DALL-E чтобы создать беспорядочные научные цифры и представить их в Frontiers Journal. И знаете что? Редактор опубликовал его. LOLhttps://t.co/hjQkRQDkal https://t.co/aV1USo6Vt2 pic.twitter.com/VAkjJkY4dR
- Вера Раджагопал (@doctorveera) 15 февраля 2024 года
Недавние эксперименты показали, что ИИ может генерировать отчеты об оценке исследований, которые практически неотличимы от тех, что написаны человеческими экспертами.
В прошлом году, эксперимент Проверка экспертных оценок ChatGPT в сравнении с человеческими рецензентами по одной и той же статье показала, что более 50% комментариев ИИ по статьям Nature и более 77% по статьям ICLR совпали с замечаниями, высказанными человеческими рецензентами.
Конечно, ChatGPT работает гораздо быстрее, чем человеческие рецензенты. "Исследователям становится все труднее получать качественные отзывы от рецензентов", - говорит Джеймс Зоу из Стэнфордского университета, ведущий исследователь этого эксперимента.
Взаимодействие ИИ с научными исследованиями поднимает фундаментальные вопросы о научной оценке и о том, является ли человеческое суждение неотъемлемой частью этого процесса. Баланс между эффективностью ИИ и человеческой проницательностью - один из нескольких ключевых вопросов, которые предстоит решить ученым всех профилей в ближайшие годы.
Возможно, в скором времени ИИ сможет управлять всем процессом исследования от начала до конца, что в перспективе полностью отодвинет на второй план исследователей-людей.
Например, SakanaИИ-ученый ИИ автономно генерирует новые исследовательские идеи, разрабатывает и проводит эксперименты и даже пишет и рецензирует научные статьи. Это наводит на мысль о будущем, в котором ИИ будет способствовать научным открытиям при минимальном вмешательстве человека.
С точки зрения методологии, использование машинного обучения (ML) для обработки и анализа данных сопряжено с определенными рисками. Принстон исследователи утверждали Поскольку многие методы ML не могут быть легко воспроизведены, это подрывает воспроизводимость экспериментов - ключевой принцип высококачественной науки.
В конечном счете, ИИ набирает обороты во всех сферах исследований и науки, и этот процесс, скорее всего, необратим.
В прошлом году журнал Nature опросили 1 600 исследователей и обнаружили, что 66% считают, что ИИ позволяет быстрее обрабатывать данные, 58% - что он ускоряет ранее невыполнимый анализ, а 55% - что это решение позволяет экономить средства и время.
Саймон Бейкер, ведущий автор обзора приложения, заключает: "ИИ навсегда меняет методы работы исследователей, но человеческий опыт должен оставаться в силе".
Теперь вопрос заключается в том, как мировое научное сообщество будет адаптироваться к роли ИИ в исследованиях, чтобы революция ИИ в науке принесла пользу всему человечеству и чтобы непредвиденные риски не нанесли ущерб науке.
Как и в случае со многими другими аспектами технологии, освоение преимуществ и рисков является сложной задачей, но необходимой для обеспечения безопасного продвижения вперед.
