Исследователи DeepMind представили "FunSearch", новый метод, использующий большие языковые модели (LLM) для поиска новых решений в области математики и информатики.
Работа, опубликованная в журнале ПриродаОн описывает FunSearch, который сочетает в себе предварительно обученный LLM, которому поручено найти изобретательные решения на основе кода, и автоматический оценщик, который устраняет неточности в процессе решения задач.
Вначале с помощью LLM генерируются творческие решения в виде компьютерного кода. Затем автоматизированная система проверяет эти решения, чтобы убедиться в их правильности и полезности. Этот процесс повторяется, с каждым циклом решения совершенствуются, превращая первоначальные идеи в новые, проверенные знания.
Проще говоря, FunSearch - это мозговой штурм между креативным мыслителем (LLM) и строгим контролером фактов, которые работают вместе, чтобы найти инновационные ответы на сложные проблемы.
Этот итеративный процесс позволяет первоначальным идеям развиваться в проверенные новые знания.
В ходе текущих экспериментов DeepMind FunSearch успешно помог разобраться в ключевых математических задачах, включая задачу о наборе шапок и задачу о расфасовке мусора.
Решение проблемы набора крышек
Один из главных успехов FunSearch Это его производительность в задаче о наборе шапок - сложной задаче математической теории.
Вот более глубокий взгляд на эту проблему:
- Задача о наборе точек основана на высокоразмерном пространстве, где целью является нахождение наибольшего возможного набора точек (набора), в котором никакие три точки не выстраиваются в прямую линию.
- Проблема связана с экспоненциальным ростом числа возможных комбинаций по мере увеличения размерности пространства, что делает традиционные вычислительные подходы неэффективными.
- Прорыв FunSearch заключается в создании программ, которые определяли большие наборы шапок, чем было известно ранее, демонстрируя беспрецедентную способность превзойти математические знания, основанные на человеческом факторе.
Более практическая задача, решаемая FunSearch, - это задача упаковки контейнеров, которая ищет оптимальные стратегии для упаковки предметов разного размера в контейнеры. Эта задача актуальна как в физических сценариях, например, при организации контейнеров для перевозки грузов, так и в вычислительной науке, например, при организации вычислительных задач для повышения эффективности.
Традиционные методы обычно предполагают упаковку вещей в первое попавшееся место или в помещение с наименьшим количеством свободного места.
Однако FunSearch предлагает эффективные подходы, которые стратегически позволяют не оставлять незаполненных небольших пробелов.
Возможные варианты использования FunSearch
Джордан Элленберг, профессор математики из Университета Висконсин-Мэдисон и соавтор статьи, подчеркнул значение FunSearch для будущего человеко-машинного взаимодействия в компьютерных науках и математике.
"Что я нахожу действительно захватывающим, даже больше, чем конкретные результаты, которые мы обнаружили, так это перспективы, которые это открывает для будущего человеко-машинного взаимодействия в математике", - говорит Элленберг.
Он пояснил: "Вместо того чтобы генерировать решение, FunSearch генерирует программу, которая находит решение. Решение конкретной проблемы может не дать мне никакого представления о том, как решать другие связанные с ней проблемы".
"Но программа, которая находит решение, - это то, что человек может прочитать, интерпретировать и, надеюсь, таким образом генерировать идеи для следующей проблемы, следующей и следующей".
Вот более подробная информация о том, как FunSearch открывает новые горизонты в области машинного обучения:
- Творческое решение проблем с созданием кода: В отличие от многих систем искусственного интеллекта, ориентированных на анализ данных или распознавание образов, FunSearch специализируется на генерации творческих решений в компьютерном коде. Это позволяет ему решать задачи, связанные не только с интерпретацией данных, но и с созданием новых способов решения сложных проблем.
- Итеративное совершенствование: В FunSearch используется итерационный процесс постоянного совершенствования решений. Он начинается с первоначальной идеи, сгенерированной LLM, а затем совершенствуется путем ряда оценок и улучшений. Этот процесс имитирует то, как люди часто решают проблемы - начиная с грубой идеи и улучшая ее со временем.
- Творчество и строгость: FunSearch преодолевает разрыв между творческим подходом к решению проблем и строгой оценкой. LLM привносит креативность и инновации, генерируя новые и неизведанные решения, а автоматический оценщик обеспечивает точность и жизнеспособность этих решений. Такой двойной подход крайне важен в научных областях, где инновации должны сочетаться с точностью.
- Прозрачность: Одним из уникальных аспектов FunSearch является его способность предоставлять прозрачные, интерпретируемые результаты. Вместо того чтобы предлагать окончательный ответ, он генерирует программу, подробно описывающую, как было достигнуто решение. Такая прозрачность жизненно важна для научных исследований, где понимание процесса не менее важно, чем результат.
Руководитель отдела искусственного интеллекта в научном подразделении DeepMind Пушмит Кохли рассказал, как FunSearch открывает новую форму исследований в области машинного обучения: "Это действительно будет трансформацией в том, как люди подходят к компьютерным наукам и алгоритмическим открытиям. Впервые мы видим, что LLM не берут на себя ответственность, а помогают расширить границы возможного в алгоритмах".
Сочетая творческие способности магистрантов со строгой оценкой, FunSearch демонстрирует новый подход к решению сложных открытых проблем. Его практическое применение будет просто захватывающим.
