Исследователи Microsoft разработали алгоритм мыслей (Algorithm of Thoughts, AoT), который представляет собой смену парадигмы в решении задач ИИ.
Система AoT была разработана для того, чтобы заставить LLM мыслить так же, как люди, и стать более эффективными в решении проблем. Microsoft утверждает, что ее новый подход сочетает в себе "тонкости человеческого мышления и дисциплинированную точность алгоритмических методик".
Текущий процесс Chain of Thought, который используют LLM, такие как ChatGPT, опирается на статистические шаблоны, чтобы перейти от подсказки к результату. Это очень линейное продвижение от проблемы к решению, поскольку LLM разбивает решение на более мелкие шаги.
Проблема этого подхода заключается в том, что данных для обучения не всегда достаточно, поэтому иногда некоторые шаги отсутствуют. Когда это происходит, LLM проявляет творческий подход и галлюцинации заполнить пробелы неправильным ответом.
Более продвинутая техника, которую используют некоторые LLM, - это поиск решения с помощью подхода "Дерево размышлений". LLM следует по нескольким линейным путям от проблемы к решению и останавливается, когда натыкается на нежизнеспособное решение.
Но это требует большого количества запросов и отнимает много памяти и вычислительных ресурсов.
Что делает AoT лучше?
В AoT алгоритм оценивает первые шаги потенциального решения и уже на ранних этапах решает, стоит ли применять тот или иной подход или нет. Это не позволяет ему упрямо идти по явно неправильному пути, а затем что-то придумывать.
Кроме того, вместо линейного подхода AoT дает LLM возможность перебирать множество потенциальных решений и даже возвращаться назад, если это необходимо. Вместо того чтобы начинать все с начала, зайдя в тупик, он может вернуться к предыдущему шагу и продолжить поиск.
Нынешний подход LLM похож на то, как если бы вы ехали от дома до места назначения, заблудились, а затем вернулись домой, чтобы попробовать другой маршрут. Подход AoT заключается в том, чтобы просто вернуться к последнему неверному повороту и попробовать новый маршрут с этой точки.
Такой подход "обучения в контексте" позволяет модели быть гораздо более структурированной и систематической в решении проблем. Она гораздо менее требовательна к ресурсам и потенциально может устранить проблему галлюцинаций, с которой сталкиваются LLM.
Даже при таком новаторском подходе ИИ все еще далек от того, чтобы думать и рассуждать так, как это делают люди. С AoT, похоже, сделан значительный шаг в этом направлении.
Один из выводов, сделанных исследователями в ходе экспериментов, заключается в том, что их "результаты позволяют предположить, что обучение LLM с помощью алгоритма может привести к производительности, превосходящей производительность самого алгоритма".
Именно так и работает наш мозг. Мы обладаем врожденной способностью обучаться новым навыкам, которых раньше не знали. Представьте себе, если бы такой инструмент, как ChatGPT, был способен обучаться путем рассуждений без необходимости дополнительного обучения.
Этот новый подход также может привести к тому, что ИИ станет более прозрачным в своем "мыслительном" процессе, давая нам возможность понять, что на самом деле происходит за кодом.
