Начиная с основ, заложенных Адой Лавлейс и Чарльзом Бэббиджем, и заканчивая новаторскими исследованиями Алана Тьюринга в области вычислительной техники, мир был очарован перспективами ИИ - мечтой о создании машинных существ, обладающих человекоподобными когнитивными способностями.
Однако впоследствии траектория развития ИИ отклонилась от его биологических корней в пользу грубой силы и сложности алгоритмов.
После этого мечты о жизнеподобных роботах, пропитанные научной фантастикой, несколько померкли и превратились в реальность более поверхностных и обыденных больших языковых моделей (LLM), таких как ChatGPT.
Конечно, нынешние модели ИИ все еще привлекают внимание, но они выступают скорее как инструмент, чем как существо.
Пока еще все только начинается, но, несмотря на феноменальные достижения, гонка вычислительных вооружений ИИ выявила пробелы в нашем стремлении создать по-настоящему интеллектуальные машины.
Какими бы мощными ни становились наши алгоритмы, им не хватает элегантности, адаптивности и энергоэффективности - отличительных черт биологических систем.
Исследователи знают об этом, и это их расстраивает.
Профессор Тони Прескотт и доктор Стюарт Уилсон из Университета Шеффилда недавно выделено что большинство моделей ИИ, таких как ChatGPT, являются "развоплощенными", то есть не имеют прямой связи с физической средой.
В отличие от этого, человеческий мозг развился в рамках физической системы - нашего тела, - которая позволяет нам непосредственно ощущать мир и взаимодействовать с ним.
Исследователи стремятся освободить ИИ от монолитной архитектуры, что привело к возрождению биоинспирированного ИИ, иногда называемого нейроморфным ИИ, - субдисциплины, которая стремится имитировать сложные процессы, существующие в природе, для создания более умных и эффективных систем.
Эти усилия опираются на различные биологические основы - от структур, составляющих наш мозг, до роевого интеллекта, наблюдаемого у муравьев или птиц.
Стремясь к автономности и эффективности, биоинспирированный ИИ заставляет нас пересмотреть давно существующие вычислительные проблемы, например, перейти от ресурсоемких архитектур, построенных на тысячах энергоемких графических процессоров, к более легким и сложным аналоговым системам.
Прескотт, который является соавтором недавней статьи "Понимание функциональной архитектуры мозга с помощью робототехники, - подчеркивает: "Вероятность того, что системы ИИ разовьют человекоподобное познание, гораздо выше, если они будут построены на архитектурах, которые учатся и совершенствуются так же, как человеческий мозг, используя свои связи с реальным миром".
Человеческий мозг является примером того, что для каждой мысли и действия, которые производит ваш мозг, требуется мощность всего лишь тусклой лампочки - около 20 ватт.
И это еще не все. Даже если человек не получает энергии из пищи, он может прожить более месяца. Экстремофилы нашли способы процветать в самых негостеприимных условиях на планете.
Сравните это с инфраструктурой, необходимой для работы таких моделей ИИ, как ChatGPT, которая требует мощности, эквивалентной небольшому городу, и не может самовоспроизводиться, лечиться или адаптироваться к окружающей среде.
Чтобы дать искусственному интеллекту справедливую оценку, можно утверждать, что сравнение ИИ с биологическими интеллектуальными системами - не совсем корректное занятие.
В конце концов, компьютеры и мозг отлично справляются с разными задачами - возможно, человеческой природе свойственно объединять их в антропоморфных представлениях об автономных ИИ, которые взаимодействуют с окружающей средой подобно биологическим существам, рядом с которыми мы эволюционировали.
Однако исследователи ИИ и нейробиологи готовы зайти в этот интеллектуальный тупик, и многие описывают мозг "как компьютер", который можно смоделировать и воспроизвести искусственно.
Сайт Проект ЕС "Человеческий мозг" (HBP)Многонациональный эксперимент в области большой науки стоимостью около $1 миллиарда долларов стал уроком того, как сложность мозга не поддается искусственному моделированию.
В HBP была поставлена задача смоделировать человеческий мозг целиком, но удалось смоделировать лишь отдельные фрагменты его функциональности.
Наш мозг - как единое целое - победа над коллективным мозгом тысяч исследователей с огромным финансированием и вычислительными мощностями под рукой - звоните Поэтическая справедливость.
Как водится, сознание и сущность формирования мысли - это такой же далекий рубеж, уходящий в далекие глубины космоса - wМы просто еще не дошли до этого.
В основе этой проблемы лежит несоответствие между биологией и машинами.
Хотя нейронные сети и другие формы архитектуры машинного обучения (ML) моделируются по аналогии с биологическим мозгом, метод вычислений принципиально отличается.
Родни Брукс, заслуженный профессор робототехники Массачусетского технологического института, размышляет об этом тупике, заявляя, чтоЕсть опасения, что его версия вычислений, основанная на функциях целых чисел, ограничена. Биологические системы явно отличаются. Они должны реагировать на различные стимулы в течение длительных периодов времени; эти реакции, в свою очередь, изменяют окружающую среду и последующие стимулы. Например, на индивидуальное поведение социальных насекомых влияет структура дома, который они строят, и поведение их братьев и сестер в нем".
Брукс подытоживает этот парадокс вопросом: "Должны ли эти машины моделировать мозг, учитывая, что наши модели мозга создаются на таких машинах?"
Путешествие биоинспирированного ИИ
У природы были миллионы лет "исследований и разработок", чтобы усовершенствовать свои невероятно живучие механизмы.
Тенденцию к созданию биоинспирированного ИИ можно рассматривать как коррекцию курса, смиренное признание того, что наши поиски передового ИИ, возможно, привели нас на путь, который, хотя и поражает своей сложностью, может оказаться неустойчивым в долгосрочной перспективе.
Или, по крайней мере, текущая траектория может не соответствовать тому, что человечество в конечном итоге хочет получить от ИИ. Если мы хотим жить в "будущем", где люди и роботы ходят бок о бок (хотя, конечно, не все этого хотят), то мы должны добиться большего, чем увеличение количества графических процессоров и обучение больших моделей.
Тем не менее, у ярых футуристов есть надежда: исследователи уже несколько десятилетий муссируют идеи биоинспирированных вычислений, и некоторые умозрительные идеи начинают находить свое воплощение.
В конце 50-х - начале 60-х годов Фрэнк Розенблатт работал над созданием Перцептрон предложили первую упрощенную модель биологического нейрона.
Однако в работе 1986 года "Обучение представлениям с помощью обратного распространения ошибок" Дэвида Румельхарта, Джеффри Хинтона и Рональда Уильямса изменили игру.
Хинтона и его команду часто называют "крестным отцом нейронных сетей (или ИИ в целом)". Хинтон представил алгоритм обратного распространения, обеспечивающий надежный механизм обучения многослойных нейронных сетей, что способствовало развитию этой области в самых разных областях - от обработки естественного языка (NLP) до компьютерного зрения (CV) - двух основополагающих отраслей современного ИИ.
Вскоре после этого биоинспирация пошла по другому пути, заимствуя дарвиновские принципы. В 1975 году Джон Холланд опубликовал книгу "Адаптация в естественных и искусственных системах" заложили основу для генетических алгоритмов.
Моделируя такие механизмы, как мутация и естественный отбор, этот подход открыл мощный инструмент для решения задач оптимизации, который нашел применение в таких отраслях, как аэрокосмическая и финансовая.
Такие понятия, как "роевой интеллект", наблюдаемый в стаях насекомых и синхронном движении птиц и рыб, впервые появились в вычислительной технике в 80-90-х годах и заметно продвинулись в 2023 году.
В августе 2023 года бывшие сотрудники Google основал Саканустартап, предлагающий разработать ансамбль небольших моделей искусственного интеллекта, работающих согласованно.
Подход Саканы вдохновлен биологическими системами, такими как рыбьи школы или нейронные сети, где более мелкие единицы работают вместе для достижения более сложной цели.
Учитывая монолитность архитектур современных моделей ИИ, таких как ChatGPT, такой подход к ансамблированию обещает снизить энергопотребление, а также повысить адаптивность и устойчивость - качества, присущие биологическим организмам.
Даже обучение с подкреплением (RL), направление машинного обучения, занимающееся обучением алгоритмов принимать решения в погоне за вознаграждением, было в значительной степени вдохновлено биологическими мотивами.
Основополагающая книга Ричарда Саттона и Эндрю Барто "Обучение с подкреплением: Введение" приводит множество примеров того, как животные учатся на основе окружающей среды, вдохновляя алгоритмы, которые могут адаптироваться на основе вознаграждений и наказаний.
В книге приводятся сотни сравнений с поведением животных: "Из всех форм машинного обучения обучение с подкреплением наиболее близко к тому, как учатся люди и другие животные".
На пути к биоинспирированному ИИ
У таких сложных биологических существ, как человек и другие позвоночные, различные компоненты нервной системы работают согласованно, управляя широким спектром функций.
Центральная нервная система (ЦНС) служит центром управления, обрабатывая информацию и организуя ответные реакции.
Периферическая нервная система (ПНС) выполняет функцию коммуникационной сети, передавая сигналы между ЦНС и другими частями тела.
Внутри ПНС находится специализированная вегетативная нервная система (ВНС), которая непроизвольно управляет такими жизненно важными функциями, как сердцебиение и пищеварение. Каждая система играет свою роль, но при этом они взаимосвязаны и легко взаимодействуют друг с другом, помогая нам ориентироваться в окружающей среде.
Более простые организмы, такие как насекомые, имеют более тонкую и экономичную нервную систему, хотя все равно невероятно сложную. У плодовой мушки есть несколько 3 000 нейронов и полмиллиона синапсов.
Компоненты биологической нервной системы анатомически различны, но работают целостно, связанные между собой нейронами, которые посылают и получают сенсорные стимулы, в конечном итоге формируя концептуальное понимание - или сознание у более сложных существ.
Чтобы создать автономных роботов с тесно связанными мозгом и сенсорными системами, исследователи должны отказаться от грубых вычислений и создать легкие системы, основанные на сенсорной реальности.
Хотя модели ИИ, подобные ChatGPT, обладают огромными знаниями, они в некоторой степени заперты во времени и отгорожены от сенсорной реальности, а их понимание в основном определяется данными обучения.
Это дает преимущества, а точнее, наделяет ИИ набором навыков, отличным от биологических существ, - возможно, именно поэтому человечество стремится развивать ИИ, чтобы устранить неэффективность биологических существ.
В роли Амнона Шашуа основные моментыПри этом "значительно отличающаяся архитектура компьютера благоприятствует стратегиям, которые оптимально используют практически неограниченный объем памяти и грубую силу".
Однако если мы хотим вывести ИИ из-под контроля центров обработки данных и веб-браузеров, исследователи должны решить эти проблемы и найти способы связать системы ИИ с "телом" или, по крайней мере, обеспечить им надежную сенсорную основу.
Это имеет непосредственное практическое применение. Возьмем, к примеру, автомобили без водителя - для безопасной работы их сенсорные системы должны функционировать так же, как и наши. В противном случае у них нет надежды "увидеть" потенциальное препятствие и быстро среагировать, чтобы избежать катастрофы, что является серьезным препятствием для их массового внедрения.
Деннис Брэй (Dennis Bray) с кафедры физиологии, развития и нейронаук Кембриджского университета утверждает: "Машины могут сравниться с нами во многих задачах, но они работают иначе, чем сети нервных клеток. Если наша цель - создать машины, которые будут все более умными и ловкими, то мы должны использовать схемы из меди и кремния. Но если наша цель - воспроизвести человеческий мозг с его причудливой гениальностью, способностью к многозадачности и чувством собственного достоинства, мы должны искать другие материалы и другие конструкции".
Эти комментарии, не потерявшие актуальности и сегодня, были опубликованы в журнале Статья для обсуждения в журнале Nature опубликованная в 2012 году к столетнему юбилею Тьюринга, - и с тех пор ИИ стремительно развивался.
Так где же мы сейчас?
Спикерные нейронные сети (СНС) и биологическое оборудование
Сегодня исследователи изучают "другие материалы и различные конструкции", о которых говорит Брей, например, нейронные сети с шипами (SNN) - тип нейронной сети, в точности повторяющий функциональность нейронов.
SNN предлагают специализированную альтернативу обычным нейронным сетям, с которыми мы часто сталкиваемся в машинном обучении.
Вместо того чтобы полагаться на непрерывные функции активации для обработки входных данных, SNN имитируют тонкости биологических нейронных сетей, используя дискретные шипы для межнейронной связи.
В таких сетях каждый искусственный нейрон с течением времени интегрирует входящие импульсы от подключенных к нему нейронов. Когда накопленный сигнал, или мембранный потенциал, превышает определенный порог, нейрон сам выпускает спайк.
Этот механизм пиков позволяет сети улавливать и обрабатывать пространственные и временные паттерны, подобно нейронам в биологическом мозге.
Итак, что же делает СНС центральным элементом биоинспирированного ИИ?
Во-первых, их отличает способность естественным образом обрабатывать временные последовательности данных, что устраняет необходимость в дополнительных блоках памяти, как в рекуррентных нейронных сетях (РНС).
Во-вторых, СНС разработаны таким образом, чтобы быть невероятно энергоэффективными. В отличие от традиционных нейронных сетей, где каждый нейрон постоянно активен, разреженная и событийная природа SNN позволяет нейронам оставаться в основном неактивными, выстреливая шипики только в случае необходимости. Это значительно снижает их энергопотребление.
Наконец, благодаря более близкому подражанию биологическим системам, СНС обладают потенциалом повышенной устойчивости и гибкости, особенно в шумных или непредсказуемых условиях.
Хотя концепция SNNs уходит корнями в теоретическое понимание биологических нейронных систем, прогресс в области аппаратных технологий сделал эти сети более доступными для решения вычислительных задач.
Нейроморфные чипы, специально разработанные для эффективного моделирования динамики спайков, сыграли значительную роль в практическом использовании СНС.
Аналоговый чип IBM с биологическим вдохновением и SNNs
За последние два года были достигнуты значительные успехи в создании сверхлегких конструкций, энергоэффективный искусственный интеллект Решения, которые также называют нейроморфными чипами.
Сейчас доступны и другие виды нейроморфных технологий, например, нейроморфные камеры, смоделированные на основе биологических глаз.
Разработано в 2023 году, Чип от IBM Для хранения изменяющихся числовых значений используются аналоговые компоненты, такие как мемристоры. В них также используется память с фазовым переключением (PCM) для регистрации спектра значений, а не 0 и 1.
Эти характеристики позволяют сократить передачу данных между памятью и процессором, обеспечивая преимущество в энергоэффективности. Разработанный IBM проект включает "64 аналоговых вычислительных ядра в памяти, каждое из которых содержит синаптический массив размером 256 на 256". Она достигла впечатляющей точности 92,81% в эталонном тесте компьютерного зрения (CV) и при этом оказалась более чем в 15 раз эффективнее нескольких существующих чипов.
Хотя чип IBM не основан непосредственно на СНС, аналоговая природа и использование мемристоров делают его вполне совместимым с моделью СНС.
По сути, SNN могут быть реализованы на такой архитектуре более естественным образом.
Чип на основе SNN от IIT Bombay
В 2022 году исследователи из Индийского технологического института, Бомбей, разработал чип который работает именно с SNN.
Этот чип использует ток межполосного туннелирования (BTBT) для создания искусственных нейронов с ультранизким энергопотреблением. По словам профессора Удаяна Гангули, чип достигает "в 5 000 раз меньшей энергии на всплеск при аналогичной площади и в 10 раз меньшей мощности в режиме ожидания при аналогичной площади и энергии на всплеск".
Этот тип чипов находит непосредственное применение в компактных устройствах, таких как мобильные телефоны, беспилотные автономные транспортные средства (БПЛА) и устройства IoT, удовлетворяя потребность в легких и энергоэффективных вычислениях с искусственным интеллектом.
Оба подхода направлены на то, чтобы в конечном итоге создать то, что Гангули называет "нейросинаптическим ядром с чрезвычайно низким энергопотреблением и разработать механизм обучения на кристалле в реальном времени, что является ключевым для автономных нейронных сетей, основанных на биологических принципах. Это и есть святой Грааль".
Эти системы могут сочетать в себе "систему мышления" и "систему действия и движения", подобно тому, что мы наблюдаем в биологических организмах.
Это позволит нам сделать значительный шаг к созданию искусственных систем, которые будут мощными, устойчивыми и близкими к биологическим системам, вдохновлявшим ИИ на протяжении почти столетия.
Наконец-то человечество сможет освободить ИИ от монолитной архитектуры, отключить их от источников питания и отправить в мир - и во вселенную - в качестве автономных существ.
Хорошая это идея или нет - что ж, это тема для другого разговора.