Исследования в области ИИ подпитываются стремлением к все большему совершенству, которое включает в себя обучение систем думать и вести себя как люди.
Конечная цель? Кто знает. На данный момент цель такова. Создать автономные, обобщенные агенты ИИ, способные выполнять широкий спектр задач.
Эту концепцию обычно называют искусственным интеллектом общего назначения (ИОН) или суперинтеллектом.
Сложно определить, что именно подразумевает AGI, потому что практически нет единого мнения о том, что такое "интеллект", а также о том, когда и как искусственные системы могут его достичь.
Скептики даже считают, что ИИ в его нынешнем состоянии никогда не сможет стать по-настоящему интеллектуальным.
Профессор Тони Прескотт и доктор Стюарт Уилсон из Университета Шеффилда описанные генеративные языковые моделиКак и ChatGPT, они изначально ограничены, поскольку "развоплощены" и не имеют сенсорного восприятия или опоры в мире природы.
Главный специалист по искусственному интеллекту компании Meta Ян ЛеКун (Yann LeCun) говорит, что интеллект даже домашней кошки непостижимо выше, чем у лучших современных систем искусственного интеллекта.
"Но почему эти системы не умны, как кошка?" ЛеКун спросил на Всемирном правительственном саммите в Дубае.
"Кошка может запоминать, понимать физический мир, планировать сложные действия, рассуждать на определенном уровне - фактически намного лучше, чем самые большие LLM. Это говорит о том, что нам не хватает чего-то концептуально важного, чтобы машины стали такими же разумными, как животные и люди".
Хотя эти навыки могут и не быть необходимыми для достижения AGI, существует определенный консенсус в отношении того, что перенос сложных систем ИИ из лаборатории в реальный мир потребует принятия поведения, подобного тому, которое наблюдается у естественных организмов.
Как же этого можно достичь? Один из подходов заключается в изучении элементов познания и разработке способов, с помощью которых системы искусственного интеллекта могут их имитировать.
В предыдущем очерке DailyAI было проведено исследование любопытство и его способность направлять организмы к новому опыту и целям, подпитывая коллективную эволюцию мира природы.
Но есть еще одна эмоция - еще один важный компонент нашего существования, - из которого AGI могли бы извлечь пользу. И это страх.
Как искусственный интеллект может учиться на примере биологического страха
Страх - это не слабость или недостаток, а один из самых мощных инструментов эволюции, позволяющий обеспечить безопасность организмов.
Миндалина - центральная структура, управляющая страхом у позвоночных. У людей это небольшая миндалевидная структура, расположенная глубоко в височных долях мозга.
Миндалину часто называют "центром страха", она служит системой раннего предупреждения, постоянно сканируя поступающую сенсорную информацию на предмет потенциальной угрозы.
При обнаружении угрозы - будь то резкий крен тормозящего впереди автомобиля или смещающаяся в темноте тень - миндалина приходит в движение, запуская каскад физиологических и поведенческих изменений, оптимизированных для быстрой защитной реакции:
- Сердцебиение и кровяное давление повышаются, подготавливая организм к "борьбе или бегству".
- Внимание сужается и заостряется, наводя резкость на источник опасности.
- Рефлексы ускоряются, подготавливая мышцы к уклонению в доли секунды
- Когнитивные процессы переходят в быстрый, интуитивный режим "лучше перестраховаться, чем потом жалеть".
Эта реакция - не простой рефлекс, а высокоадаптивный, чувствительный к контексту набор изменений, который гибко подстраивает поведение под характер и серьезность угрозы.
Это также чрезвычайно быстро. Мы осознаем угрозу примерно через 300-400 миллисекунд после ее обнаружения.
Более того, миндалина не работает изолированно. Она тесно связана с другими ключевыми областями мозга, участвующими в восприятии, памяти, рассуждениях и действиях.
Почему страх может быть полезен для ИИ
Так почему же страх имеет значение в контексте ИИ?
В биологических системах страх служит важнейшим механизмом для быстрого обнаружения угроз и реагирования на них. Имитируя эту систему в ИИ, мы сможем создать более надежные и адаптируемые искусственные системы.
Это особенно актуально для автономных систем, которые взаимодействуют с реальным миром. В качестве примера: несмотря на взрывной рост интеллекта ИИ в последние годы, автомобили без водителя по-прежнему не отличаются безопасностью и надежностью.
Регулирующие органы расследуют многочисленные смертельные случаи с участием самоуправляемых автомобилей, включая модели Tesla с функциями Autopilot и Full Self-Driving.
В 2022 году Мэтью Эйвери, директор по исследованиям Thatcham Research, беседовал с изданием Guardian, объяснил, почему Автомобили без водителя так сложно доработать:
"Первое - это то, что все это сложнее, чем представлялось производителям", - утверждает Эйвери.
По оценкам Avery, около 80% функций автономного вождения включают в себя относительно простые задачи, такие как следование по полосе и базовое избегание препятствий.
Однако следующие действия гораздо сложнее. "Последнее 10% действительно сложно", - подчеркивает Эйвери, - "например, когда у вас есть корова, стоящая посреди дороги и не желающая двигаться".
Конечно, коровы сами по себе не внушают страха. Но любой сосредоточенный водитель, вероятно, оценит свои шансы на остановку, если будет мчаться к ней на скорости.
Способность системы искусственного интеллекта точно идентифицировать корову и принимать соответствующие решения в значительной степени зависит от ее базовой подготовки на основе соответствующих данных.
Однако такого начального обучения не всегда бывает достаточно для предотвращения опасности, особенно когда ИИ сталкивается с незнакомыми объектами или сценариями (так называемые "крайние случаи").
Для решения этой проблемы передовые системы искусственного интеллекта обрабатывают данные в режиме реального времени и постоянно учатся, что позволяет им адаптироваться и улучшать навыки принятия решений с течением времени.
Тем не менее, это далеко от глубоко интегрированных, интуитивных систем предупреждения природы. Человек-водитель может инстинктивно затормозить при одном только предположении о препятствии, даже не дождавшись полного понимания того, что это за препятствие.
Важно также отметить, что естественные реакции, основанные на страхе, обладают высокой адаптивностью и хорошо адаптируются к новым ситуациям. Система искусственного интеллекта, обученная с помощью нового механизма, похожего на страх, может быть лучше подготовлена к непредвиденным ситуациям, чем система, использующая традиционные методы обучения с подкреплением (RL).
Но есть и оговорка: люди тоже не всегда принимают правильные решения. Это не меняет доверия, необходимого для безопасного массового внедрения автономных автомобилей. Люди терпимо относятся к человеческим ошибкам в силу привычки, но скептически воспринимают ошибки машин.
Можно сказать, что это случай "лучше дьявол, которого ты знаешь, чем дьявол, которого ты не знаешь". Чтобы получить широкое признание автономных автомобилей, производители должны продемонстрировать их надежность и способность справляться с ошибками так же безопасно, как и люди.
Наделение систем ИИ более глубоким чувством страха может стать альтернативным, более быстрым и эффективным способом его достижения по сравнению с традиционными методами.
Деконструкция страха: взгляд со стороны плодовой мушки
Мы еще далеки от создания искусственных систем, повторяющих интегрированные, специализированные нейронные области в биологическом мозге. Но это не значит, что мы не можем моделировать эти механизмы другими способами.
Итак, давайте отвлечемся от миндалины и посмотрим, как беспозвоночные - например, мелкие насекомые - обнаруживают и обрабатывают страх.
Хотя у них нет структуры, непосредственно аналогичной миндалине, это не значит, что у них нет схемы, которая достигает схожей цели.
Например, недавно были проведены исследования реакции страха у Drosophila melanogaster, обычная плодовая мушка, позволили получить интригующие сведения о фундаментальных структурных элементах примитивных эмоций.
В эксперимент Проведенный в Калтехе в 2015 году, исследователи под руководством Дэвид Андерсон выставляет мух в верхнюю тень, призванную имитировать приближающегося хищника.
Используя высокоскоростные камеры и алгоритмы машинного зрения, они скрупулезно анализировали поведение мух, ища признаки того, что Андерсон называет "эмоциональными примитивами" - базовыми компонентами эмоционального состояния.
Примечательно, что мухи демонстрировали набор поведенческих реакций, которые в точности повторяли реакции страха, наблюдаемые у млекопитающих.
При появлении тени мухи застыли на месте, а их крылья сложились под углом, готовясь к быстрому бегству.
Когда угроза сохранялась, некоторые мухи взлетали, уносясь от тени на большой скорости. Другие замирали на длительное время, что говорит о состоянии повышенной возбужденности и бдительности.
Важно, что эти реакции не были простыми рефлексами, автоматически срабатывающими на визуальный стимул. Напротив, они отражали устойчивое внутреннее состояние, своего рода "мушиный страх", который сохранялся даже после того, как угроза миновала.
Это проявилось в том, что повышенное оборонительное поведение мух могло быть вызвано другим стимулом (дуновением воздуха) даже через несколько минут после первоначального воздействия тени.
Более того, интенсивность и продолжительность реакции страха зависели от уровня угрозы. Мухи, подвергавшиеся многократному воздействию тени, демонстрировали все более сильное и продолжительное защитное поведение, что свидетельствует о своеобразном "обучении страху", позволяющем им калибровать свою реакцию в зависимости от серьезности и частоты опасности.
Как утверждают Андерсон и его команда, эти находки свидетельствуют о том, что составные элементы эмоциональных состояний - устойчивость, масштабируемость и обобщенность - присутствуют даже у самых простых существ.
Если мы сможем расшифровать, как простейшие организмы, такие как плодовые мушки, реагируют на угрозы, мы потенциально сможем извлечь основные принципы адаптивного, самосохраняющегося поведения.
Примитивные формы страха могут быть использованы для разработки систем ИИ, которые будут более надежными, безопасными и приспособленными к реальным рискам и проблемам.
Наполнение ИИ схемами страха
Это отличная теория, но можно ли на практике придать ИИ подлинную, функциональную форму "страха"?
Один интригующий исследование исследовали именно это с целью повышения безопасности автомобилей без водителя и других автономных систем.
"Обучение подкреплению с помощью страха и нейроиндустрии для безопасного автономного вождения", под руководством Чэнь Лв из Наньянского технологического университета (Сингапур) разработали систему обучения с подкреплением на основе страха и нейроинспирации (FNI-RL) для улучшения работы автомобилей без водителя.
Создав системы искусственного интеллекта, способные распознавать и реагировать на тонкие сигналы и закономерности, которые вызывают у человека оборонительное вождение - так называемые "нейроны страха", - мы сможем создать самодвижущиеся автомобили, которые будут передвигаться по дорогам с интуитивной осторожностью и чувствительностью к риску, которые им необходимы.
Система FNI-RL воплощает ключевые принципы мозговой схемы страха в вычислительной модели вождения, чувствительной к угрозам, позволяя автономному автомобилю обучаться и применять адаптивные защитные стратегии в режиме реального времени.
Он включает в себя три ключевых компонента, смоделированных на основе основных элементов нейронной реакции на страх:
- Модель страха", которая учится распознавать и оценивать ситуации, связанные с повышенным риском столкновения, играя роль, аналогичную функции миндалины по обнаружению угрозы.
- Модуль "состязательного воображения", мысленно моделирующий опасные сценарии, позволяет системе безопасно "отрабатывать" оборонительные маневры без последствий в реальном мире - форма обучения без риска, напоминающая умственные репетиции водителей-людей.
- Механизм принятия решений с ограничением страха, который оценивает потенциальные действия не только по их немедленному ожидаемому вознаграждению (например, продвижение к цели), но и по уровню риска, определяемому с помощью модели страха и компонентов воображения противника. Это отражает роль миндалины в гибком управлении поведением на основе постоянного расчета угрозы и безопасности.
Чтобы испытать эту систему на практике, исследователи проверили ее в серии высокоточных симуляторов вождения, включающих в себя сложные, критически важные для безопасности сценарии:
- Внезапные подрезания и повороты агрессивных водителей
- Неуправляемые пешеходы, перебегающие проезжую часть
- Резкие повороты и слепые углы с ограниченной видимостью
- Скользкие дороги и плохие погодные условия
В ходе всех этих испытаний автомобили, оснащенные FNI-RL, продемонстрировали выдающиеся показатели безопасности, неизменно превосходя водителей-людей и традиционные методы обучения с подкреплением (RL), позволяющие избегать столкновений и отрабатывать навыки защитного вождения.
В одном из ярких примеров система FNI-RL успешно справилась с внезапным высокоскоростным слиянием транспортных потоков с коэффициентом успешности 90%, по сравнению с 60% для современной базовой системы RL.
При этом удалось добиться повышения безопасности без ущерба для ходовых качеств и комфорта пассажиров.
В других тестах исследователи проверили способность системы FNI-RL к обучению и обобщению оборонительных стратегий в различных условиях вождения.
В симуляции оживленного городского перекрестка ИИ всего за несколько испытаний научился распознавать признаки безрассудного водителя - внезапные смены полосы движения, агрессивное ускорение - и упреждающе корректировать собственное поведение, чтобы уступить дорогу.
Примечательно, что затем система смогла перенести эту выученную настороженность на новый сценарий вождения по шоссе, автоматически регистрируя опасные маневры и реагируя на них уклонением.
Это демонстрирует потенциал эмоционального интеллекта, основанного на нейронных технологиях, для повышения безопасности и надежности автономных систем вождения.
Наделив транспортные средства "цифровой миндалиной", настроенной на висцеральные сигналы о риске на дороге, мы сможем создать самоуправляемые автомобили, способные преодолевать трудности открытой дороги с помощью плавной и проактивной защиты.
На пути к науке об эмоционально-ориентированной робототехнике
В то время как последние достижения в области искусственного интеллекта опирались на грубую силу вычислений, сейчас исследователи черпают вдохновение в эмоциональных реакциях человека, чтобы создать более умные и адаптивные искусственные системы.
Эта парадигма, получившая название "биоинспирированный ИИВ этом году "Самоуправляемые автомобили" выходят за рамки таких областей, как производство, здравоохранение и освоение космоса.
Есть много интересных перспектив. Например, разрабатываются роботизированные руки с "цифровыми ноцицепторами", которые имитируют болевые рецепторы, позволяя быстро реагировать на возможные повреждения.
Что касается аппаратного обеспечения, Аналоговые чипы IBM с биологическим вдохновением Используют "мемристоры" для хранения изменяющихся числовых значений, сокращая передачу данных между памятью и процессором.
Аналогичным образом исследователи из Индийского технологического института в Бомбее разработали чип для Спикерные нейронные сети (СНС)которые в точности имитируют работу биологических нейронов.
Профессор Удаян Гангули сообщает, что этот чип достигает "в 5 000 раз меньшей энергии на всплеск при аналогичной площади и в 10 раз меньшей мощности в режиме ожидания" по сравнению с традиционными разработками.
Эти достижения в области нейроморфных вычислений приближают нас к тому, что Гангули называет "нейросинаптическим ядром с чрезвычайно низким энергопотреблением и механизмом обучения на кристалле в реальном времени" - ключевым элементам для автономных нейронных сетей с биологическим вдохновением.
Сочетание технологий ИИ, вдохновленных природой, с архитектурой, основанной на естественных эмоциональных состояниях, таких как страх или любопытство, может перевести ИИ в совершенно новое состояние.
Расширяя эти границы, исследователи не просто создают более эффективные машины - они потенциально рождают новую форму интеллекта.
По мере развития этого направления исследований автономные машины смогут бродить по миру среди нас, реагируя на непредсказуемые сигналы окружающей среды с любопытством, страхом и другими эмоциями, которые считаются типично человеческими.
Последствия? Это уже совсем другая история.
