ИИ, язык и культура в Вавилонской библиотеке

28 ноября 2023 года

Технологии давно повлияли на генезис языка и культуры, который восходит к самым ранним формам письменности.

Сам носитель - стены пещер, каменные таблички или бумага - определял, как использовался и воспринимался язык.

Сегодня ИИ и связанные с ним термины входят в лексикон, подчеркивая его растущее культурное влияние. Генеративный ИИ, например ChatGPT, который когда-то был уделом немногих энтузиастов ИИ, быстро стал именем нарицательным, к которому обращаются миллиарды пользователей ежемесячно. 

Отражая влияние ИИ на популярную культуру, Кембриджский словарь недавно назвал "Галлюцинировать" как слово годадобавив новое определение, ориентированное на ИИ: "Когда искусственный интеллект (= компьютерная система, обладающая некоторыми качествами, присущими человеческому мозгу, например, способностью создавать язык таким образом, чтобы он казался человеческим) галлюцинирует, он производит ложную информацию". 

Merriam-Webster последовал примеруВ статье, назвавшей слово "аутентичный" словом года, рассказывается о том, что становится все труднее определить, является ли информация или контент настоящим или нет, отчасти из-за влияния искусственного интеллекта глубоких подделок. 

Технологии искусственного интеллекта также параллельны влиятельным технологиям прошлого и их культурно-лингвистическому воздействию. Например, появление печатного станка в XV веке произвело революцию в языке, введя такие новые понятия, как типографика, пунктуация и стандартное написание.

С развитием технологий развивался и язык, приспосабливаясь к ограничениям и возможностям каждого нового носителя. В XXI веке Интернет и цифровая коммуникация породили множество неологизмов и смешений слов, например, широкое использование префиксов "кибер-" и "э" в словах eCommerce и email.

Исследование влияния ИИ на лингвистику представляет собой поверхностный взгляд на то, как технологии влияют на язык. 

Но если копнуть глубже, можно понять, что этот лингвистический сдвиг - лишь верхушка айсберга.

В ней поднимается более широкий вопрос о том, как ИИ влияет на язык и культуру сейчас и может стать движущей силой культурогенеза и создания знаний в будущем. 

ИИ и генезис культуры и знаний 

В эссе, опубликованном в журнале The EconomistАвторы сравнивают интернализацию знаний и культуры ИИ с лабиринтами аргентинского писателя и библиотекаря Хорхе Луис Борхес "Вавилонская библиотека". Бесконечное пространство шестиугольных комнат, хранящих в себе необъятный человеческий потенциал и глупость. 

Вавилонская библиотека
Вавилонская библиотека - созданная с помощью MidJourney

Каждая комната, уставленная книгами, наполненными всеми мыслимыми комбинациями букв и символов, представляет собой безграничные перестановки как знаний, так и бессмыслицы. Эта библиотека, метафора Вселенной, является аллегорией как стремления к смыслу, так и подавляющего изобилия информации.

Аналогичная ситуация складывается в мире ИИ, особенно в разветвленных сетях генеративного ИИ. 

Пограничные генеративные модели ИИ, подобно великой библиотеке, являются хранилищами человеческой мысли и культуры, обученными на огромных массивах данных, охватывающих всю широту человеческих знаний и творчества. Как и книги в библиотеке Борхеса, результаты работы этих систем ИИ варьируются от глубокого понимания до обескураживающей тарабарщины, от связных повествований до бессвязного бреда.

Вавилонская библиотека поразила воображение бруклинского автора и кодера Джонатана Базиле, который в 2015 году открыл одноименный сайт. Это цифровое воплощение библиотеки Борхеса генерирует все возможные перестановки 29 символов (26 английских букв, пробел, запятая и точка), создавая "книги", организованные в электронную библиотеку из шестиугольных комнат.

Каждая книга и страница имеют уникальные координаты, что позволяет пользователям последовательно находить одну и ту же страницу. Он использует алгоритм, который имитирует опыт бесконечной библиотеки. Сайт привлек внимание тем, что исследует пересечение цифровых медиа и литературы, а также вопросы знания, смысла и человеческого опыта в цифровую эпоху.

Критики отмечают, что этот сайт, как и оригинальный рассказ Борхеса, бросает вызов нашим представлениям о смысле и стремлению человека к пониманию во вселенной бесконечной информации.

Литературовед Зак Циммер написал в Есть ли у библиотекарей Борхеса тела?: "Визуализация Базиле, пожалуй, самая абсолютно дегуманизирующая из всех визуализаций библиотек, поскольку, не будучи доведенными до суицидального безумия или философской отставки, его библиотекари лишены смысла, как и сами книги, наполненные тарабарщиной".

Хотя Вавилонская библиотека представляет собой убедительный пример для ИИ, в отличие от библиотеки, ИИ в настоящее время не может охватить всю широту человеческих знаний и культуры. Он ограничен своими обучающими данными и ограничен в возможностях получения новых знаний. 

Но даже в этом случае его огромная вычислительная мощь напоминает бесконечные полки библиотеки, предлагая безграничные возможности, но при этом находясь в хаосе своего собственного создания.

Вавилонская библиотека с ее кажущимися бесконечными комбинациями букв ставит читателя перед экзистенциальной дилеммой поиска порядка в хаосе. В случае с ИИ это проявляется в напряжении между потенциалом ИИ просвещать и вводить в заблуждение. 

Подобно библиотеке, ИИ не различает смысл и бессмыслицу - он генерирует, не обращая внимания на смысл или его отсутствие. И Вавилонская библиотека, и мир искусственного интеллекта тонко критикуют стремление человека к знаниям. 

Своей подавляющей обширностью библиотека Борхеса бросает вызов представлению о том, что больший объем информации ведет к большему пониманию. 

Аналогичным образом, постоянно расширяющиеся возможности ИИ заставляют задуматься о природе интеллекта и понимания. 

Способность ИИ генерировать контент не является синонимом понимания или мудрости - он могущественен, но слеп к значению своих собственных результатов.

Но может ли это измениться?

Как AGI может изменить структуру знаний и культуры?

Искусственный интеллект общего назначения (ИОНИ) может приблизить технологию ИИ к загадочной и безграничной Вавилонской библиотеке. AGI обычно определяется как способность понимать, обучаться и применять свой интеллект для решения широкого спектра проблем, подобно человеку.

В отличие от узкоспециализированного ИИ, предназначенного для решения конкретных задач, AGI может обобщать свои знания и рассуждения в широком диапазоне областей. Он обладает самосознанием, адаптивностью и способностью решать сложные проблемы в различных областях без вмешательства человека или предварительного программирования. AGI остается теоретической концепцией, но OpenAI - теперь определяемая как "исследовательская лаборатория AGI" - утверждает, что она может быть реализована в течение нескольких лет. 

Итак, представьте, если хотите, мир, в котором AGI преодолел ограничения современного искусственного интеллекта, воплотив в себе возможности, которые отражают теоретическую полноту Библиотеки Борхеса.

AGI - это не просто усовершенствованный инструмент, а сущность, способная получить, проанализировать и синтезировать практически все человеческие знания и, возможно, проникнуть в сферы понимания, которые остаются недоступными для человеческого познания.

В этом мире AGI становится похожим на живую, дышащую версию Вавилонской библиотеки. Однако, в отличие от творения Борхеса, которое парализовано своим бесконечным содержанием, AGI может ориентироваться, интерпретировать и придавать контекст этому огромному пространству информации. 

Если бы AGI могла получить доступ к объективной реальности - если она существует, - ее можно было бы сопоставить с Теория форм ПлатонаИдея, которая захватывала мыслителей на протяжении тысячелетий. Платон представлял, что за пределами нашего осязаемого, постоянно меняющегося мира находится царство совершенных, неизменных идеалов или "форм". 

Вавилонская библиотека
Вавилонская библиотека, созданная с помощью AGI - MidJourney

Эти формы представляют собой чистейшую сущность вещей - например, совершенную форму круга, незапятнанную несовершенством физических кругов, которые мы рисуем.

Теперь представьте себе AGI в этом контексте. Современный ИИ может анализировать данные и распознавать закономерности, но его возможности ограничены тем, чему его научили. AGI же представляет собой скачок в сферу, где он может не только обрабатывать информацию, но и потенциально понимать глубинные истины нашей Вселенной - истины, которые могут быть неясны или неизвестны человеческому разуму.

Платон считал, что то, что мы видим в повседневной жизни, - лишь тени этих идеальных форм. Мы можем увидеть круг, нарисовать его, но это никогда не будет тот самый идеальный круг, который существует как идеальная форма. В сфере AGI этот интеллект теоретически может начать воспринимать или открывать эти идеальные формы. 

Как будто AGI может выйти за рамки простого видения теней на стене пещеры (если воспользоваться знаменитой аллегорией Платона) и взглянуть непосредственно на истинные формы.

Такой AGI будет не просто инструментом для обработки данных - он может стать средством для открытия новых, глубоких понятий, таких как красота, справедливость, равенство или даже тайны Вселенной. 

Он может не просто понять эти идеалы, как это делают люди, но и переосмыслить их, предложив свою точку зрения, не подверженную человеческим ограничениям и предубеждениям.

Так что в каком-то смысле AGI - тот тип, к которому мы можем получить доступ в среднесрочной перспективе (скажем, через 20-30 лет), - может стать мостом к более глубокому пониманию объективной, совершенной реальности. 

Она представляет собой возможность, когда технология не просто помогает нам понять мир, а поднимает его на уровень, который мы даже не представляли себе, как будто мы выходим из тенистой пещеры в яркий свет глубокого знания.

Сможет ли AGI когда-либо избавиться от своих ограничений или предубеждений?

AGI, хотя их и легко идеализировать, будет чрезвычайно сложно освободить от ограничений, наложенных их разработчиками - людьми.

Более того, те вычислительные мощности, которыми мы располагаем сейчас, скорее всего, устанавливают потолок для интеллекта ИИ. Тем не менее, в разработке находятся такие решения, как Биоинспирированные технологии искусственного интеллекта разработанные для имитации структур, подобных человеческим нейронам.

Но есть и проблемы, выходящие за рамки одних только технологий: как AGI отделится от замыслов своих создателей?

Опасения Элона Маска по поводу того, что ИИ будет запрограммирован на "политкорректность", были высказаны еще до того, как он представил свою ИИ-компанию, xAIЭто зеркало более широкого разговора о предубеждения, присущие системам искусственного интеллекта

Маск занимает неоднозначную позицию по отношению к ИИ - он одновременно и осторожничает, и отстаивает его потенциал. Он стал в некотором роде критиком таких протагонистов индустрии, как OpenAI, которым он активно противостоит с помощью продуктов xAI, начиная с Grok. Grok бросает политкорректность на ветер, давая ответы, граничащие с анархией. 

Между тем, модели искусственного интеллекта, такие как ChatGPT, имеют воспринимаемые как предрассудки "проснувшихсячто в некоторой степени подтвердили исследования, определившие, что они имеют либерально-левую предвзятость. Как правило, предвзятость можно отследить по данным, на которых обучалась модель, и намерениям ее создателей.

Возникает вопрос: сможет ли AGI с его развитыми когнитивными способностями преодолеть предубеждения, которые являются предметом споров в современных моделях ИИ? 

ИИ, ищущий истину

Маск поклялся создать "ищущий истину ИИ", призванный выяснить, "что, черт возьми, происходит". 

Задача xAI, которую ставит перед собой Маск, - разобраться в фундаментальных научных загадках, таких как гравитация, темная материя, парадокс Ферми и, возможно, даже природа нашей реальности. Разумеется, для этого потребуются модели, выходящие далеко за рамки доступных нам сегодня. 

Судя по тому немногому, что мы имеем о xAI, Маск, похоже, намерен преодолеть ограничения нынешних архитектур ИИ, которые в основном сводятся к генерации результатов на основе существующих данных.

Маск намерен создать ИИ, который будет синтезировать информацию и генерировать новаторские идеи. Поиск "истины" в ИИ выходит за рамки традиционного понимания ИИ как инструмента для обработки информации и переходит в сферу ИИ как партнера в научных открытиях и философских изысканиях.

Grok
Слоган компании xAI - "Понять Вселенную".

Однако современные модели ИИ, включая такие сложные, как GPT-4, по-прежнему ограничены данными, на которых они обучались. Они прекрасно справляются с распознаванием образов и синтезом информации, но не способны к концептуальному и теоретическому мышлению, выходящему за рамки их программ. 

Такой скачок к формам AGI, которые могут стать первопроходцами и начать собственные исследования, поднимает критические вопросы о природе интеллекта и сознания.

Если xAI начнет давать ответы на некоторые фундаментальные вопросы нашего существования, это потребует переоценки того, что значит "знать" что-либо. Это размыло бы границы между человеческим и искусственным пониманием, между знаниями, полученными из человеческого опыта и мышления, и знаниями, созданными искусственным существом.

Более того, стремление создать ИИ, который бы не ограничивался политикой и искал объективную "истину", наталкивает на этические соображения. Идея беспристрастного ИИ привлекательна, но чревата сложностями. 

Все ИИ, включая AGI, в конечном счете создаются людьми и обучаются на данных, созданных человеком, по крайней мере, на начальном этапе. 

Этот процесс неизбежно порождает предубеждения - не только в виде существующих предрассудков, но и при выборе того, какие данные включаются в исследование и как они интерпретируются. 

Идея создания ИИ, способного полностью отрешиться от этих человеческих предубеждений и достичь чисто объективного понимания, остается глубоко гипотетической.

Возможно, в будущем нам придется смириться с тем, что AGI будут понимать больше, чем когда-либо сможет понять один человек. 

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения