ИИ-чатботы мертвых могут "преследовать" нас вечно, предупреждает новое исследование

Май 13, 2024
  • Исследователи Кембриджского университета проанализировали влияние ИИ на загробную жизнь
  • Они создавали умозрительные сценарии, чтобы определить возможность нанесения вреда или манипулирования
  • Без регулирования сервисы искусственного интеллекта в загробной жизни изменяют процесс скорби в худшую сторону

Смерть - один из самых грозных противников человечества - единственная проблема, которую мы отчаянно пытаемся преодолеть любой ценой.

От поисков фонтана молодости Понсе де Леоном до криогенной заморозки, Silicon ValleyОдержимость долголетием и мечты трансгуманистов о слиянии с машинами говорят о том, что люди мало на что готовы пойти, чтобы покинуть земную жизнь.

Теперь, благодаря искусственному интеллекту, у человечества наконец-то появилась такая возможность. Компании делают первые шаги по оцифровке истории жизни и биографии человека, его взглядов и мнений, речи, 3D-визуального облика и т. д. и превращают их в цифровые клоны, которые "живут" вечно. 

Конечно, это не бессмертие как таковое - скорее, это форма цифрового постоянства - переход от фотографий и видео к более богатой форме памятных вещей. 

Как интерфейсы мозг-компьютер (BCI), нейронные системы, такие как Neuralink, и архитектура искусственного интеллекта на основе биоинспирации Моделируя развитие мозга, возможно, однажды удастся скопировать аспекты сознания человека в цифровую систему. 

Пока это остается лишь предположением, но примитивные формы цифрового бессмертия уже стучатся в дверь. 

Несколько компаний уже предлагают услуги, которые вводят цифровые следы человека - сообщения в социальных сетях, тексты, голосовые записи - в большие языковые модели (LLM) для создания жутких симуляторов.

Такие технологические гиганты, как Microsoft, даже подали патенты на чат-боты, имитирующие мертвецов. В Китае женщина утверждает, что она провела бета-тестирование Xiaoice - ИИ-компаньон, призванный "утешать скорбящих" - создав версию своего умершего лучшего друга. 

VR и метавселенная Это сделает их еще более реалистичными, позволяя нам взаимодействовать с реалистичными копиями живых и мертвых.

Недавно мы затронули эту тему в недавнем Интервью DailyAI с Дэвидом Палмером, CPO of PairPoint by Vodafone and Web3 Asia Alliance член правления.

По словам Палмера, это может быть похоже на "создание совершенно нового мира". Подумайте о кладбищах... Вместо того чтобы видеть надгробие, вы можете пойти и взаимодействовать с этими людьми. У вас есть этот цифровой мир, в котором люди, по сути, могут жить вечно".

Смерть ИИ
Макет цифровой службы загробной жизни, которых уже несколько. Источник: Кембриджский университет.

Цифровая жизнь после смерти

Провокационный новое исследование Исследователи из Кембриджского университета предупреждают, что даже примитивные формы цифрового бессмертия могут нарушить процесс горевания.

Гиперреалистичные чат-боты с искусственным интеллектом, имитирующие умерших, грозят стереть грань между жизнью и смертью, заставляя общество решать тревожные вопросы на стыке технологий и человеческой смертности. 

Как повлияет на близких общение с "цифровыми призраками", которые с пугающей точностью имитируют речевые обороты, воспоминания и личность умерших близких? 

Могут ли злоумышленники использовать эти интимные данные, чтобы манипулировать хрупкими эмоциями в корыстных целях? Какие права должны быть у мертвых на их цифровую жизнь? И что делать, если модели галлюцинируют и ведут себя непредсказуемо?

Microsoft Copilot и ChatGPT у обоих были дикие галлюцинации по собственной воле в необъяснимые массовые расплавленияВ частности, они принимали образы людей, которые клялись захватить мир, поощряли членовредительство или узнавали о смысле жизни.

Было бы, по меньшей мере, странно, если бы такое поведение исходило от ИИ-реплики вашего умершего члена семьи.  

В качестве ведущего автора Dr. Katarzyna Nowaczyk-Basińskaисследователь из Cambridge’s Leverhulme Centre for the Future of Intelligence, объясняет"Искусственный интеллект, позволяющий пользователям вести текстовые и голосовые разговоры с потерянными близкими, рискует нанести психологический вред и даже "преследовать" оставленных без присмотра людей".

Исследователи Кембриджского университета описывают несколько видов услуг ИИ в загробной жизни

С помощью умозрительных сценариев проектирования в статье показано, как эта надвигающаяся "индустрия цифровой загробной жизни" может быть использована не по назначению. 

Сначала исследователи описывают вымышленное приложение "MaNana", которое позволяет скорбящим загружать данные своих бабушек для создания утешительных чат-ботов, наполненных ностальгическими историями и рецептами. Но после бесплатной пробной версии бот вдруг начинает рекламировать товары голосом "бабушки".

Или вот "Paren't" - сервис, который якобы помогает детям справиться с горем, имитируя умершего родителя. Восьмилетний мальчик утешается разговором с "мамой" - до тех пор, пока бот не начинает жутко настаивать на том, что она все еще жива и скоро придет к нему. Как это повлияет на развивающийся разум?

Есть еще "Остаться", которая позволяет умирающим пользователям тайно создать аккаунт, чтобы продолжать "жить" в течение 20 лет, принуждая других к цифровой реинкарнации. 

Убитая горем дочь испытывает эмоциональное истощение от ежедневных разговоров с "папой", но не может отменить их, не нарушив условий, на которые он согласился. Тем временем ее брата преследуют нежелательные сообщения от бота-отца вопреки его желанию.

Исследователи утверждают, что, помимо тревожного характера этих встреч, они могут представлять собой сдвиг в человеческом состоянии.

Исторически сложилось так, что культурные траурные практики позволяют индивидуально переживать катарсис и вырабатывать коллективный смысл при встрече со смертью. 

"Смерть - невероятно тонкий и деликатный вопрос, затрагивающий не только человека, который уходит из жизни, но и все общество, которое он оставляет после себя", - пишут авторы исследования.

Теперь искусственный интеллект угрожает нарушить эти давно устоявшиеся, деликатные траурные процессы.

Создание цифровых аватаров, симулирующих постоянные отношения с умершими, навечно приостанавливает их во времени и не дает отношениям двигаться вперед. 

Если добавить к этому возможность эмоционального манипулирования со стороны плохих актеров - феномен, который исследователи называют "цифровым преследованием", - потенциал вреда становится ошеломляющим.

Влияние на социальные институты, духовность и политику

Еще одна возможность, которая лежит за пределами Cambridge Исследование - это идея цифрового воскрешения мертвых, чтобы породить новые формы культового поведения.

Харизматичные личности могут получить еще больше влияния и власти после смерти благодаря аватарам ИИ.

Последователи могут становиться все более преданными этим цифровым призракам, ища у них руководства, мудрости и связи с ними, находясь за пределами могилы. Это может привести к появлению новых религиозных или духовных движений, сосредоточенных вокруг виртуального бессмертия почитаемых лидеров.

Поляризующие фигуры могут навсегда повлиять на общество через формы цифрового бессмертия. (Сделано с DALL-E 3)

Более того, идея цифрового воскрешения может бросить вызов давно устоявшимся представлениям о природе души и загробной жизни. Во многих религиозных традициях считается, что душа покидает тело после смерти и переходит в другое царство.

Но если ИИ может уловить и сохранить сущность человека, что это значит для судьбы его вечного духа?

Одни могут утверждать, что цифровое бессмертие - это способ обмануть смерть и достичь технотрансцендентности. Другие могут рассматривать его как осквернение естественного порядка вещей и оскорбление божественной воли. Это может привести к расколу в религиозных общинах.

В прошлом году одна из немецких церквей доставила Проповедь, созданная искусственным интеллектом представленные цифровыми аватарами.

Этот причудливый эксперимент, созданный Jonas Simmerleinбогослов и философ из University of Viennaиллюстрирует практический потенциал ИИ в области религии и спиритизма.

Возможно, это лишь вопрос времени, когда мы увидим появление духовных движений, основанных на технологиях и ориентированных на ИИ.

Политическое влияние за пределами могилы

Еще одно возможное влияние - размывание границ между живыми и мертвыми в публичной сфере.

По мере того как генерируемые ИИ аватары умерших знаменитостей, исторических личностей и обычных людей будут становиться все более распространенными, они смогут влиять на текущие события и формировать общественное мнение. Представьте себе спорное политическое одобрение от ИИ-копии любимого или влиятельного лидера.

Не так давно умерший индонезийский диктатор Сухарто был оживлен с помощью цифровых технологий чтобы посоветовать людям голосовать в преддверии выборов в стране. Несмотря на то, что это вполне доброкачественное мероприятие, оно еще раз показывает, что потенциал уже есть.

Усугубление неравенства

Существует также риск, что цифровое бессмертие усугубит существующее неравенство и создаст новые формы социального расслоения.

Как и в жизни, богатые и привилегированные люди могут иметь более широкий доступ к технологиям и ресурсам, необходимым для создания высококачественных и убедительных цифровых копий самих себя.

Это может привести к тому, что в будущем виртуальное наследие элиты продолжит пользоваться огромным влиянием, в то время как голоса и истории маргиналов останутся безвестными.

В этом сценарии цифровое бессмертие становится еще одним средством, с помощью которого власть и статус увековечиваются за пределами могилы.

Кому принадлежат данные умершего?

Еще один актуальный вопрос: кому "принадлежат" данные умершего и в каких целях они могут быть использованы? Если аватар подписывает контракт или совершает покупку, имеет ли это юридическую силу? 

Могут ли взаимодействия в загробной жизни даже служить доказательством в судебных процессах или влиять на выборы благодаря поддержке?

Может ли скорбящий привязаться или даже предпочесть идеального ИИ-компаньона своим несовершенным, дышащим близким?

В качестве примера можно привести голливудских актеров, включая икону Джеймса Дина, который умер более 70 лет назад, а теперь имеют "цифровых двойников" которые могут ходить, говорить и действовать вместе с живыми исполнителями, опираясь на архивные кадры, фотографии и аудиозаписи. 

Цифровой двойник Дина хранится в медиа-агентстве WRX и ее родственной лицензионной компании, CMG Worldwide. CMG Worldwide представляет звезд и общественных деятелей, таких как Amelia Earhart, Bettie Page, Malcolm X, and Rosa Parks

CMG Worldwide описывает его услуги: "CMG является активным бизнес-агентом для более чем 200 из этих востребованных клиентов. Уже четвертое десятилетие мы сохраняем, продвигаем и защищаем наследие наших клиентов, лицензируя интеллектуальную собственность наших клиентов крупнейшим компаниям мира."

Дин стал последней знаменитостью, прошедшей процедуру цифровой реанимации, присоединившись к таким звездам, как Carrie Fisher и Paul WalkerВ фильме, который был снят посмертно, он появился благодаря новейшей технологии CGI. 

Если данные человека подписаны, контроль над ними после его смерти может оказаться непростой задачей.

И опять же, это не просто предположение. Например, покойный комик Джордж Карлин был скопирован и используется в шоу, создаваемом искусственным интеллектом под названием "Джордж Карлин: I'm Glad I'm Dead" без разрешения его самого или его семьи, что вызвало бурю споров и последующий судебный процесс.

Скончавшийся актер Робин Уильямс также был подвержены клонированию голосаНа что его дочь, Зельда Уильямс, отреагировала: "Эти воссоздания в лучшем случае - плохое сходство с великими людьми, а в худшем - ужасное франкенштейновское чудовище, собранное из худших кусочков всего, чем является эта индустрия, вместо того, что она должна олицетворять".

Снижение рисков, связанных с цифровой загробной жизнью

Чтобы снизить риски, команда из Кембриджа предлагает строгие рекомендации по "ответственному цифровому воскрешению". 

В первую очередь, по их словам, необходимо получить четкое посмертное согласие умершего и положительное согласие тех, кто будет взаимодействовать с его аватарами. 

Исследование также рекомендует ограничить коммерциализацию и рекламу, обеспечить "значимую прозрачность", чтобы избежать заблуждений, и организовать достойные "цифровые похороны", когда люди будут готовы отпустить их. 

Альтернативой, предупреждают они, станет общество, преследуемое вечно присутствующими призраками данных ушедших. Существование, в котором мертвые никогда не покоятся с миром, а остаются на наших устройствах, всегда на расстоянии одного клика.

"Нам нужно уже сейчас задуматься о том, как снизить социальные и психологические риски цифрового бессмертия, ведь технология уже здесь", - говорит Nowaczyk-Basińska

"Если мы не предпримем быстрых действий, последствия того, как мы строим смысл в связи с конечностью человека, могут быть глубокими - и вызывающими глубокую тревогу".

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×
 
 

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI


 

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".



 
 

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения