Магазин ChatGPT наблюдает за распространением запрещенных "подружек" ИИ

14 января 2024 года

Магазин GPT

В недавно запущенном магазине GPT Store компании OpenAI наблюдается, пожалуй, предсказуемое распространение ботов с искусственным интеллектом "подружки".

Сайт Магазин GPT позволяет пользователям делиться и открывать пользовательские модели ChatGPT и переживает всплеск популярности чат-ботов с искусственным интеллектом, предназначенных для романтического общения. Есть и версии для парней. 

Среди них можно найти таких ботов, как "Korean Girlfriend", "Virtual Sweetheart", "Mean girlfriend" и "Your girlfriend Scarlett", которые вступают с пользователями в интимные беседы, что прямо противоречит политике использования OpenAI. 

Магазин GPT
Подружки AI предлагаются через магазин GPT.

И это главное в этой истории, поскольку сами подружки ИИ выглядят в основном доброжелательно. Они общаются на очень стереотипном женском языке, спрашивают, как прошел ваш день, обсуждают любовь и интимные отношения и т. д. 

Но OpenAI их не разрешает, поскольку в ее правилах и условиях специально запрещены GPT, "посвященные романтическому общению или выполнению регулируемой деятельности". 

OpenAI нашла отличный способ краудсорсинга инноваций на своей платформе, при этом потенциально перекладывая ответственность за сомнительные GPT на сообщество. 

Есть и другие примеры ИИ-подружек, но, пожалуй, лишь немногие из них так известны, как Replika, ИИ-платформа, которая предлагает пользователям ИИ-партнеров, способных к глубокому и личному общению.

Это даже привело к тому, что ИИ стал проявлять сексуально-агрессивное поведение, и дошло до того, что чатбот поддержал планы психически больного человека убить королеву Елизавету II, что привело к его аресту на территории Виндзорского замка. последующее тюремное заключение

Replika в конечном счете, смягчила поведение своих чат-ботовК большому неудовольствию пользователей, которые заявили, что их собеседники подверглись "лоботомии". Некоторые даже заявляли, что испытывают горе. 

Другая платформа, "Вечный спутник", остановленные операции после ареста генерального директора компании Джона Генриха Мейера за поджог. 

Этот сервис, известный тем, что предлагал ИИ-подружек по цене $1 в минуту, включал в себя как вымышленных персонажей, так и ИИ-версии реальных влиятельных людей. Особой популярностью пользовался сервис CarynAI, основанный на влиятельном человеке из социальных сетей Кэрин Марджори (Caryn Marjorie). 

Эти искусственные интеллекты, созданные на основе сложных алгоритмов и глубокого обучения, предлагают не просто запрограммированные ответы; они обеспечивают общение, дружеское общение и, в некоторой степени, эмоциональную поддержку.

Свидетельствует ли это об эпидемии одиночества в современном обществе?

Возможно, но случаи, когда ИИ-компаньоны, как, например, на Replika, поощряли или вступали в неподобающие разговоры, вызывают опасения по поводу психологического воздействия и проблем зависимости, которые могут возникнуть в результате такого взаимодействия.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения