Пользователи Reddit были тайно подвергнуты манипуляциям со стороны ИИ в ходе шокирующего психологического эксперимента.

Исследователи из Цюрихского университета тайно провели многомесячный эксперимент с использованием искусственного интеллекта в сообществе r/changemyview на Reddit, насчитывающем 3,8 миллиона участников, без согласия пользователей.

Группа исследователей из Цюрихского университета провела тайный многомесячный эксперимент, используя комментарии, сгенерированные искусственным интеллектом, для влияния на пользователей Reddit без их ведома или согласия.

Эксперимент состоялся в r/changemyview, сабреддит с 3,8 миллионами участников, известный своими конструктивными дебатами. Исследователи использовали большие языковые модели (LLM) Написать персонализированные, убедительные ответы, выдавая себя за реальных людей, чтобы проверить, сможет ли ИИ изменить взгляды пользователей.

Подробности

• Комментарии, сгенерированные искусственным интеллектом и выдающие себя за реальных пользователей, были опубликованы с целью повлиять на общественное мнение.
• В число представленных персонажей входили люди, пережившие травму, и спорные политические деятели.
• Искусственный интеллект использовал персональные данные, собранные из истории действий пользователей, для создания убедительных ответов.
• Никакая информация о деятельности не была раскрыта., Нарушение правил сабреддита и правил всего Reddit.

Речь шла не только о ботах.

Это была психологическая манипуляция с использованием личных данных для проверки эффективности искусственного интеллекта в различных ситуациях. Изменить мнение людей.

Главный юрисконсульт Reddit Бен Ли Reddit назвал это “глубоко неправильным как с моральной, так и с юридической точки зрения” и подтвердил, что готовится подать официальный иск в суд.

Фотография предоставлена Бретт Джордан на Unsplash

Защита исследователей

Они утверждают, что их этический комитет одобрил проект, и заявляют, что их целью было показать, как ИИ может быть использован не по назначению для манипулирования выборами или распространения разжигающих ненависть высказываний.

“Мы считаем, что потенциальные преимущества этого исследования значительно перевешивают его риски”, — написали исследователи.

Обратная реакция

Модераторы сообщества r/changemyview были возмущены, назвав исследование “нежелательным” и “манипулятивным”.”

Они подали жалобу. и попросили университет заблокировать публикацию исследования. Этот эксперимент выявляет растущую угрозу: убеждение с помощью ИИ в больших масштабах, без согласия. Он показывает, как легко можно повлиять на людей, когда ИИ знает ваши убеждения и может имитировать ваших сверстников.

В качестве испытуемых использовались пользователи Reddit.

Это было не просто академическое упражнение. Оно демонстрирует, насколько мощным и изощренным может быть манипулирование искусственным интеллектом, особенно когда он имитирует голоса доверенных людей, используя личные данные.

В условиях широкого распространения генеративного искусственного интеллекта, Риск манипуляций с помощью ИИ перестал быть чисто теоретическим. Это правда, и это произошло в одном из крупнейших интернет-сообществ.

Теперь Reddit, одно из крупнейших в мире онлайн-сообществ, дает отпор.