Надзорный совет Meta оценивает свою работу с явными глубокими подделками

18 апреля 2024 года

  • Надзорный совет Meta раскритиковал работу платформы с глубокими подделками
  • Две женщины были замешаны в глубоких фейках, которые остались без модерации
  • Они попросили общественность высказать свое мнение об этом инциденте.
ИИ Мета

Надзорный совет - это независимый экспертный орган, созданный компанией Meta в 2020 году для рассмотрения наиболее сложных решений компании по модерации контента в Facebook, Instagram и Threads. 

Во вторник он объявил, что проверит действия Meta в двух случаях, связанных с создаваемыми искусственным интеллектом сексуально откровенными изображениями, на которых изображены общественные деятели женского пола.

В состав совета входят 20 человек по всему миру, в том числе юристы, правозащитники, журналисты и ученые.

Он работает независимо от Meta, имеет свой штат и бюджет и может принимать обязательные решения по контенту, которые Meta должна выполнять, если это не нарушает закон. 

Совет также может давать необязательные политические рекомендации Мета.

В запись в блогеСовет по надзору заявил: "Сегодня Совет объявляет о рассмотрении двух новых дел. В связи с этим мы приглашаем людей и организации представить публичные комментарии".

В первом случае речь идет о сгенерированном искусственным интеллектом откровенном изображении, размещенном в Instagram, на котором был изображен общественный деятель из Индии. 

Согласно заявлению Совета, "изображение было создано с помощью искусственного интеллекта (ИИ), чтобы походить на публичную фигуру из Индии. Аккаунт, разместивший этот контент, делится только сгенерированными искусственным интеллектом изображениями индийских женщин. Большинство пользователей, отреагировавших на это, имеют аккаунты в Индии, где глубокие подделки становятся все более серьезной проблемой".

Второй случай связан с изображением, размещенным в группе Facebook, посвященной творениям ИИ, на котором изображена сгенерированная ИИ обнаженная женщина, похожая на американского общественного деятеля, которую лапает мужчина. 

Надзорный совет отметил: "На нем представлено сгенерированное искусственным интеллектом изображение обнаженной женщины с мужчиной, лапающим ее за грудь. Изображение было создано с помощью искусственного интеллекта, чтобы походить на американского общественного деятеля, который также назван в подписи. Большинство пользователей, которые отреагировали на это, имеют аккаунты в США".

Первоначально Meta позволила изображению индийского общественного деятеля остаться на Instagram, но затем удалила его за нарушение стандарта сообщества "Запугивание и преследование" после того, как надзорный совет выбрал это дело для рассмотрения. 

Meta удалила изображение американского общественного деятеля за нарушение той же политики, в частности, пункта, запрещающего "унизительный сексуализированный фотошоп или рисунки".

Надзорный совет заявил, что "выбрал эти дела, чтобы оценить, насколько политика Meta и ее правоприменительная практика эффективны в борьбе с откровенными изображениями, созданными искусственным интеллектом. Это дело соответствует гендерному стратегическому приоритету Совета".

В рамках процесса рассмотрения надзорный совет просит общественность прокомментировать различные аспекты этих дел, включая "характер и серьезность вреда, наносимого глубокой поддельной порнографией", "контекстуальную информацию об использовании и распространенности глубокой поддельной порнографии во всем мире" и "стратегии, как Meta может бороться с глубокой поддельной порнографией на своих платформах".

Период публичных комментариев продлится 14 дней и завершится 30 апреля. Затем Совет по надзору рассмотрит все дела и вынесет свои решения, которые будут обязательными для Meta. Любые политические рекомендации Совета не будут иметь обязательной силы, но Meta должна ответить на них в течение 60 дней.

Заявление Совета по надзору было сделано в самый разгар растущие опасения о распространении глубокой поддельной порнографии без согласия, направленной на женщин, особенно знаменитостей. 

Тейлор Свифт была самая результативная мишеньСгенерированные искусственным интеллектом откровенные изображения певицы вызвали охоту на преступника. 

В ответ на растущую угрозу поддельной порнографии законодатели представили DEFIANCE Выступление в январе, который позволит жертвам глубоких подделок без согласия подавать в суд, если они смогут доказать, что контент был сделан без их согласия. 

Конгрессвумен Александрия Окасио-Кортез, которая выступила автором законопроекта и сама стала жертвой порнографических подделок, подчеркнула необходимость принятия Конгрессом мер по поддержке жертв, поскольку подделки становятся все более доступными.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения