Надзорный совет - это независимый экспертный орган, созданный компанией Meta в 2020 году для рассмотрения наиболее сложных решений компании по модерации контента в Facebook, Instagram и Threads.
Во вторник он объявил, что проверит действия Meta в двух случаях, связанных с создаваемыми искусственным интеллектом сексуально откровенными изображениями, на которых изображены общественные деятели женского пола.
В состав совета входят 20 человек по всему миру, в том числе юристы, правозащитники, журналисты и ученые.
Он работает независимо от Meta, имеет свой штат и бюджет и может принимать обязательные решения по контенту, которые Meta должна выполнять, если это не нарушает закон.
Совет также может давать необязательные политические рекомендации Мета.
В запись в блогеСовет по надзору заявил: "Сегодня Совет объявляет о рассмотрении двух новых дел. В связи с этим мы приглашаем людей и организации представить публичные комментарии".
В первом случае речь идет о сгенерированном искусственным интеллектом откровенном изображении, размещенном в Instagram, на котором был изображен общественный деятель из Индии.
Согласно заявлению Совета, "изображение было создано с помощью искусственного интеллекта (ИИ), чтобы походить на публичную фигуру из Индии. Аккаунт, разместивший этот контент, делится только сгенерированными искусственным интеллектом изображениями индийских женщин. Большинство пользователей, отреагировавших на это, имеют аккаунты в Индии, где глубокие подделки становятся все более серьезной проблемой".
Второй случай связан с изображением, размещенным в группе Facebook, посвященной творениям ИИ, на котором изображена сгенерированная ИИ обнаженная женщина, похожая на американского общественного деятеля, которую лапает мужчина.
Надзорный совет отметил: "На нем представлено сгенерированное искусственным интеллектом изображение обнаженной женщины с мужчиной, лапающим ее за грудь. Изображение было создано с помощью искусственного интеллекта, чтобы походить на американского общественного деятеля, который также назван в подписи. Большинство пользователей, которые отреагировали на это, имеют аккаунты в США".
Первоначально Meta позволила изображению индийского общественного деятеля остаться на Instagram, но затем удалила его за нарушение стандарта сообщества "Запугивание и преследование" после того, как надзорный совет выбрал это дело для рассмотрения.
Meta удалила изображение американского общественного деятеля за нарушение той же политики, в частности, пункта, запрещающего "унизительный сексуализированный фотошоп или рисунки".
Надзорный совет заявил, что "выбрал эти дела, чтобы оценить, насколько политика Meta и ее правоприменительная практика эффективны в борьбе с откровенными изображениями, созданными искусственным интеллектом. Это дело соответствует гендерному стратегическому приоритету Совета".
В рамках процесса рассмотрения надзорный совет просит общественность прокомментировать различные аспекты этих дел, включая "характер и серьезность вреда, наносимого глубокой поддельной порнографией", "контекстуальную информацию об использовании и распространенности глубокой поддельной порнографии во всем мире" и "стратегии, как Meta может бороться с глубокой поддельной порнографией на своих платформах".
Период публичных комментариев продлится 14 дней и завершится 30 апреля. Затем Совет по надзору рассмотрит все дела и вынесет свои решения, которые будут обязательными для Meta. Любые политические рекомендации Совета не будут иметь обязательной силы, но Meta должна ответить на них в течение 60 дней.
Заявление Совета по надзору было сделано в самый разгар растущие опасения о распространении глубокой поддельной порнографии без согласия, направленной на женщин, особенно знаменитостей.
Тейлор Свифт была самая результативная мишеньСгенерированные искусственным интеллектом откровенные изображения певицы вызвали охоту на преступника.
В ответ на растущую угрозу поддельной порнографии законодатели представили DEFIANCE Выступление в январе, который позволит жертвам глубоких подделок без согласия подавать в суд, если они смогут доказать, что контент был сделан без их согласия.
Конгрессвумен Александрия Окасио-Кортез, которая выступила автором законопроекта и сама стала жертвой порнографических подделок, подчеркнула необходимость принятия Конгрессом мер по поддержке жертв, поскольку подделки становятся все более доступными.
