Компания Meta объявила о новых инициативах, направленных на повышение прозрачности контента, создаваемого искусственным интеллектом на ее платформах.
Писать в запись в блогеНик Клегг, президент Meta по глобальным вопросам, подчеркнул, что компания стремится маркировать изображения, созданные искусственным интеллектом, чтобы помочь пользователям отличить контент, созданный человеком, от синтетического.
Клегг заявил: "Поскольку разница между человеческим и синтетическим контентом становится все более размытой, люди хотят знать, где проходит граница". Он также добавил, что Meta "работает с партнерами по отрасли над согласованием общих технических стандартов, которые сигнализируют о том, что контент был создан с помощью ИИ".
Meta признает растущую распространенность фотореалистичного контента, созданного искусственным интеллектом, который теперь широко известен как глубокие подделки.
Тейлор Свифт стала последней громкой жертвой откровенного мошенничества. изображения, созданные искусственным интеллектом без согласияПользователи отследили, что это был "вызов" на 4Chan.
Мошенничество, организованное фейковыми видео, принесло транснациональной компании $25,6 миллиона долларов в понедельник.
Бремя ответственности за предотвращение распространения таких изображений полностью ложится на компании, работающие в социальных сетях, такие как X и Meta.
Компания Meta обозначает фотореалистичные изображения, созданные с помощью собственной функции Meta AI, как "Imagined with AI" и планирует распространить эту практику на контент, созданный с помощью инструментов других компаний.
Компания утверждает, что разрабатывает инструменты, способные определять невидимые маркеры и метаданные, встроенные в изображения, созданные искусственным интеллектом, что позволит ему маркировать контент из широкого спектра источников, включая Google, OpenAI, Microsoft, Adobe, Midjourney и Shutterstock.
Теперь Meta намерена применить эти метки ко всем поддерживаемым языкам на своих платформах.
Клегг также подчеркнул необходимость сотрудничества в технологической отрасли, написав: "Поскольку контент, созданный искусственным интеллектом, появляется в Интернете, мы вместе с другими компаниями нашей отрасли разрабатываем общие стандарты для его идентификации на форумах, подобных Партнерству по искусственному интеллекту (PAI). Невидимые маркеры, которые мы используем для изображений Meta AI - метаданные IPTC и невидимые водяные знаки - соответствуют лучшим практикам PAI".
Несмотря на все усилия и успехи в борьбе с подделками, Клегг отметил, что обнаружение аудио- и видеоматериалов, созданных искусственным интеллектом, остается сложной задачей из-за отсутствия сопоставимых сигналов.
Но даже если речь идет о поддельных изображениях, они могут набрать миллионы просмотров, прежде чем будут полностью удалены, как это произошло в последнем случае с Тейлор Свифт.
Другие инциденты, например, комментатор Бен Шапиро, поделившийся вероятное изображение мертвого ребенка, созданное искусственным интеллектом израильско-палестинского конфликта, также привлекли огромное внимание мировой общественности, прежде чем им был дан отпор.
В качестве временной меры Meta введет функцию, которая позволит пользователям сообщать, когда они делятся видео или аудио, созданными искусственным интеллектом.
Но кто будет этим пользоваться, если они размещают контент, призванный разжечь споры?
Помимо маркировки, Meta изучает различные технологии, чтобы расширить свои возможности по обнаружению контента, созданного искусственным интеллектом, даже в отсутствие невидимых маркеров.
Сюда входят исследования в области технологии невидимых водяных знаков, таких как Стабильная подпись Разработанная исследовательской лабораторией искусственного интеллекта Meta, FAIR, которая интегрирует водяной знак непосредственно в процесс создания изображения.
Выборы приближаются, глубокие подделки усиливаются
Мы были свидетелями того. многочисленные случаи политической дезинформации направляется через глубокие подделки.
Google, Meta, YouTube, X и другие компании наращивают усилия по борьбе с подделками в преддверии предстоящих выборов, в том числе в США и Великобритании (скорее всего).
По мере того как контент, создаваемый искусственным интеллектом, становится все более сложным и распространенным, растет необходимость в бдительности и инновациях в области аутентификации и прозрачности контента.
Есть ли окончательное решение? Похоже, что нет.
