Некоторые из лучших детекторов изображений с искусственным интеллектом можно обмануть, добавив к изображению текстуру или слегка ухудшив его.
Несмотря на то, что изображения, созданные искусственным интеллектом, существуют не так давно, мы знаем, что лучше не доверять своим глазам. Но, оказывается, мы не можем доверять даже машинам, которые должны определять, настоящее это изображение или подделка.
Недавний эксперимент сообщает "Нью-Йорк Таймс". обнаружили, что в большинстве случаев детекторы изображений искусственного интеллекта, такие как Улей или Umm-maybe смогли правильно классифицировать изображения, созданные ИИ. Правда, до тех пор, пока они не добавляли в изображение зерно.
Когда они ухудшали изображения, добавляя небольшое количество зернистости или пиксельного шума, детекторы в большинстве случаев были уверены, что изображения, сгенерированные ИИ, настоящие. В одном случае черно-белое изображение человека сначала было правильно оценено, как имеющее 99% вероятность того, что оно сгенерировано ИИ. При добавлении небольшого количества зерна детектор внезапно снизил вероятность до 3,3%, по сути, заявив, что изображение почти наверняка настоящее.
Когда поддельные изображения Папы Римского в пуховике от Balenciaga дурачат некоторых людей, это безобидная забава. Но когда изображения, сгенерированные искусственным интеллектом, используются на выборах и не могут быть идентифицированы как подделка, последствия могут быть более серьезными.
Рон ДеСантис недавно подвергся критике за использование в своей кампании изображений, сгенерированных искусственным интеллектом. Его кампания перемежала 3 реальных изображения Трампа с 3 сгенерированными ИИ изображениями Трампа, обнимающего и целующего доктора Энтони Фаучи. Агентство Франс Пресс был первым, кто указал на подделки.
Если вы хотя бы смутно знакомы с политикой Трампа, то вам не нужно программное обеспечение, чтобы сказать, что фотография, на которой он целуется с Фаучи, - подделка. Но ИИ-детекторы изображений не используют контекст или предмет, чтобы решить, является ли фотография настоящей или нет. Они смотрят на характерные пиксельные узоры, которые ИИ-генераторы изображений создают при создании снимка.
Оказалось, что если взять эти изображения высокого разрешения и немного ухудшить их качество, то даже лучшие детекторы подделок с искусственным интеллектом часто будут говорить, что изображение подлинное. Даже если попросить Midjourney сделать некачественную старинную фотографию, то этого будет достаточно, чтобы обмануть некоторые из этих инструментов.
Это интересное событие, но насколько значимым оно окажется, еще предстоит выяснить. Реальные последствия Дезинформация, генерируемая искусственным интеллектом вряд ли удастся избежать с помощью надежных детекторов. Здоровая доля скептицизма и просвещение людей о рисках, связанных с доверием к своим глазам, будут гораздо эффективнее.
