Исследователи обнаружили, что люди плохо определяют, какие лица настоящие, а какие сгенерированы искусственным интеллектом. Гиперреалистичные лица ИИ чаще воспринимаются как настоящие, чем реальные человеческие лица.
ИсследованиеВ ходе эксперимента, проведенного под руководством Австралийского национального университета, выяснялось, могут ли люди различать человеческие лица и лица, сгенерированные искусственным интеллектом, и какие черты привели к тому, что люди сделали тот или иной выбор.
Предыдущие исследования показали, что участники могли распознать небелое лицо ИИ примерно в 50% случаев. В более позднем исследовании группе из 124 взрослых людей показали смесь из 100 искусственных интеллектов и 100 настоящих белых лиц и попросили определить, настоящие они или нет.
Сайт Лица, сгенерированные искусственным интеллектом были ошибочно идентифицированы как человеческие в 65,9% раз, в то время как человеческие лица были оценены как человеческие только в 51,1% раз.
Соавтор исследования доктор Ева Крумхубер говорит: "Искусственный интеллект достиг поразительного уровня реалистичности, и здесь мы обнаружили, что иногда он может казаться даже более реальным, чем реальность - гиперреалистичным - так что нас очень легко обмануть, заставив думать, что лицо, сгенерированное ИИ, является настоящим".
Участников также спросили, насколько они уверены в своей оценке. В классическом примере эффекта Даннинга-Крюгера участники, совершившие наибольшее количество ошибок, были наиболее уверены в правильности своих суждений.
Элизабет Миллер, соавтор исследования и кандидат наук из Австралийского национального университета, говорит: "Вызывает беспокойство тот факт, что люди, которые чаще всего считали лица ИИ реальными, как ни парадоксально, были наиболее уверены в правильности своих суждений".
Как бы вы справились с тестом? Какие из них настоящие, а какие сгенерированы искусственным интеллектом? О том, как вы справились с тестом, мы расскажем ниже.
Исследователи пришли к выводу, что лица, сгенерированные ИИ, не просто неотличимы от человеческих, но и имеют особенности, благодаря которым они кажутся нам еще более реальными. Они назвали эту особенность лиц ИИ гиперреализмом.
Исследователи использовали StyleGAN2, генеративную состязательную сеть (GAN), для создания лиц ИИ. StyleGAN2 была обучена на большом наборе данных человеческих лиц, из которых около 69% были белыми, а 31% - лицами всех остальных рас вместе взятых.
Исследователи пришли к выводу, что перепредставленность белых лиц позволила модели генерировать лица, представляющие собой среднее арифметическое всех этих черт таким образом, что они выглядели скорее людьми, чем людьми.
Авторы статьи пришли к выводу, что подобная предвзятость учебных наборов данных поднимает важные вопросы. "Если лица, созданные ИИ, действительно покажутся более реалистичными для белых, чем для других групп, то их использование приведет к смешению восприятия расы с восприятием "человечности"", - отмечается в статье.
Если представление ИИ-модели о человеческом лице - это неестественное усреднение черт лица белых, как она сможет отличить настоящего человека другой национальности от подделки ИИ, если ее попросят это сделать?
Старший автор исследования доктор Эми Доуэл (Amy Dawel) говорит: "Если лица белых ИИ будут постоянно восприниматься как более реалистичные, эта технология может иметь серьезные последствия для цветного населения, усиливая расовые предубеждения в сети".
Какие особенности привели к ошибкам?
Должны быть какие-то особенности лица ИИ, которые заставляют нас считать его более человечным, чем настоящее человеческое лицо". Во втором эксперименте 610 участников попросили оценить лица ИИ и человека по 14 признакам, включая такие характеристики, как привлекательность, контакт глаз и выразительность.
Объединив эти данные с данными первого эксперимента, исследователи смогли определить, что заставляло людей с большей вероятностью идентифицировать лицо как сгенерированное ИИ или реальное.
Они обнаружили, что гиперреалистичность лиц ИИ может объясняться тем, что они "значительно более средние (менее характерные), знакомые и привлекательные, а также менее запоминающиеся, чем человеческие лица".
Тот факт, что мы так быстро соглашаемся с тем, что лицо ИИ настоящее, показывает, насколько важно иметь инструменты для обнаружения подделок ИИ.
Исследователи взяли данные об атрибутах, воспринимаемых человеком, и о том, как они использовались правильно и неправильно при ошибочной идентификации лиц ИИ, и создали модель машинного обучения для распознавания лиц ИИ. Модель смогла точно классифицировать тип лица с точностью 94%.
Вряд ли мы станем прогонять лицо через систему проверки лица ИИ каждый раз, когда увидим его в сети. А генераторы лиц будут только лучше справляться с детекторами подделок.
Доктор Доуэл подытожил, что мы можем сделать в этой ситуации: "Просвещение людей о том, насколько реалистичными кажутся лица, созданные искусственным интеллектом, может помочь общественности с должным скептицизмом относиться к изображениям, которые они видят в Интернете".
Если мы будем напоминать себе, что мы действительно плохо умеем распознавать подделки, то, возможно, мы будем реже попадаться на их удочку.
