Недавний эксперимент показал, что люди могут правильно идентифицировать сгенерированные ИИ человеческие лица лишь в 48,2% случаев.
Сайт исследование В исследовании приняли участие 315 человек, которым было поручено различать реальные и сгенерированные искусственным интеллектом лица. Лица были синтезированы с помощью StyleGAN2, современного движка, способного создавать разнообразные и реалистичные человеческие подобия.
Результаты оказались одновременно захватывающими и слегка нервирующими: способность участников идентифицировать лица, созданные ИИ, колебалась в районе 48,2% - хуже, чем при подбрасывании монеты.
Онутверждает, что для обычного человека поддельные лица ИИ практически неотличимы от настоящих человеческих.
Вы можете сами убедиться в реалистичности этих лиц, посетив сайт this-person-does-not-exist.com, который показывает реалистичные изображения, созданные искусственным интеллектом, практически любого человека, в любом возрасте и из любой среды. И этому инструменту уже несколько лет.
Углубляясь в исследование, ученые также выяснили, сложнее ли правильно классифицировать представителей определенных рас и полов.
Было замечено, что белые лица, особенно мужские, участникам было сложнее всего правильно идентифицировать как настоящие или синтетические.
Причина этого может заключаться в том, что в наборе обучающих данных ИИ слишком много белых лиц, что приводит к созданию более реалистичных белых синтетических лиц, говорится в исследовании.
Еще более интригующим оказалось открытие, что участники оценили синтетические лица как более заслуживающие доверия, чем реальные, хотя и с небольшим отрывом. Это может намекать на подсознательное предпочтение средних характеристик, которые, как правило, генерирует ИИ, и которые, как утверждается в исследовании, по результатам предыдущих исследований, воспринимаются как более надежные.
Незначительное увеличение вероятности того, что кто-то воспримет изображение ИИ как более достоверное, чем реальное, вызывает серьезные опасения, когда масштабируется до уровня населения.
Интерпретация мозгом лиц, сгенерированных искусственным интеллектом, является сложной
A второе недавнее исследование Участники должны были определить, является ли лицо реальным или нет, в то время как они выполняли задание, призванное отвлечь их внимание.
Они не могли сознательно отличить одно от другого, но все стало еще более запутанным, когда их мозговая активность была измерена с помощью электроэнцефалограммы (ЭЭГ).
Примерно через 170 миллисекунд после просмотра лиц электрическая активность мозга показала различия между реальными и синтетическими изображениями.
Казалось, чтоолько подсознание лучше, чем сознание, "понимало", когда изображение может быть сгенерировано искусственным интеллектом. Но, несмотря на это, участники не могли сознательно обозначить лица ИИ с какой-либо высокой степенью уверенности.
Можно предположить, что существует сознательный уровень интерпретации, когда мы даем сгенерированным ИИ лицам "преимущество сомнения", даже если мы не уверены.
В конце концов, нам свойственно распознавать человеческие лица и доверять им, поэтому очень сложно отстраниться от этого и вычленить несоответствия, которые может выявить изображение, сгенерированное искусственным интеллектом.
Это похоже на то, как если бы первоначальные подозрения уступили место более утвердительному подтверждению того, что человек на самом деле существует, когда это не так, - своего рода извинение, вызванное ИИ.
Чем бы ни объяснялась эта причуда, глубокие подделки, созданные ИИ, являются приоритетным риском для технологии. недавний скандал ударил по школе в Нью-Джерси.
Глубокое мошенничество регулярно происходят, и есть серьезные опасения, что поддельный контент, созданный искусственным интеллектом. может повлиять на поведение избирателей.
