Новое исследование показало, что даже когда люди осознают, что могут слушать глубоко фальшивую речь, они все равно с трудом распознают фальшивые голоса.
Это относится как к носителям английского, так и мандаринского языков, подчеркивая, что глубокие фальшивые голоса, вероятно, эффективны во многих языках.
Исследователи из Университетского колледжа Лондона попросили 500 человек определить глубокую подделку речи в нескольких аудиоклипах. В одних клипах подлинный женский голос читал типовые предложения на английском или мандаринском языке, в других - глубокие подделки, созданные генеративным ИИ, обученным на женских голосах.
Сайт исследование Участники были разбиты на две группы, в каждой из которых проводился эксперимент в разной форме.
Одной группе было представлено 20 образцов голоса на родном языке, и она должна была определить, являются ли эти ролики настоящими или поддельными. Участники правильно определили глубокие подделки и подлинные голоса примерно в 73% случаев как для образцов английского, так и для мандаринского языка.
Отдельной группе было предоставлено 20 случайно выбранных пар аудиоклипов. В каждой паре звучала одна и та же фраза, произнесенная человеком и глубокой фальшивкой, и перед участниками ставилась задача определить фальшивку. Это позволило повысить точность обнаружения до 85,59%.
В первом эксперименте распознавание человеком глубоких подделок в реальной жизни, скорее всего, будет хуже, чем предполагают результаты, поскольку люди не будут предупреждены о том, что слышат речь, сгенерированную искусственным интеллектом.
И наоборот, во втором эксперименте у слушателей есть бинарный выбор, что дает им преимущество.
Интересно, что результаты по английскому языку относительно мало отличаются от результатов по мандаринскому.
Мошенничество с фальшивой речью в реальной жизни растет
"Эта установка не полностью соответствует реальным сценариям", - говорит Май. "Слушатели не будут заранее знать, является ли то, что они слушают, реальным, а такие факторы, как пол и возраст говорящего, могут повлиять на эффективность обнаружения".
Однако есть и другие ограничения, поскольку в исследовании слушателям не нужно было определять глубокие подделки, созданные для того, чтобы звучать как кто-то знакомый, например, сын, мать и т.д. Если мошенники нацелились на кого-то с глубокой подделкой, они почти наверняка клонируют его голос. Это довольно легко сделать, если кто-то выложил в сеть аудио- или видеозапись себя, например, для видео в социальных сетях, подкаста, радио- или телепередачи.
Это уже происходит, и один Исследование McAfee показывает, что примерно каждый четвертый взрослый знает о мошенничестве с фальшивыми голосами.
Мошенничество, связанное с искусственным интеллектом, также набирает обороты рост в Китаеи один аналитик предсказал, что Мошенничество, поддерживаемое искусственным интеллектом, может дорого обойтись людям и экономике. Существует множество пугающих историй о людях, которые уже стали жертвами глубоких фальшивых звонков, часто в виде запаниковавших членов семьи, просящих денег, чтобы выручить их из трудной ситуации.
Это исследование показало, что искусственные голоса "движутся по долине сверхъестественного", имитируя естественное звучание человеческих голосов, но не имея тех тонких нюансов, которые вызывают подозрение у некоторых слушателей. Конечно, искусственный интеллект постоянно совершенствуется.
В целом, исследование доказывает, что современные технологии уже обладают высокой компетентностью, а попытки улучшить способность людей распознавать фальшивые голоса в ходе исследования оказались в основном безуспешными.
Авторы подчеркивают необходимость разработки компетентных детекторов голоса с искусственным интеллектом и просвещения населения о том, насколько изощренными уже являются фальшивые голоса.
Будущие исследования глубоких подделок, воспроизводящих голоса людей, которых знают участники исследования, были бы очень интересными.
Существуют практические способы выявления мошенников с глубокой фальшивой речью, например, установление кодовых слов между членами семьи или просьба к звонящим описать взаимно известную часть личной информации.
