Поддельные голоса, клонированные искусственным интеллектом, недавно попали в новости благодаря робозвонку "Байден", но по мере того, как технология становится все более доступной и сложной для обнаружения, от нее страдают и обычные люди.
Две недели назад была опубликована аудиозапись директора школы Пайксвилля Эрика Эйсверта, в которой, как оказалось, Эйсверт делал расистские и антисемитские замечания в адрес сотрудников и учеников.
Айсверт отрицал подлинность аудиозаписи, и его позицию поддержал Билли Берк, исполнительный директор Совета административных и контролирующих работников, представляющего администраторов округа Балтимор.
"Мы считаем, что это искусственный интеллект", - сказал Берк. "Он этого не говорил".
В эпоху подделок искусственного интеллекта "Дивиденды лжеца" дает любому человеку возможность легко воскликнуть "Фальшивка!", оказавшись в затруднительном положении. В то же время клонирование голоса ИИ может нанести большой репутационный ущерб обычным людям, таким как Эйсверт.
Что вы думаете? Подделка или реальность?
Посмотреть это сообщение на Instagram
Либо аудиозапись подлинная, и его следует уволить, либо это подделка ИИ, и на кого-то следует подать в суд.
Спустя две недели никто ничего не может сказать, так что работа и репутация Эйсверта остаются под вопросом. Это говорит о том, насколько совершенными становятся инструменты для клонирования голоса и какие сложные вопросы поднимает эта технология.
Еще год назад мы могли бы отвергнуть утверждение Эйсверта о подделке ИИ, сославшись на то, что таких продвинутых технологий ИИ не существует. Теперь же компании вроде Eleven Labs или дешевые инструменты вроде Parrot AI позволяют любому желающему легко создавать впечатляющие голосовые клоны.
OpenVoice, выпущенный в начале этого месяца, использует всего несколько секунд аудиозаписи для клонирования голоса и позволяет детально контролировать эмоции, акцент, тон, ритм и многое другое.
Сегодня мы с гордостью открываем исходный код нашего алгоритма OpenVoice, воплощая в жизнь наш основной принцип - искусственный интеллект для всех.
Испытайте это прямо сейчас: https://t.co/zHJpeVpX3t. Клонируйте голоса с непревзойденной точностью, с гранулированным контролем тона, от эмоций до акцента, ритма, пауз и интонации, используя всего лишь... pic.twitter.com/RwmYajpxOt
- MyShell (@myshell_ai) 2 января 2024 года
Хани Фарид, профессор Калифорнийского университета в Беркли, специализируется на цифровой криминалистике и проверке подлинности цифровых носителей. Когда репортер WJZ попросил его проанализировать ролик, Фарид сказал, что он явно был отредактирован, но кроме этого он не может подтвердить, является ли он подлинным или нет.
В интервью Scientific American Фарид сказал: "Я проанализировал аудиозапись с помощью некоторых наших инструментов, которые пока не доступны общественности. Я считаю вероятным, но не уверенным, что это аудио сгенерировано искусственным интеллектом... В целом, я думаю, что доказательства указывают на то, что это аудио не подлинное. Но прежде чем сделать окончательный вывод, нам нужно узнать больше".
По словам Фарида, в мире существует не более пяти лабораторий, способных достоверно определить, является ли аудиозапись подделкой ИИ или подлинной.
Клон ИИ, которого сделал Дадеси. Джордж Карлин это отличный пример того, как искусственный интеллект клонирует голоса, подбирая интонации и эмоции. С тех пор это видео стало недоступным.
Люди, стоящие за чат-ботами mysentient.ai, создали пародию на них. Дебаты между Трампом и Байденом. Вещи, которые говорят Трамп и Байден, настолько безумны, что явно сделаны для комедийного эффекта, но звучат они действительно хорошо.
По мере того как эти инструменты становятся все лучше и доступнее, ситуации, подобные той, с которой столкнулся директор школы в Балтиморе, будут все чаще затрагивать как политиков, так и обычных людей.
Если вы отправили голосовую записку в WhatsApp или оставили сообщение в службе ответа на звонки, то вы можете стать следующим. Или, если кто-то записал, как вы говорите что-то неловкое, вы можете просто сказать, что это подделка ИИ. Кажется, никто не может доказать это в любом случае.
