Федеральная торговая комиссия (FTC) призвана защищать потребителей от мошенничества и афер, но постоянно совершенствующийся искусственный интеллект, клонирующий голос, усложняет эту задачу.
Хотя клонирование голоса с помощью искусственного интеллекта вызывает множество споров, есть законные случаи использования, которые делают эту технологию достойной внимания.
Восстановление личного средства связи для человека, потерявшего голос, или озвучивание знакомого киногероя спустя долгое время после того, как оригинальный исполнитель голоса скончался, - вот лишь два примера. В прошлом году мэр Нью-Йорка Эрик Адамс использовал ИИ-клон его голоса общаться с жителями города на нескольких языках.
Однако благодаря этой технологии мошенникам стало гораздо проще вводить в заблуждение ничего не подозревающих людей, когда они отвечают на телефонные звонки. В прошлом году в одном из городов США Отчет McAfee FTC предупредила потребителей о "мошенничестве в семейных ситуациях", когда звонящий выдает себя за члена семьи, попавшего в беду.
Кроме как завершить звонок и затем позвонить человеку по указанному номеру, это очень трудно идентифицировать голос ИИ клон реального человека.
FTC обратилась к частным лицам или организациям с просьбой представить "прорывные идеи, направленные на предотвращение, мониторинг и оценку злонамеренного использования технологии клонирования голоса".
Конкурс продлится со 2 по 12 января, а победившая идея получит вознаграждение в размере $25 000. Если у вас есть яркие идеи, вы можете отправьте их сюда.
Представленные материалы должны касаться хотя бы одного из трех следующих пунктов вмешательства, которого хочет добиться FTC:
- Предотвращение или аутентификация: Должен быть предусмотрен способ ограничения использования или применения программного обеспечения для клонирования голоса неавторизованными пользователями.
- Обнаружение или мониторинг в режиме реального времени: Должен быть предусмотрен способ обнаружения клонированных голосов или использования технологии клонирования голоса.
- Оценка после использования: Должен быть предусмотрен способ проверки, содержит ли аудиоклип клонированные голоса.
Сэмюэль Левин, директор Бюро по защите прав потребителей FTC, заявил: "Мы будем использовать все средства для предотвращения вреда, наносимого общественности в результате злоупотребления технологией клонирования голоса".
Стефани Т. Нгуен (Stephanie T. Nguyen), директор по технологиям FTC, сказала: "Задача составлена таким образом, чтобы обеспечить ответственность компаний за последствия первого и второго порядка от выпускаемых ими продуктов".
Это может быть трудно или даже невозможно сделать. Даже если солидные компании добавят "водяной знак" на аудио, которое генерируют их инструменты, уже существуют свободно распространяемые решения с открытым исходным кодом, которыми могут воспользоваться мошенники.
Если вы отправили кому-то голосовую записку, оставили сообщение на автоответчике или разместили свое видео на YouTube, то любой может воспользоваться этим, чтобы клонировать ваш голос.
По мере совершенствования генеративного ИИ лучшей защитой для нас может стать более скептическое отношение к происходящему и нежелание слишком быстро доверять своим глазам и ушам.
