Учитель физкультуры арестован за искусственный интеллект, клонирующий голос директора

26 апреля 2024 года
  • Спортивный директор школы в Балтиморе был арестован после того, как якобы клонировал голос директора.
  • Расистская аудиозапись привела к тому, что директор потерял работу, прежде чем было подтверждено, что это подделка искусственного интеллекта.
  • Этот инцидент показывает, как легко можно изготовить опасные подделки ИИ и как трудно их обнаружить.

Спортивный директор средней школы в Балтиморе был арестован в четверг после того, как полиция заявила, что он якобы использовал искусственный интеллект для создания фальшивого аудиоклипа о директоре школы.

В январе, мы сообщали на аудиоклипе, который якобы является записью того, как директор школы Пайксвилля Эрик Эйсверт делает расистские и антисемитские замечания в адрес сотрудников и учеников.

В то время Айсверт отрицал подлинность аудиозаписи и утверждал, что ролик является подделкой ИИ.

Широко распространенный аудиоклип привел к тому, что Эйсверт временно потерял работу на время расследования подлинности аудиозаписи. Ответная реакция со стороны учителей, учеников и других людей, которые считали, что ролик подлинный, изменила жизнь Эйсверта.

Если вы прослушаете аудиоклип, то легко поймете, почему люди поверили в его подлинность.

 

Посмотреть это сообщение на Instagram

 

A post shared by @murder_ink_bmore

Эксперты пришли к выводу, что аудиозапись была подделкой ИИ, основываясь на ровном тоне, отсутствии последовательных звуков дыхания или пауз, а также необычно чистых фоновых звуках.

Утверждается, что Дажон Дарьен, бывший спортивный директор школы Пайксвилля, сделал подделку ИИ в отместку за то, что Эйсверт начал расследование его нецелевого использования школьных средств.

Дажон Дариен был арестован и обвинен в нарушении работы школы, краже, мести свидетелю и преследовании. В обвинительном заключении отмечается, что Дариен использовал школьные компьютеры "для доступа к OpenAI инструменты и службы Microsoft Bing Chat".

В списке обвинений не было того, что скоро может стать преступлением: использование искусственного интеллекта для подделки чьего-либо голоса.

Такие счета, как Закон об отсутствии подделок и Закон о запрете мошенничества в области искусственного интеллекта были поданы в US Конгресса, но еще не приняты. Поэтому, когда Дарьен использовал искусственный интеллект для создания поддельного аудиоклипа с голосом Эйсверта без согласия, это технически не было преступлением.

Тот факт, что эксперту потребовались недели, чтобы подтвердить, что аудиоклип был подделкой, подчеркивает, насколько общество и власти не готовы решать новые проблемы, которые ставит генеративный ИИ.

Легкость создания таких подделок усугубляет проблему. Если учитель физкультуры может собрать неплохую подделку, то представьте, чего могут добиться более технически грамотные плохие актеры.

В отсутствие простого способа выявления поддельных аудио- и видеоматериалов лучшей защитой может стать предположение о том, что это подделка, пока не будет подтверждено, что она настоящая.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Юджин ван дер Ватт

Юджин - выходец из электронной инженерии и обожает все, что связано с техникой. Когда он отдыхает от чтения новостей об искусственном интеллекте, вы можете найти его за столом для игры в снукер.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения