Украденные лица, украденные жизни: тревожная тенденция эксплуатации с помощью искусственного интеллекта.
Большинство пользователей социальных сетей наверняка сталкивались с блогерами, которые выглядят немного… странно.
Возможно, их черты лица слишком симметричны, а позы слишком скованны. Скорее всего, перед вами вовсе не человек, а подделка, созданная искусственным интеллектом.
В некоторых случаях эти Влиятельные лица в сфере ИИ Они достаточно безобидны – всего лишь цифровые копии своих реальных аналогов, но не пытаются откровенно обмануть или манипулировать.
Однако это не всегда так. Вызывает тревогу тот факт, что существует сеть аккаунтов в Instagram, использующих искусственный интеллект для создания фейковых инфлюенсеров с синдромом Дауна. Цель? Эксплуатировать уязвимое сообщество ради лайков, репостов и, в конечном итоге, денег.
Но на этом обман не заканчивается. Многие из этих аккаунтов ведут на сомнительные сайты для взрослых, где монетизируется контент, сгенерированный искусственным интеллектом.
Посмотреть это сообщение на Instagram
К сожалению, это лишь очередная эволюция тренда “сутенерства с использованием ИИ”, когда недобросовестные операторы используют машинное обучение для создания поддельных инфлюенсеров ради денежной выгоды. Речь идёт не только о людях с синдромом Дауна, но и о поддельных моделях с ампутированными конечностями, жертвах ожогов и других формах порнографии, созданной с помощью ИИ.
Искусственный интеллект в создании изображений и видеомоделей приближается к такому уровню реализма, что делает их вполне жизнеспособной заменой реальным людям. Это влияет на индустрию моды, где реальные модели сталкиваются с необходимостью замены клонами, созданными с помощью ИИ.
Даже такие известные бренды, как H&M, вступают в эти мутные воды. Этот гигант быстрой моды недавно объявили о начале кампании с использованием созданных с помощью ИИ “цифровых двойников” реальных моделей. Еще в 2023 году компания lalaland.ai выпустила инструменты для создание моделей искусственного интеллекта за абонентскую плату.
Хотя H&M настаивает на том, что модели сохраняют контроль над своими цифровыми образами, многие в индустрии относятся к этому скептически. В конце концов, в эпоху сокращения расходов и консолидации, зачем нанимать людей, когда можно лицензировать дешевый, бесконечно воспроизводимый цифровой аватар?
Последний и самый коварный поворот событий касается фундаментального достоинства и человечности маргинализированных сообществ.
Люди с синдромом Дауна — или с любыми другими нарушениями здоровья — не являются марионетками, которыми можно манипулировать ради прибыли.
Более того, распространение контента, созданного с помощью ИИ, угрожает подорвать доверие общественности к СМИ в целом. Если мы не сможем доверять изображениям, которые видим в интернете, то сама основа цифрового дискурса начнет разрушаться.
Поэтому в следующий раз, когда вы будете листать ленту и какой-нибудь блогер покажется вам слишком хорошим, чтобы быть правдой, доверьтесь своей интуиции.
