Недавно на TikTok появилось несколько сгенерированных искусственным интеллектом фальшивых видео с убитыми и подвергшимися насилию детьми.
Одно из видео, которое канал назвал "образовательным", описывает трагическую судьбу Джеймс Балджер был похищен Джоном Венейблсом и Робертом Томпсоном в возрасте 10 лет в 1993 году в Мерсисайде, в Ливерпуле.
Булджер, которому тогда было всего 2 года, подвергся ужасному насилию и пыткам, после чего был найден мертвым возле железнодорожной линии. Венейблс и Томпсон стали самыми молодыми людьми, осужденными за убийство в Великобритании, и самыми молодыми осужденными убийцами XX века.
Дениз Фергюс, мать убитого сына Джеймса Булджера, осудила созданные искусственным интеллектом видеоролики о своем погибшем сыне как "запредельно больные".
Эти видео стали частью серии, в которой с помощью технологии искусственного интеллекта были воссозданы пропавшие или убитые дети, в том числе Мадлен Маккэн, исчезнувшая во время семейного отдыха в 2007 году; 11-летний Рис Джонс, по ошибке застреленный членом банды в Ливерпуле; Питер Коннолли, также известный как "малыш Пи", который умер от отсутствия заботы и жестокого обращения.
Некоторые из этих видео набрали десятки тысяч просмотров до удаления и были загружены без каких-либо предупреждений о содержании.
Выступая перед ЗеркалоДениз Фергус, мать Джеймса Балджера, назвала видеозаписи "отвратительными".
Фергюс отметила, что, хотя у нее нет проблем с освещением этих дел, она считает "абсолютно отвратительным" видеть, как лицо ее покойного сына используется подобным образом.
"Это возвращает к жизни мертвого ребенка. Это просто ужасно", - заявила она. "Кто может сидеть и думать о таком?" - спросила она, добавив: "Это несправедливо по отношению к людям, которые потеряли детей или вообще кого-либо потеряли".
Ее муж, Стюарт Фергюс, связался с аккаунтом, который, судя по всему, базируется на Филиппинах, и потребовал удалить оскорбительный контент. В полученном им ответе говорилось, что они "не намерены никого оскорблять" и что они стремятся к тому, чтобы подобные инциденты "никогда не повторялись", а также содержался призыв поддержать их и поделиться их страницей.
TikTok отреагировал на споры, рассказывает BBC что оскорбительные видео были удалены, утверждая, что в приложении "нет места" для такого контента.
Представитель TikTok обратил внимание на правила сообщества компании, заявив, что они "не допускают синтетических медиа, содержащих изображение подростка", и пообещал и дальше удалять такой контент.
Глубокие подделки принимают зловещий оборот
Глубокие подделки, созданные искусственным интеллектом, использовались для секс-вымогательство, мошенничество, и генерирование оскорбительныхПедофильные изображения.
Все чаще говорят о том, что футуристические риски ИИ - например, захват контроля над критически важной инфраструктурой или другие действия против его создателей - отвлекают внимание от непосредственных последствий, таких как глубокие подделки, дезинформация и киберпреступления.
По мере того как подделки становятся все более изощренными, отличить цифровое от физического будет все сложнее. Как и многое другое в мире ИИ, последствия такого развития событий беспрецедентны.
