Всеобщие выборы в Индии в 2024 году, крупнейшие демократические выборы в мире, в которых примут участие более 960 миллионов избирателей, претерпят изменения благодаря развитию искусственного интеллекта и гиперреалистичному контенту глубокой фальсификации.
Благодаря этому новое поколение технически подкованных политических оперативников использует ИИ для создания синтетических медиа с политическими и коммерческими целями.
Одной из самых заметных фигур в зарождающейся в Индии "индустрии глубокого фальсификата" является Дивьендра Сингх Джадун, 31-летний самопровозглашенный "индийский глубокий фальсификатор", который быстро стал основным поставщиком услуг для политических кампаний.
То, что начиналось как одиночная работа по созданию болливудских подделок, превратилось в полноценную синтетическую медиастудию.
"С тех пор он расширился из-за того, что на него свалилась вся работа, - рассказывает журналист из Бангалора. Сарита Рай рассказывает Bloomberg.
"В первый раз, когда я с ним разговаривал, он сказал, что у него есть пара работников, и это было несколько месяцев назад. Потом он сказал мне, что у него есть еще пять сотрудников, которые помогают им делать эти видео".
Используя модели искусственного интеллекта, обученные на многочасовом аутентичном материале, Джадун и его команда генерируют невероятно реалистичные видеоролики, на которых политические деятели, такие как премьер-министр Нарендра Моди, обращаются к избирателям по имени.
"Уровень гиперперсонализации, который возможен при использовании генеративного ИИ... Вы можете просто обучить модель произносить основное сообщение, а затем скормить ей тысячи и тысячи имен. И она мгновенно воспроизведет то же самое видео и идеально синхронизирует его с Нарендрой Моди, называя каждого человека по имени", - объясняет Рай.
Предвыборные кампании с использованием искусственного интеллекта имитируют интимность личного общения в практически безграничных масштабах и по доступной цене.
Рай далее отмечает: "Большая часть предвыборной кампании будет гиперперсонализирована для избирателей... большая часть ее будет поступать к ним через их телефоны. И многие материалы будут генерироваться искусственным интеллектом".
В преддверии выборов в Индии распространяются фальсификации
Рай объясняет, что в Индии миллионы людей впервые знакомятся с технологиями благодаря доступным смартфонам.
Неопытное в цифровых технологиях население гораздо более восприимчиво к обманчивому контенту.
То же самое можно сказать и о пожилых людях, которые, опять же, не так подвержены одурачиванию интернет-контента.
Но даже среди тех, кто считает себя эффективным в выявлении подделок ИИ, исследования показывают что дКогда мы знаем, что информация поддельная, она может повлиять на нашу память и принятие решений.
Помимо глубоких подделок, призванных выставить общественных деятелей в выгодном свете, случаи злобные политические фальшивки также становятся все более распространенными в Индии.
Например, в ноябре специалист по проверке фактов Мураликришнан Чиннадурай обнаружил видеозапись, на которой якобы запечатлена Дуварака, давно умершая дочь одного из лидеров тамильских боевиков, произносящая пламенную политическую речь.
Чиннадурай обнаружил сбои, показав, что это аватар, сгенерированный искусственным интеллектом. "В штате [Тамилнад] это очень эмоциональный вопрос, и, поскольку выборы не за горами, дезинформация может быстро распространиться". сказал он Би-би-си..
В прошлом месяце в сети распространились фальшивые видеоролики, на которых звезды Болливуда Ранвир Сингх и Аамир Кхан якобы поддерживают оппозиционную партию Конгресс, что вызвало жалобы актеров в полицию.
29 апреля премьер-министр Моди сам предупредил о том, что в выступлениях лидеров правящей партии используются глубокие подделки.
На следующий день два сотрудника оппозиционной партии были арестованы за поддельное видео с министром внутренних дел Амитом Шахом. Оппозиционная партия Бхаратия Джаната Парти (BJP) уже сталкивалась с подобными обвинениями со стороны соперников.
До сих пор индийское правительство осуществляло скудный надзор, в основном передавая модерацию контента платформам социальных сетей. "В Индии вообще нет никакого регулирования, когда речь идет об искусственном интеллекте", - утверждает Рай.
Недавно правительство начало требовать предварительного разрешения на запуск "ненадежных" инструментов ИИ и предостерегло от результатов, которые могут подорвать выборы, но всеобъемлющие правила отсутствуют. То же самое можно сказать и о большей части мира.
Как метко предупреждает бывший член избирательной комиссии С. Я. Куреши: "Слухи всегда были частью предвыборной борьбы. Но [в] век социальных сетей они могут распространяться как лесной пожар... Они могут фактически поджечь страну".
