Фальшивые отзывы встречаются повсеместно и неизбежно, но выявить их еще никогда не было так сложно.
По некоторым оценкам, 40% отзывов на Amazon - фальшивыеНо это касается и таких сайтов, как Trustpilot, Tripadvisor, а также Google Reviews.
В апреле, CNBC сообщает что некоторые отзывы на Amazon выдают свое происхождение, начиная свой текст со слов "В качестве языковой модели ИИ...". Однако в большинстве случаев фальшивые отзывы, сгенерированные искусственным интеллектом, сложно определить невооруженным глазом.
Стремясь пресечь мошеннические отзывы, Федеральная торговая комиссия США (FTC) недавно обсудила вопрос о введении правил запрета фальшивых и проплаченных отзывов с жесткими санкциями для тех, кто их нарушает.
Майкл Атлесон, юрист Отдела рекламной практики FTC, сказал: "Мы не знаем - у нас нет возможности узнать - в какой степени злодеи действительно используют все эти инструменты, и как много может быть сгенерировано ботами, а не людьми".
Однако для этого необходимо отличать фальшивые отзывы от настоящих, что крайне сложно сейчас, когда ИИ обладает лингвистической точностью и знаниями по множеству предметов.
ИИ повышает уровень фальшивых отзывов
Стартап Fakespot, использующий искусственный интеллект для выявления мошеннических отзывов, по словам генерального директора Сауда Халифаха, зафиксировал всплеск фальшивых отзывов, созданных искусственным интеллектом. В настоящее время компания инвестирует в методы, предназначенные для выявления отзывов, созданных системами искусственного интеллекта, такими как ChatGPT.
"Сегодня все совсем по-другому: модели осведомлены настолько, что могут писать о чем угодно", - говорит Халифа.
Другой вопрос, кто скажет, что кто-то не использует искусственный интеллект для написания подлинного отзыва?
Отзывы, сгенерированные искусственным интеллектом, не являются строгим нарушением политики Amazon. Согласно представитель компанииКомпания позволяет клиентам размещать отзывы, созданные искусственным интеллектом, при условии, что они достоверны и соответствуют правилам.
Главный вопрос заключается в том, сможет ли ИИ, которому поручено выявлять фальшивые отзывы, перехитрить ИИ, генерирующий их. Сауд Халифа из Fakespot отметил, что первые фальшивые отзывы, сгенерированные ИИ, которые обнаружила его компания, пришли из Индии и были созданы "фермами фальшивых отзывов".
"Этим средствам обнаружения определенно трудно пройти тест", - говорит Бхуван Дхингра, доцент кафедры информатики в Университете Дьюка. "Потому что если модели в точности соответствуют тому, как человек пишет что-то, то вы действительно не сможете отличить одно от другого".
Бен Чжао, профессор информатики из Чикагского университета, также утверждает, что эффективно отлавливать отзывы, созданные ИИ, "практически невозможно".
"Это постоянная погоня за кошками-мышками, но в конце концов нет ничего фундаментального, что отличало бы созданный ИИ контент", - говорит он.
Пока что фальшивые отзывы будут оставаться частью мебели интернета, и, скорее всего, их будет все труднее отличить от настоящих, как людям, так и продвинутым системам искусственного интеллекта, которым поручено их выявлять.
"Это ужасает потребителей", - говорит Тереза Мюррей, директор офиса по наблюдению за потребителями исследовательской группы общественных интересов США.
"ИИ уже помогает недобросовестным компаниям выплевывать реальные отзывы с разговорным тоном тысячами за считанные секунды".
Прошли времена плохо написанных фальшивых отзывов. - будьте готовы к точно написанным AI-обзорам, которые вы не сможете отличить от настоящих.
