В интервью телеканалу Fox NewsХейвуд Талкоув, генеральный директор правительственного подразделения LexisNexis Risk Solutions, говорит, что мошенничество, связанное с искусственным интеллектом, может стоить налогоплательщикам от сотен миллиардов до $1 триллиона в течение следующего года.
По словам Талкоува, LexisNexis Risk Solutions сталкивалась с ситуациями, когда глубокие подделки ИИ использовались для обмана правительственных и государственных учреждений. Например, мошенники якобы используют методы глубокой подделки для получения денег от пользователей систем социального обеспечения, Medicare и Medicaid.
"Будучи одной из самых богатых стран мира, мы представляем собой огромную мишень", - сказал Талкоув в интервью Fox News. "Сумма денег, которую мы потеряем в течение следующих 12 месяцев, если ничего не предпримем, сделает пандемию COVID детской забавой".
Практически каждый человек, работающий в Интернете, подвержен мошенничеству с помощью искусственного интеллекта. Известны случаи, когда мошенники использовали поддельные голоса, изображения и даже видео, выдавая себя за других людей. Аналитики считают это одной из особенностей технологии самые непосредственные риски.
Сайт ФБР недавно предупредило о секс-вымогательстве с помощью искусственного интеллекта и порно мести, когда мошенники создают поддельные откровенные изображения, чтобы выкупить людей.
Эти обманные приемы можно распространить практически на все, например, связать людей с экстремистскими материалами или преступной деятельностью.
"Технология ИИ уже настолько развита, что если какая-либо ваша информация доступна в Интернете или социальных сетях, она может быть использована для создания генеративной модели ИИ и обхода большинства устаревших государственных систем аутентификации", - предупреждает Талкоув.
Талкоув подчеркнул необходимость принятия мер: "Я подозреваю, что в течение следующих 12 месяцев, если правительство не отреагирует на это быстро, мы потеряем более $1 триллиона для этих преступных групп, некоторые из которых находятся за пределами страны".
Отвечая на вопрос о том, что нужно сделать для предотвращения мошенничества с помощью ИИ, Талкоув зловеще заявил: "Уже слишком поздно", и отметил, что мошенничество с помощью ИИ уже широко распространено и остается незамеченным.
В заключение Талкове сделал тревожное предупреждение: "Вопрос уже не в том, будут ли, а в том, когда и насколько серьезно эти угрозы, основанные на искусственном интеллекте, повлияют на агентства. Мы должны признать суровую реальность: мошенничество с помощью ИИ - это не отдаленная угроза, а угроза, которая уже стучится в нашу дверь".
Обоснованы ли эти утверждения?
Мошенничество, поддерживаемое ИИ, в основном вращается вокруг глубоких подделок. Глубокие подделки варьируются от доброкачественных - например, Элон Маск в детстве - до вредных - как, например, это поддельное изображение взрыв в ПентагонеВ результате этого сообщения, распространившегося в социальных сетях, американские рынки на короткое время упали.
Существует множество историй о том, как мошенники натравливают на уязвимых людей мошенников с глубокими подделками, включая серию так называемых "мошенничество с бабушками и дедушками." Мать из США оказалась втянута в Инсценировка похищенияМошенники требовали выкуп в размере $1 млн.
Китай также страдает от Мошенничество, поддерживаемое искусственным интеллектомВ том числе один случай, когда человек общался с созданным ИИ видео-аватаром своего друга.
ИИ все лучше и лучше подражает человеку, что является одним из основополагающих качеств технологии. Сайт Тест Тьюрингаразработанный криптоаналитиком и математиком Аланом Тьюрингом в 1950-х годах, оценивает способность машины имитировать человека. Реализм - это то, к чему стремятся технологии ИИ.
Невероятная способность искусственного интеллекта копировать, подделывать и имитировать человеческое поведение может быть легко использована мошенниками и неизбежно приведет к появлению новых методов киберпреступлений.
ИИ также будет использоваться для борьбы с ними, что, вероятно, превратится в гонку вооружений между киберпреступниками, правоохранительными органами и компаниями, занимающимися вопросами безопасности.
