Компания Google Cloud опубликовала прогноз кибербезопасности и киберпреступности на 2024 год, и угроза со стороны искусственного интеллекта занимает в нем первое место.
Мошенники уже давно используют фишинговые электронные письма и SMS-сообщения, но в отчете говорится, что большие языковые модели (LLM) сделают их более трудноуловимыми.
Ранее ваши подозрения могли быть вызваны плохими грамматическими и орфографическими ошибками, которые "нигерийский принц" использовал в своем электронном письме о прекрасной финансовой возможности, которой он хотел с вами поделиться.
Теперь мошенник может легко пропустить свое предложение через LLM, чтобы перевести и отполировать его до того, как оно попадет в ваш почтовый ящик. Прогноз также предполагает, что мошенники будут использовать законный контент, чтобы побудить LLM, а затем создавать модифицированные версии, которые выглядят и ощущаются как оригинал.
Ожидается, что генеративный ИИ также позволит мошенникам перейти от традиционных тактик с использованием электронной почты и SMS к голосовым и видеомошенничествам, генерируемым ИИ.
Магистратура и искусственный интеллект позволят мошенники чтобы выполнять свою работу в масштабе, а также сделать свои сообщения более адаптированными для персонализированных атак.
В прогнозе также отмечается, что, поскольку злоумышленники используют фальшивые новости для обмана людей, доверие общества ко всем источникам новостей и информации будет подорвано.
Как будет выглядеть кибербезопасность в 2024 году?
Получите свой экземпляр отчета Google Cloud Cybersecurity Forecast 2024, чтобы узнать о тактике и операциях злоумышленников в следующем году →. https://t.co/APJfNoEQNC pic.twitter.com/1Kpr04nsUR
- Google Cloud (@googlecloud) 8 ноября 2023 года
Киберпреступность с искусственным интеллектом как услуга
В начале этого года мы писали о FraudGPTчат-бот, якобы созданный специально для взлома и мошенничества. Было высказано немало скепсиса по поводу того, насколько полезным окажется его помощь преступникам, но Google ожидает, что в будущем мы увидим больше подобных инструментов.
Прогноз объясняет, что, скорее всего, мы увидим инструменты ИИ для киберпреступлений, предлагаемые в качестве услуги. В докладе говорится: "Они будут предлагаться на подпольных форумах в качестве платной услуги и использоваться для различных целей, таких как фишинговые кампании и распространение дезинформации".
Киберпреступность обычно нацелена на частных лиц или корпорации, но прогноз показывает, что на горизонте появляются и другие цели, помимо финансовой выгоды.
В докладе говорится, что в следующем году в США пройдут президентские выборы: "Мы увидим, как национальные государства и другие угрожающие субъекты будут осуществлять разнообразные кибердействия, включая шпионаж и операции влияния на избирательные системы, выдачу себя за кандидатов в социальных сетях и информационные операции, направленные на самих избирателей".
Большая четверка
В прогнозе Google основными киберугрозами для остального мира названы Китай, Россия, Северная Корея и Иран.
Помимо шпионажа, в нем также говорится, что Китай и Россия будут продолжать нацеливаться на африканские страны с помощью дезинформации, особенно на страны с месторождениями редкоземельных металлов, которые необходимы для производства многих высокотехнологичных продуктов.
Прогноз указывал на Олимпийские игры 2024 года в Париже как на конкретную цель, на которую будут нацелены преступники и антиевропейские деятели. Похоже, это уже происходит: в глубоком фейке Тома Круза показано, как он критикует МОК.
В рекламном ролике Netflix Том Круз говорит, что коррумпированные чиновники "медленно и мучительно уничтожают олимпийские виды спорта, существовавшие на протяжении тысячелетий".
ИИ "Том Круз" присоединяется к шквалу фейковых новостей, направленных на Олимпиаду.https://t.co/YV2Hkp1Hdp
- POLITICOEurope (@POLITICOEurope) 10 ноября 2023 года
Поскольку российским спортсменам запрещено выступать на соревнованиях под флагом своей страны, можно с уверенностью сказать, что источником этого фейка являются прокремлевские актеры.
Прогноз Google заставляет читать мрачные мысли, и кажется, что полностью избежать киберпреступности с помощью ИИ может оказаться невыполнимой миссией.
