Компания Microsoft забила тревогу по поводу новых технологических угроз, исходящих из Китая и Северной Кореи, которые используют искусственный интеллект для проведения вредоносных операций, направленных против США.
Отчет Центра анализа угроз Microsoft (MTAC) посвящен использованию искусственного интеллекта для сеяния социальной розни и подрыва национальной безопасности.
"За последний год Китай отточил новую способность автоматически генерировать изображения, которые он может использовать для операций влияния, призванных имитировать американских избирателей по всему политическому спектру и вызывать разногласия по расовому, экономическому и идеологическому признакам", - сообщает Microsoft. заявил в своем докладе.
Компания подробно рассказала о технологии, лежащей в основе этих операций: "Эта новая возможность основана на искусственном интеллекте, который пытается создать высококачественный контент, который может стать вирусным в социальных сетях в США и других демократических странах".
И далее: "Скорее всего, эти изображения созданы так называемыми генераторами изображений на основе диффузии, которые используют искусственный интеллект, чтобы не только создавать привлекательные изображения, но и учиться улучшать их со временем".
Мы уже видели множество доказательств того, что это происходит внутри страны, включая вирусные мошенничества. связанный с Элоном Маском, поддельные фотографии взрывы в Пентагонеи таинственное интервью, созданное искусственным интеллектом, которое, как утверждается, включает в себя глубокая фальшивая версия голоса Дональда Трампа пока наблюдатели не развернулись и не сказали, что это реальность.
Последний случай - пример того, как глубокие подделки также создают "дивиденды лжеца", когда политики и общественные деятели могут опровергнуть то, что порочит их репутацию, как "фальшивку", в то время как это подлинная вещь, подчеркивая многоуровневые риски смешения реальности и подделок.
Направленность и цели кампании
По данным Microsoft, связанные с китайским государством субъекты используют искусственный интеллект для борьбы с политическими разногласиями в США, такими как насилие с применением огнестрельного оружия.
Ранее сегодня, Google установил что политические объявления, созданные искусственным интеллектом, должны четко указывать на это, если они включают "синтетический контент, который недостоверно изображает реальных или реалистично выглядящих людей или события".
"Эта технология создает более привлекательный контент, чем неуклюжие цифровые рисунки и коллажи из стоковых фотографий, использовавшиеся в предыдущих кампаниях", - говорится в отчете Microsoft, и добавляется, что технология будет только совершенствоваться.
Microsoft также обратила внимание на угрозы со стороны Северной Кореи, заявив: "В дополнение к тому, что мы наблюдаем со стороны Китая, Северная Корея представляет собой способную киберугрозу, сосредоточенную на сборе разведданных и краже криптовалюты, необходимой для получения дохода для государства".
Постоянная оценка угроз
Новый отчет MTAC является частью продолжающейся серии, направленной на оценку цифровых угроз из Восточной Азии.
В нем указаны конкретные сектора и регионы, подверженные повышенному риску, и подчеркнута необходимость коллективных действий по управлению международной индустрией ИИ, которая накалилась в последние недели.
Тем временем правительство США продолжает отрезать Китай от закупка высокотехнологичных чипов предназначенные для обучения искусственного интеллекта, в основном закупаются у компании Nvidia.
Китай планирует создать собственную промышленность по производству чипов, чтобы снизить зависимость от зарубежных производителей аппаратного обеспечения ИИ.
Компания Microsoft бьет тревогу по поводу эскалации геополитической напряженности между Китаем и США, и ИИ находится на ее пересечении.
