Китай быстрее других западных стран перешел к регулированию ИИ, но недавние всплески мошенничества, вызванного ИИ, говорят о том, что одного регулирования недостаточно без надежных стратегий правоприменения.
Китайские правила по Администрирование глубокого синтеза информационных служб Интернета Вступил в силу 10 января 2023 года, фактически запретив использование генеративного ИИ для выдачи себя за других или обмана.
Сюда входит поддельная информация, созданная с помощью языковых моделей, таких как ChatGPT, и глубокие подделки, созданные с помощью ИИ, преобразующего текст в изображение, например Середина путешествия и ДАЛЛ-И.
ChatGPT от OpenAI и другие популярные ИИ официально не доступны в Китае, но многие получают доступ к этим инструментам через виртуальные частные сети (VPN).
Китайское правительство быстро приняло меры по регулированию ИИ, чтобы предотвратить "экзистенциальные угрозы" для своего социалистического режима и уменьшить последствия мошенничества и киберпреступлений.
Однако источники в Китае утверждают, что В стране широко распространено мошенничество с использованием искусственного интеллектаЭто привело к пресечению деятельности людей, создающих фальшивый контент.
Например, в одном из случаев мужчине позвонил мошенник из китайского приложения для обмена сообщениями WeChat. Мошенники воспроизвели голос и лицо друга мужчины и убедили его перевести сумму, эквивалентную $600 000, на другой банковский счет.
Мужчина был уверен в этом до тех пор, пока не позвонил своему другу, чтобы подтвердить перевод. "Мы общались по видеосвязи, и я узнал лицо и голос на видео; поэтому я и потерял бдительность", - рассказал он властям.
Случаев мошенничества с использованием искусственного интеллекта было так много, что на китайской социальной медиаплатформе Weibo появился хэштег #AIFraudIsEruptingAcrossChina. Однако с тех пор хэштег исчез, что наводит людей на мысль о том, что власти пытаются цензурировать обсуждения.
Китайское регулирование ИИ - полезное руководство для других стран
Быстрое принятие мер по регулированию в Китае отчасти объясняется подходом правительства к цензуре. И наоборот, яЗаконодатели в ЕС и США пытаются разграничить риски глубоких подделок и "добросовестного использования" для свободы слова и сатиры.
Глубокие подделки могут изображать Элон Маск в индийской одежде к генерации фотографии взрывов в Пентагоне - и разделить каждый случай в законе исключительно сложно.
Фотография Элона Маска в индийском наряде, сделанная в середине путешествия, стала вирусной в Индии. 🇮🇳 pic.twitter.com/LD1KuIAHET
- DogeDesigner (@cb_doge) 3 июня 2023 года
Несмотря на социально-политические разногласия, аналитики утверждают, что мы должны внимательно следить за влиянием китайских правил в области ИИ.
Например, Грэм Вебстер, исследователь из Стэнфордского университета, который отслеживает развитие цифровой политики Китая, рассказал изданию Wall Street JournalКитай вместе со всем миром изучает потенциальные последствия таких вещей, но он быстрее продвигается вперед, вводя обязательные правила и обеспечивая их соблюдение" и "Люди во всем мире должны наблюдать за тем, что происходит".
Юмор сатирических подделок может иссякнуть, если мошенничество, связанное с подделками, станет более частым и серьезным, что, похоже, неизбежно. Регулирование ИИ в США, ЕС и других юрисдикциях все еще находится на стадии разработки, но уже сейчас существуют краткосрочные варианты, такие как добровольный "пакт об ИИ" или "стоп-кадры" для ограничения рисков.
Нынешняя проблема Китая с мошенничеством, связанным с ИИ, показывает, что одного лишь наличия законодательства может быть недостаточно, чтобы сдержать риск мошенничества, связанного с ИИ.
