Председатель КНР Си Цзиньпин предупреждает об угрозе, которую искусственный интеллект представляет для государственного контроля.
Генеративный ИИ поставил китайское правительство перед дилеммой: рисковать ли ему подрывом социалистических ценностей, ослабляя правила, касающиеся ИИ? Или рискнуть еще больше отстать в гонке за превосходство ИИ?
Мы уже видели, как генерируемый искусственным интеллектом контент от ChatGPT и Midjourney может манипулировать людьми и даже рынками, как это было в случае, когда сгенерированное искусственным интеллектом изображение взрыва на Пентагон вызвал падение американских рынков на 0,3%.
Эти ИИ обучаются на миллиардах точек данных; они собирают мнения, взгляды и огромное количество других данных, которые объединяются и синтезируются при взаимодействии пользователя с инструментом. Генеративный ИИ по своей сути является подрывным - это побочный продукт его дизайна.
В недавнее заявлениеКитайский лидер Си Цзиньпин говорил о генеративном ИИ: "Мы должны быть готовы к наихудшим и экстремальным сценариям, должны быть готовы выдержать серьезное испытание сильным ветром, волнением и даже опасными штормами".
Китай борется с природой генеративного ИИ, чтобы использовать его потенциал без ущерба для своей политической системы. Пекин уже назвал глубокие подделки "опасностью для национальной безопасности и социальной стабильности" и разработал правила, призванные обеспечить, чтобы ИИ отражал "основные социалистические ценности" и не "содержал контент, направленный на подрыв государственной власти".
Регулирование в первую очередь затронет компании Baidu, Alibaba и Tencent, представляющие технологические державы Китая.
Китай и ИИ: дилемма ценностей
ИИ проверяет на прочность репутацию Китая как лидера технологического развития.
Ученые в области технологий и национальной безопасности Билл Дрексел и Ханна Келли подчеркнули эту дилемму в статье Недавняя статья, опубликованная в журнале Foreign Affairs"Легкомысленное отношение Китая к технологическим рискам, безрассудные амбиции правительства и нерациональное управление Пекином в условиях кризиса - все они находятся на пути столкновения с растущими опасностями ИИ".
Китай уже использовал противоречивые ИИ для мониторинга населения, в том числе сложную систему наблюдения, предназначенную для выявления уйгуров, мусульманского меньшинства. Около 1 миллиона уйгуров в настоящее время содержатся в "лагерях перевоспитания".
Несмотря на риски, связанные с искусственным интеллектом, Китай наращивает инвестиции в отечественное производство чипов, пытаясь освободиться от иностранного импорта таких компаний, как Nvidia. Однако повышение производительности без риска подрыва социальных ценностей правительства может оказаться непосильной задачей.
