В своем выступлении на глобальном саммите ООН "ИИ во благо" в Женеве известный израильский историк и писатель Юваль Ной Харари выразил обеспокоенность распространением "ненастоящих людей" в социальных сетях...
Харари предупредил, что если не принять меры, то создание и распространение этих ботов с искусственным интеллектом, выдающих себя за реальных людей, может привести к краху общественного доверия и поставить под угрозу основы демократии.
В качестве противовеса Харари предложил ввести суровое уголовное наказание для тех, кто создает фальшивые профили, подчеркнув, что ситуация не терпит отлагательств и исследования в области безопасности ИИ должны стать приоритетными, если мы надеемся держать эту технологию под контролем.
Быстрое появление фальшивых людей
С развитием технологий ИИ, в частности больших языковых моделей, таких как ChatGPT, ИИ-боты способны не только усиливать контент, созданный человеком, но и создавать собственный контент в масштабе.
В масштабе - ключевая фраза здесь...
Представьте себе ситуацию, когда платформы социальных сетей заполонили миллионы ботов с искусственным интеллектом - все они способны создавать контент, превосходящий по качеству контент обычного человека.
Этот сценарий кажется вырезанным прямо из комнаты сценаристов "Черного зеркала", однако он, несомненно, является вероятным, поскольку ИИ продолжает развиваться.
Если миллионы ботов с искусственным интеллектом будут публиковать сообщения наряду с реальными людьми, мы получим ситуацию, когда "реальный" контент и контент, созданный искусственным интеллектом, станут практически неразличимы, что подорвет культуру и глобальный дискурс в целом.
Потеря контроля над городской площадью в какой-то мере лишает демократию самой ее сути - демократии идей и свободомыслия.
Защита демократии + необходимость уголовных последствий:
Возвращаясь к Харари, следует отметить, что он провел параллель с фальшивой валютой, утверждая, что подобно тому, как правительства устанавливают строгие правила для защиты финансовой системы от фальшивых денег, аналогичные меры должны быть приняты и для защиты общественного доверия от фальшивых людей.
Привлекая виновных к уголовной ответственности, можно предотвратить переполнение наших платформ фальшивыми профилями.
Инвестиции в безопасность искусственного интеллекта + участие в исследованиях
Харари подчеркнул важность выделения значительных инвестиций на обеспечение безопасности ИИ. Он предложил законодательно обязать компании выделять 20% своих инвестиционных расходов на изучение потенциальных рисков и разработку стратегий эффективного управления ими.
Отметив усилия OpenAI, создателя ChatGPT, Харари упомянул, что они намерены выделить 20% своих вычислительных мощностей на обеспечение безопасности ИИ, создав специальную исследовательскую группу, нацеленную на понимание и контроль ИИ, что позволит предотвратить его выход из-под контроля.
Глобальное сотрудничество
Харари продолжил, заявив, что эффективное регулирование искусственного интеллекта и сбора данных должно быть делом всего мира. Он предупредил, что без международного сотрудничества мир рискует оказаться раздробленным на сферы сбора данных, контролируемые несколькими избранными государствами и компаниями.
Чтобы предотвратить антиутопическое будущее, Харари подчеркнул необходимость разработки правил, которые бы ставили во главу угла защиту индивидуальных данных, предотвращали манипуляции с данными, усиливали надзор как за корпорациями, так и за правительствами, а также не допускали концентрации всех данных в руках одной организации.
Заключение - Сохранение общественного доверия
Рост числа ИИ-ботов в социальных сетях представляет собой серьезную угрозу для демократических обществ, и Юваль Ной Харари призвал ввести уголовную ответственность для виновных, а также увеличить инвестиции в безопасность ИИ.
Вводя строгие наказания и внедряя комплексные правила, общество может защитить общественное доверие, сохранить демократические ценности и гарантировать, что люди по-прежнему контролируют общественные разговоры. Настало время действовать, чтобы обеспечить более безопасное и устойчивое будущее для нашего постоянно меняющегося цифрового мира.
