Новая исследовательская работа рекомендует выдавать пользователям интернета удостоверения, подтверждающие, что они люди, поскольку искусственный интеллект становится все более неотличимым от реальных людей.
Газетанаписанная исследователями из OpenAI, Microsoft, MIT и других, появилась в то время, когда "Теория мертвого интернета" становится все более правдоподобной. Согласно этой теории, большая часть онлайн-взаимодействий и контента генерируется ботами.
Это можно назвать теорией заговора, но авторы новой работы, похоже, уверены, что это может произойти, если уже не произошло. В статье отмечается, что "высокоэффективные системы искусственного интеллекта могут изменить ландшафт: Существует значительный риск того, что без дополнительных мер смягчения обманные действия ИИ могут захлестнуть Интернет".
Отличить пользователей, использующих ИИ, в Интернете становится все сложнее. ИИ может генерировать человекоподобный контент, который звучит совершенно по-разговорному и человекоподобные аватары в виде изображений или видео.
ИИ-агенты все лучше справляются с просмотром веб-сайтов, как обычный пользователь, составляют сложные планы по достижению целей и даже решают CAPTCHA в сложных ситуациях.
Вторая проблема, о которой говорится в статье, - масштабируемость. Модели ИИ становятся все мощнее, дешевле и все более доступными. Благодаря ИИ злоумышленникам стало легко обманывать людей в сети, особенно если у вас есть модель с открытым весом.
В статье отмечается озабоченность исследователей: "Мы обеспокоены тем, что Интернет недостаточно подготовлен к вызовам, которые может бросить высокоэффективный ИИ".
Удостоверения личности
Исследователи предлагают выдавать интернет-пользователям так называемые "удостоверения личности", или PHC. Эти учетные данные могут храниться в цифровом виде на устройствах владельца и использоваться для подтверждения его личности при регистрации онлайн-услуг, таких как адрес электронной почты или аккаунт на сайте X.
Эмитентами удостоверений могут выступать различные организации, правительственные или иные. Хотя в документе нет подробного описания того, как это может работать, в нем предлагается один из возможных вариантов реализации, при котором PHC может быть выдан любому владельцу идентификационного номера налогоплательщика.
Проверка учетных данных может осуществляться с помощью доказательств с нулевым знанием, чтобы никакие аспекты личности человека не были привязаны к PHC. Идея заключается в том, что вы можете доказать поставщику онлайн-услуг, что вы человек, но при этом сохранить анонимность.
Если бы PHC были внедрены, вы бы увидели конец "сокпаппингу", например тысячам ботов, выдающих себя за людей на X и других платформах. Предлагаемое решение также предотвратит создание одним пользователем нескольких учетных записей на платформе, которые затем могут быть использованы для масштабных бот-атак.
Риски и проблемы
Если мы дошли до того, что нам нужна организация, которая будет выдавать нам удостоверения, подтверждающие, что мы люди, то мы уже далеко на территории "Бегущего по лезвию". Идея PHC может сократить проблему ИИ-ботов, но она сопряжена с другими проблемами.
Как будет обеспечен равный доступ? Если вы не можете физически посетить эмитента PHC, вы можете оказаться лишенными возможности пользоваться интернетом или хотя бы регистрировать онлайн-счета.
Даже если PHC не будет раскрывать вашу личность в Интернете, эта информация будет у вашего эмитента. Насколько комфортно вы бы чувствовали себя, высказывая свое мнение в Интернете, если бы не были уверены, что ваша анонимность будет сохранена?
Предположим, что эмитент PHC не является демократически избранным правительством, у которого есть механизмы контроля за его полномочиями и подотчетностью. Может ли оно решить отказать в выдаче PHC тому, кто критикует его?
Исследователи признают, что "система PHC, как и любая другая цифровая система, уязвима для атак и использования различными субъектами - прежде всего, для подрывной деятельности самого эмитента, поставщиков услуг и пользователей со злым умыслом".
Не так давно мы думали, что CAPTCHA, селфи или видеозвонка достаточно, чтобы доказать, что на другом конце онлайн-взаимодействия находится настоящий живой человек. ИИ положил этому конец.
Нам нужно лучшее решение, но обращение в организацию за "доказательством личности" кажется очень оруэлловским.
