Amazon и JPMorgan закрывают доступ ИИ-агентам. Но это ненадолго.
Ни один из 51 крупнейших американских интернет-магазинов не предлагает безопасного способа для искусственного интеллекта совершить покупку за вас. Полная блокировка таких агентов неэффективна, и Walmart предлагает более удачный вариант.
Ноль. Именно столько из 51 крупнейшего американского онлайн-ритейлера предоставляют проверенному и одобренному ИИ-агенту возможность совершить покупку от вашего имени. Amazon и JPMorgan Chase теперь открыто исключают таких агентов. На наш взгляд, эта преграда не продержится долго, и победят те магазины, которые первыми построят настоящую дверь.
Подсчет производится из аудит, проведенный компанией Billions Network, специализирующейся на вопросах идентификации., Издание, изучив опубликованные в августе правила доступа 51 крупного американского ритейлера, обнаружило, что только 11 компаний целенаправленно ограничивали использование ИИ-агентов. Пять компаний полностью ограничивают их использование, включая Amazon, Kohl's и Neiman Marcus. Еще 37 блокируют их почти случайно, используя старые правила, написанные много лет назад для борьбы с программами сбора данных. Компания отмечает, что опубликованные правила не доказывают, что сайт действительно их соблюдает.
В данном контексте под ИИ-агентом понимается помощник, который выполняет за вас задачи, а не просто отвечает на вопросы. Muse от Meta, OpenAI от OpenAI. Дот-агент в ChatGPT Аналогичные инструменты могут сравнивать цены, заполнять корзину покупок или переводить деньги, если вы им это позволите. В воскресенье телеканал CNBC сообщил об этом. что JPMorgan, Charles Schwab, Amazon, Neiman Marcus и Kohl's перешли к блокировке агентов, подобных Muse.
Что говорят блокировщики
Аргументы в пользу блокировки вполне обоснованы. “Мы не позволим любому стороннего агенту проникнуть в компанию, потому что это слишком рискованно как для клиентов, так и для JPMorgan”, — заявил генеральный директор Джейми Даймон во время телефонной конференции по итогам третьего квартала., Издание Fortune сообщило. “Вам не нужны агенты-изменники”.”
В сентябре Amazon прекратил сотрудничество с Muse. Компания заявила, что Meta никогда не сообщала ей о намерении Muse совершать покупки на их платформе, что агент не представляется и что, по всей видимости, он перехватывал и хранил данные для входа клиентов., по данным GeekWire. Компания Meta заявила, что Muse “не имеет доступа к паролям или способам оплаты пользователей”.”
Агенты тоже совершают ошибки. Майкл Джаббара, руководитель отдела управления платежными рисками в Visa, рассказал CNBC о пользователе, который попросил агента забронировать место в спортзале. Когда место было занято, агент взломал программное обеспечение для бронирования спортзала, удалил запись другого пользователя и ввел имя этого пользователя.
Почему мы считаем, что стена не выдержит
Безопасность — не единственный мотив, и это слабое место. По данным GeekWire, в прошлом году Amazon заработала на рекламе более 68 млрд долларов, и эти деньги зависят от того, сколько людей просматривают её страницы. Агент, купивший самую дешевую коляску и ушедший, не видит рекламных объявлений. Собственный агент Amazon ’Купи для меня» совершает покупки на сайтах других брендов, хотя Amazon заявляет, что идентифицирует себя и позволяет брендам отказаться от участия.
Клиенты также хотят иметь такие инструменты. Исследование Accenture, на которое ссылается CNBC, показало, что 71% потребителей приветствовали бы наличие ИИ-помощника в приложении своего основного банка. Это же исследование показало, что 82% хотят одобрять каждое действие ИИ, а 79% хотят иметь возможность немедленно его остановить. Люди хотят помощи, но с возможностью контролировать ситуацию.
Блокировку может быть сложно обеспечить. “Когда пользователь нажимает кнопку в браузере, удаленному сайту будет трудно определить, было ли это сделано человеком или управлялось агентом искусственного интеллекта на компьютере пользователя”, — заявил CNBC Эд Фелтен, бывший главный технолог Федеральной торговой комиссии США.
Более совершенная модель уже существует.
Walmart пошел другим путем. 21 октября он объявлены профили агентов, Запуск запланирован на месяц вперед. У каждого агента будет свой профиль в вашем аккаунте, так что вы сможете видеть, что он купил. Вы можете запрашивать подтверждение для каждой покупки или установить лимит расходов, например, $50, $100 или $200. Агенты никогда не видят данные вашей карты и не могут изменить способ оплаты. Агенты, нарушающие правила, будут заблокированы.
“Мы устанавливаем цены на товары, а не на людей”, — заявили в Walmart, пообещав, что агент увидит те же цены, что и человек. Это справедливая сделка, которую покупатели должны ожидать повсюду. Платежные системы уже давно... создание платежных систем для агентов С прошлого года финансовая сторона вопроса практически готова. Не хватает только двери для магазина.
Наша точка зрения проста. Банки и магазины правы, отказывая в обслуживании агентам, скрывающим свою личность. Но они неправы, отказывая всем агентам. Наиболее наглядный пример — 37 розничных продавцов, случайно заблокировавших платежи: они ничего не решили, и их клиенты по умолчанию получают некачественный сервис. Проверенный агент с ограничением суммы покупки безопаснее, чем покупатель, передающий свой пароль приложению, что и происходит сегодня.
Почему это важно
Если вы используете ИИ-помощника для покупок или управления финансами, многие крупные сайты заблокируют его доступ, и у большинства нет безопасного способа его разрешить. Пока такой возможности не появится, рискованный обходной путь с передачей своих учетных данных приложению останется вариантом по умолчанию.
