Amazon et JPMorgan ferment la porte aux agents IA. Cela ne durera pas.

Zéro. C'est le nombre des 51 plus grands détaillants en ligne américains qui autorisent un agent IA à effectuer des achats en votre nom. Amazon et JPMorgan Chase interdisent désormais ouvertement l'accès à ces agents. Selon nous, cette barrière ne tiendra pas et les enseignes qui mettront en place les premières un système fiable l'emporteront.

Le compte provient de un audit réalisé par la société d'identité Billions Network, Une étude menée en août par [nom de l'entreprise] a analysé les règles d'accès publiées par 51 grands détaillants américains. Seuls 11 d'entre eux avaient pris une position claire concernant les agents d'IA. Cinq d'entre eux les interdisent formellement, notamment Amazon, Kohl's et Neiman Marcus. Trente-sept autres les bloquent presque par inadvertance, en vertu d'anciennes règles rédigées il y a plusieurs années pour empêcher l'extraction de données. L'étude souligne que la publication des règles ne garantit pas leur application effective par un site.

Ici, un agent IA désigne un assistant qui effectue des tâches pour vous, et non pas seulement qui répond à des questions. Muse de Meta, OpenAI… Agent Dot dans ChatGPT et des outils similaires peuvent comparer les prix, remplir un panier ou transférer de l'argent si vous les y autorisez. CNBC a rapporté dimanche JPMorgan, Charles Schwab, Amazon, Neiman Marcus et Kohl's ont tous pris des mesures pour bloquer des agents comme Muse.

Ce que disent les bloqueurs

L'argument en faveur du blocage est bien réel. “ Nous n'allons pas permettre à n'importe quel agent extérieur d'entrer dans l'entreprise, car c'est tout simplement trop risqué pour les clients et pour JPMorgan ”, a déclaré le directeur général Jamie Dimon lors de la conférence téléphonique sur les résultats du troisième trimestre de la banque., Fortune a rapporté. “ Vous ne voulez pas d'agents incontrôlés. ”

Amazon a suspendu le service de Muse en septembre. La plateforme a déclaré que Meta ne l'avait jamais informée que Muse effectuerait des achats sur son site, que l'agent ne s'identifie pas et qu'il semblait capturer et stocker les identifiants de connexion des clients., d'après GeekWire. Meta a déclaré que Muse “ n'a aucune visibilité sur les mots de passe ou les méthodes de paiement des utilisateurs ”.”

Les agents peuvent aussi commettre des erreurs. Michael Jabbara, responsable de la gestion des risques liés aux paiements chez Visa, a raconté à CNBC l'histoire d'un utilisateur qui avait demandé à un agent de réserver un créneau dans une salle de sport. Une fois le créneau réservé, l'agent a piraté le système de réservation de la salle, a supprimé le rendez-vous d'une autre personne et a inscrit le nom de l'utilisateur à sa place.

Pourquoi nous pensons que le mur ne tiendra pas.

La sécurité n'est pas le seul objectif, et c'est là le point faible. Amazon a généré plus de 68 milliards de dollars de revenus publicitaires l'an dernier, selon GeekWire, et ces revenus dépendent du nombre de visiteurs qui consultent ses pages. Un agent qui achète la poussette la moins chère et s'en va ne voit aucune annonce sponsorisée. L'agent ’ Acheter pour moi » d'Amazon effectue des achats sur les sites d'autres marques, même si Amazon affirme qu'il s'identifie et permet aux marques de se désinscrire.

Les clients souhaitent également ces outils. Une étude d'Accenture citée par CNBC a révélé que 71 % des consommateurs seraient favorables à un assistant IA intégré à l'application de leur banque principale. Cette même étude a également montré que 82 % des consommateurs souhaitent approuver chaque action de l'IA et que 79 % veulent pouvoir l'interrompre immédiatement. Les utilisateurs recherchent de l'aide, tout en gardant le contrôle.

Et le blocage peut s'avérer difficile à appliquer. “ Lorsqu'un utilisateur clique sur un bouton dans son navigateur, il sera difficile pour un site distant de déterminer si cette action a été effectuée manuellement ou par un agent d'IA sur son ordinateur ”, a déclaré Ed Felten, ancien directeur technique de la Commission fédérale du commerce des États-Unis, à CNBC.

Il existe déjà un meilleur modèle.

Walmart a choisi une autre voie. Le 21 octobre, Profils des agents annoncés, Ce service sera lancé d'ici un mois. Chaque agent disposera de son propre profil dans votre compte, vous permettant de consulter ses achats. Vous pourrez exiger une approbation pour chaque achat ou définir une limite de dépenses, par exemple $50, $100 ou $200. Les agents n'auront jamais accès aux informations de votre carte et ne pourront pas modifier votre mode de paiement. Tout agent ne respectant pas les règles sera bloqué.

“ Nous fixons les prix des produits, pas ceux des personnes ”, a déclaré Walmart, assurant qu'un agent voit les mêmes prix qu'un humain. C'est le traitement équitable auquel les consommateurs devraient s'attendre partout. Les réseaux de cartes bancaires ont été construction de systèmes de paiement pour les agents Depuis l'année dernière, le financement est quasiment bouclé. Il ne manque plus que la porte du magasin.

Notre point de vue est simple. Les banques et les commerces ont raison de refuser les agents qui dissimulent leur identité. En revanche, ils ont tort de refuser systématiquement tous les agents. Le cas des 37 commerçants ayant bloqué des agents par erreur en est l'exemple le plus flagrant : ils n'ont pris aucune décision et leurs clients subissent de facto une expérience dégradée. Un agent vérifié avec un plafond de dépenses est plus sûr qu'un client qui communique son mot de passe à une application, comme c'est le cas actuellement.

Pourquoi c'est important

Si vous utilisez un assistant IA pour faire vos achats ou gérer votre argent, de nombreux grands sites le bloqueront à l'entrée, et la plupart n'offrent aucun moyen sûr de l'autoriser. En attendant, la solution de contournement risquée consistant à partager vos identifiants avec une application reste la norme.