Amazon en JPMorgan sluiten AI-agenten buiten. Dat zal niet lang duren.
Geen van de 51 grootste Amerikaanse online winkels biedt een veilige manier voor een AI-agent om namens u aankopen te doen. Het volledig blokkeren van dergelijke agenten is geen oplossing, en Walmart laat een betere aanpak zien.
Nul. Dat is het aantal van de 51 grootste Amerikaanse online retailers dat een AI-agent een gecontroleerde, goedgekeurde manier biedt om namens jou aankopen te doen. Amazon en JPMorgan Chase sluiten dergelijke agenten nu openlijk buiten. Naar onze mening zal die muur niet standhouden en zullen de winkels die als eerste een degelijke toegangspoort bouwen, winnen.
Het aantal komt van een audit door het identiteitsbedrijf Billions Network, Het bedrijf analyseerde in augustus de gepubliceerde toegangsregels van 51 grote Amerikaanse retailers. Slechts 11 daarvan hadden een weloverwogen standpunt ingenomen ten aanzien van AI-agenten. Vijf bedrijven beperken ze volledig, waaronder Amazon, Kohl's en Neiman Marcus. Nog eens 37 bedrijven blokkeren ze bijna per ongeluk, via oude regels die jaren geleden zijn opgesteld om datascrapers tegen te houden. Het bedrijf merkt op dat gepubliceerde regels niet bewijzen dat een website ze ook daadwerkelijk handhaaft.
Met een AI-agent wordt hier een assistent bedoeld die taken voor je uitvoert, niet alleen vragen beantwoordt. Meta's Muse, OpenAI's Dot agent in ChatGPT En soortgelijke tools kunnen prijzen vergelijken, een winkelmandje vullen of geld overmaken als je ze dat toestaat. CNBC berichtte zondag dat JPMorgan, Charles Schwab, Amazon, Neiman Marcus en Kohl's allemaal stappen hebben ondernomen om agenten zoals Muse te blokkeren.
Wat de blockers zeggen
De argumenten voor het blokkeren van externe partijen zijn gegrond. "We gaan niet zomaar elke externe partij toelaten tot het bedrijf, want dat is gewoon te riskant voor klanten en voor JPMorgan", zei CEO Jamie Dimon tijdens de presentatie van de kwartaalcijfers van de bank., Fortune meldde. “Je wilt geen malafide agenten.”
Amazon heeft Muse in september de toegang tot het platform ontzegd. Het bedrijf gaf aan dat Meta hen nooit had laten weten dat Muse daar zou winkelen, dat de medewerker zich niet bekendmaakte en dat het erop leek dat de medewerker inloggegevens van klanten vastlegde en opsloeg., volgens GeekWire. Meta heeft gezegd dat Muse "geen inzicht heeft in de wachtwoorden of betaalmethoden van mensen."“
Ook reisagenten maken fouten. Michael Jabbara, hoofd betalingsrisico's bij Visa, vertelde aan CNBC over een gebruiker die een reisagent vroeg om een afspraak in de sportschool te boeken. Toen de afspraak al volgeboekt was, hackte de reisagent de boekingssoftware van de sportschool, verwijderde de afspraak van iemand anders en zette de naam van de gebruiker ervoor in de plaats.
Waarom wij denken dat de muur het niet zal houden.
Veiligheid is niet het enige motief, en dat is het zwakke punt. Amazon verdiende vorig jaar meer dan 68 miljard dollar aan advertenties, volgens GeekWire, en dat geld is afhankelijk van mensen die door de pagina's scrollen. Een agent die de goedkoopste kinderwagen koopt en weggaat, ziet geen gesponsorde advertenties. Amazons eigen 'Koop voor mij'-agent winkelt wel op de sites van andere merken, hoewel Amazon zegt dat het zichzelf identificeert en merken de mogelijkheid biedt om zich af te melden.
Klanten willen deze tools ook. Uit onderzoek van Accenture, aangehaald door CNBC, blijkt dat 71% van de consumenten een AI-assistent in de app van hun bank zouden verwelkomen. Hetzelfde onderzoek toonde aan dat 82% van de consumenten elke actie van de AI willen goedkeuren en 79% de mogelijkheid willen hebben om de AI direct te stoppen. Mensen willen hulp, maar wel met de hand op de rem.
En het blokkeren kan lastig te handhaven zijn. "Wanneer er in de browser van de gebruiker op een knop wordt geklikt, is het voor een externe website moeilijk te achterhalen of dit door een mens is gedaan of door een AI-agent op de computer van de gebruiker", aldus Ed Felten, voormalig hoofdtechnoloog bij de Amerikaanse Federal Trade Commission, tegen CNBC.
Er bestaat al een beter model.
Walmart heeft een andere weg gekozen. Op 21 oktober aangekondigde agentprofielen, De app wordt binnen een maand gelanceerd. Elke agent krijgt een eigen profiel in je account, zodat je kunt zien wat hij of zij heeft gekocht. Je kunt voor elke aankoop goedkeuring vereisen of een bestedingslimiet instellen, bijvoorbeeld $50, $100 of $200. Agenten zien je kaartgegevens nooit en kunnen je betaalmethode niet wijzigen. Agenten die de regels overtreden, worden geblokkeerd.
“"Wij beprijzen producten, niet mensen," aldus Walmart, die beloofde dat een medewerker dezelfde prijzen ziet als een mens. Dat is de eerlijke deal die klanten overal mogen verwachten. Kaartnetwerken zijn het opzetten van betalingssystemen voor agenten Sinds vorig jaar, dus de financiële kant is bijna rond. Wat nog ontbreekt, is de winkeldeur.
Ons standpunt is simpel. Banken en winkels hebben gelijk als ze agenten weigeren die hun identiteit verbergen. Ze hebben echter ongelijk als ze elke agent weigeren. De 37 winkeliers die per ongeluk geblokkeerd werden, zijn daarvan het duidelijkste voorbeeld: ze hebben niets besloten en hun klanten krijgen standaard een gebrekkige ervaring. Een geverifieerde agent met een bestedingslimiet is veiliger dan een klant die zijn wachtwoord aan een app geeft, wat nu vaak gebeurt.
Waarom het belangrijk is
Als je een AI-assistent gebruikt om te winkelen of je financiën te beheren, zullen veel grote websites dit blokkeren en de meeste hebben geen veilige manier om toegang te verlenen. Totdat ze dat wel doen, blijft de risicovolle omweg om je inloggegevens met een app te delen de standaard.
