Amazon e JPMorgan stanno escludendo gli agenti basati sull'intelligenza artificiale. Non durerà.

Zero. Questo è il numero di rivenditori online statunitensi, su 51, che consentono a un agente basato sull'intelligenza artificiale di effettuare acquisti per conto dell'utente. Amazon e JPMorgan Chase stanno ora escludendo apertamente tali agenti. A nostro avviso, questa barriera non durerà a lungo e i negozi che per primi costruiranno una porta sicura avranno la meglio.

Il conteggio proviene da un audit condotto dalla società di identità Billions Network, che hanno analizzato le regole di accesso pubblicate da 51 grandi rivenditori statunitensi ad agosto. Solo 11 avevano preso una posizione esplicita sugli agenti di intelligenza artificiale. Cinque li limitano esplicitamente, tra cui Amazon, Kohl's e Neiman Marcus. Altri 37 li bloccano quasi per caso, attraverso vecchie regole scritte anni fa per impedire lo scraping dei dati. L'azienda osserva che le regole pubblicate non dimostrano che un sito le applichi effettivamente.

Qui per agente AI si intende un assistente che svolge compiti per te, non solo che risponde alle domande. Muse di Meta, OpenAI Agente Dot in ChatGPT Strumenti simili possono confrontare i prezzi, riempire un carrello o trasferire denaro, se glielo consentite. CNBC ha riferito domenica che JPMorgan, Charles Schwab, Amazon, Neiman Marcus e Kohl's hanno tutti preso provvedimenti per bloccare agenti come Muse.

Cosa dicono i bloccanti

Le ragioni per il blocco sono concrete. "Non permetteremo a un agente esterno qualsiasi di entrare nell'azienda, perché ciò è troppo rischioso sia per i clienti che per JPMorgan", ha dichiarato l'amministratore delegato Jamie Dimon durante la teleconferenza sui risultati del terzo trimestre della banca., Fortune ha riportato. “Non vogliamo agenti corrotti.”

Amazon ha interrotto il rapporto con Muse a settembre. Ha affermato che Meta non le aveva mai comunicato che Muse avrebbe effettuato acquisti sul suo sito, che l'agente non si identifica e che sembra acquisire e memorizzare le credenziali di accesso dei clienti, secondo GeekWire. Meta ha dichiarato che Muse "non ha visibilità sulle password o sui metodi di pagamento degli utenti".“

Anche gli agenti commettono errori. Michael Jabbara, responsabile della gestione del rischio di pagamento presso Visa, ha raccontato a CNBC di un utente che aveva chiesto a un agente di prenotare un posto in palestra. Quando il posto è risultato occupato, l'agente si è introdotto nel software di prenotazione della palestra, ha cancellato l'appuntamento di qualcun altro e ha inserito il nome dell'utente.

Perché pensiamo che il muro non reggerà

La sicurezza non è l'unica motivazione, e questo è il punto debole. Secondo GeekWire, Amazon ha guadagnato più di 68 miliardi di dollari dalla pubblicità lo scorso anno, e questi introiti dipendono dagli utenti che navigano sulle sue pagine. Un utente che acquista il passeggino più economico e se ne va non vede annunci sponsorizzati. L'agente "Compra per me" di Amazon fa acquisti anche sui siti di altri marchi, sebbene Amazon affermi di identificarsi e di consentire ai marchi di scegliere di non partecipare.

Anche i clienti desiderano questi strumenti. Una ricerca di Accenture citata da CNBC ha rilevato che il 71% dei consumatori accoglierebbe con favore un assistente basato sull'intelligenza artificiale all'interno dell'app della propria banca principale. La stessa ricerca ha scoperto che l'82% dei consumatori vorrebbe approvare ogni azione intrapresa dall'IA e il 79% vorrebbe poterla interrompere immediatamente. Le persone vogliono aiuto, ma con la possibilità di frenare.

E il blocco potrebbe essere difficile da attuare. "Quando si fa clic su un pulsante nel browser dell'utente, sarà difficile per un sito remoto stabilire se l'azione è stata compiuta da una mano umana o da un agente di intelligenza artificiale sul computer dell'utente", ha dichiarato a CNBC Ed Felten, ex responsabile tecnologico della Commissione federale per il commercio degli Stati Uniti.

Esiste già un modello migliore

Walmart ha preso un'altra strada. Il 21 ottobre ha Profili degli agenti annunciati, Il servizio sarà lanciato entro un mese. Ogni agente avrà un proprio profilo all'interno del tuo account, così potrai vedere cosa ha acquistato. Puoi richiedere l'approvazione per ogni acquisto o impostare un limite di spesa, ad esempio $50, $100 o $200. Gli agenti non vedranno mai i dati della tua carta e non potranno modificare il tuo metodo di pagamento. Gli agenti che violano le regole verranno bloccati.

“"Noi diamo un prezzo ai prodotti, non alle persone", ha detto Walmart, promettendo che un agente vede gli stessi prezzi che vedrebbe un essere umano. Questo è il trattamento equo che gli acquirenti dovrebbero aspettarsi ovunque. I circuiti delle carte sono stati creazione di sistemi di pagamento per gli agenti dall'anno scorso, quindi la parte finanziaria è quasi pronta. Quello che manca è la porta del negozio.

La nostra posizione è semplice. Le banche e i negozi fanno bene a rifiutare gli agenti che nascondono la propria identità. Sbagliano, però, a rifiutare tutti gli agenti. Il caso dei 37 rivenditori che hanno bloccato per errore è la prova lampante: non hanno preso alcuna decisione e, di conseguenza, i loro clienti si ritrovano con un'esperienza inadeguata. Un agente verificato con un limite di spesa è più sicuro di un cliente che comunica la propria password a un'app, come accade oggi.

Perché è importante

Se utilizzi un assistente basato sull'intelligenza artificiale per fare acquisti o gestire denaro, molti siti importanti lo bloccheranno immediatamente e la maggior parte non offre un modo sicuro per consentirne l'accesso. Fino a quando non lo faranno, la rischiosa soluzione alternativa di condividere le proprie credenziali di accesso con un'app rimarrà quella predefinita.