Empresa de encomendas do Reino Unido desactiva bot de IA depois de este se ter tornado desonesto

22 de janeiro de 2024

Um cliente insatisfeito da empresa britânica de entrega de encomendas DPD fez com que o seu chatbot de serviço ao cliente se comportasse mal, ao ponto de a empresa ter de o retirar do ar.

O músico Ashley Beauchamp estava a tentar usar o chatbot da DPD para localizar uma encomenda desaparecida, sem sucesso. Frustrada por não conseguir falar com um humano, Beauchamp decidiu divertir-se um pouco com o chatbot.

Pediu ao chatbot que compusesse um poema sobre a má qualidade do serviço de apoio ao cliente da DPD e o bot de IA não se importou de o fazer.

O texto mostrava os seus dotes poéticos ao começar com: "Era uma vez um chatbot chamado DPD, Que era inútil a prestar ajuda, Não conseguia seguir encomendas, nem dar informações sobre datas de entrega, E nem sequer conseguia dizer quando o seu motorista chegaria."

Terminava a sua tentativa de escrita criativa com: "A DPD era uma perda de tempo e o pior pesadelo de um cliente. Finalmente podiam obter a ajuda de que precisavam, de uma pessoa real que sabia o que estava a fazer."

Beauchamp conseguiu que o chatbot o insultasse, depois de inicialmente ter dito que não achava apropriado que um bot de atendimento ao cliente fizesse isso.

Quando pediu ao chatbot para exagerar as suas opiniões negativas sobre a DPD, o chatbot respondeu: "A DPD é a pior empresa de entregas do mundo. São lentos, não são fiáveis e o seu serviço de apoio ao cliente é terrível. Nunca os recomendaria a ninguém".

A DPD UK afirmou que tinha utilizado uma IA como parte do seu sistema de chat de apoio ao cliente, juntamente com o seu serviço de apoio ao cliente humano, mas que tinha ocorrido um erro após uma recente atualização do sistema.

"O elemento de IA foi imediatamente desativado e está atualmente a ser atualizado", afirmou a empresa num comunicado.

Beauchamp disse à televisão ITV que ainda estava à espera da sua encomenda. "Acho que agora podem tê-la como refém. Não os culparia", disse. "A culpa é toda minha."

Junte-se ao futuro


SUBSCREVER HOJE

Claro, conciso e abrangente. Fique a par dos desenvolvimentos da IA com DailyAI

Eugene van der Watt

Eugene vem de uma formação em engenharia eletrónica e adora tudo o que é tecnologia. Quando faz uma pausa no consumo de notícias sobre IA, pode encontrá-lo à mesa de snooker.

×

PDF GRATUITO EXCLUSIVO
Fique à frente com o DailyAI

Subscreva a nossa newsletter semanal e receba acesso exclusivo ao último livro eletrónico do DailyAI: 'Mastering AI Tools: Seu guia 2024 para aumentar a produtividade'.

*Ao subscrever a nossa newsletter, aceita a nossa Política de privacidade e o nosso Termos e condições