A Air Canada foi obrigada a cumprir uma política de reembolso criada por engano pelo seu chatbot.
Este caso teve início quando Jake Moffatt, em luto pelo falecimento da sua avó, consultou o sistema de chatbot de IA da Air Canada para compreender a política de tarifas de luto da empresa.
O chatbot disse-lhe que podia reservar o seu voo e depois solicitar uma tarifa especial com desconto no prazo de 90 dias após a reserva.
Mas esta informação estava errada porque a política atual da Air Canada diz que não é possível obter um reembolso para viagens de luto depois de ter reservado o voo.
Esta informação entrava diretamente em conflito com a política real da Air Canada, que afirma claramente que os reembolsos para viagens de luto não estão disponíveis depois de o voo ter sido reservado.
O chatbot dizia especificamente: "Se precisar de viajar imediatamente ou já tiver viajado e quiser apresentar o seu bilhete para obter uma taxa de luto reduzida, faça-o no prazo de 90 dias a contar da data de emissão do bilhete, preenchendo o nosso formulário de pedido de reembolso de bilhete."
Isto preparou o terreno para a batalha legal que se seguiu.
A Air Canada argumentou que o chatbot, enquanto entidade autónoma, era responsável pela desinformação, isentando assim a Air Canada de responsabilidade. Este argumento foi recebido com ceticismo pelo tribunal.
Christopher Rivers, o membro do tribunal que presidiu ao caso, criticou a posição da Air Canada, afirmando: "A Air Canada argumenta que não pode ser responsabilizada por informações fornecidas por um dos seus agentes, funcionários ou representantes - incluindo um chatbot".
Questionou a expetativa da companhia aérea de que os clientes verificassem as informações do chatbot em relação a outras secções do sítio Web da Air Canada, salientando a natureza pouco razoável de tal expetativa.
A decisão a favor de Moffatt concedeu-lhe um reembolso parcial no valor de $650,88 CAD da sua tarifa original de $1.640,36 CAD, juntamente com uma indemnização por danos adicionais, incluindo juros sobre a tarifa aérea e taxas de tribunal.
Para quem não está familiarizado com as tarifas de luto, trata-se de tarifas especiais com desconto de bilhetes de avião oferecidas aos passageiros que se encontram numa situação em que precisam de viajar urgentemente devido à morte iminente ou ao falecimento recente de um familiar próximo.
Estas tarifas foram concebidas para oferecer algum alívio financeiro em alturas de emergência pessoal, reconhecendo o elevado custo das viagens de última hora. Nem todas as companhias aéreas oferecem tarifas de luto e as que o fazem têm políticas específicas, incluindo critérios de elegibilidade, a prova necessária da emergência (como uma certidão de óbito ou uma carta de uma agência funerária) e a extensão do desconto.
Este facto demonstra as responsabilidades legais e éticas das empresas quando empregam chatbots com IA em funções de serviço ao cliente, sublinhando a necessidade de exatidão e responsabilidade nas informações que essas ferramentas digitais fornecem.
$650 é um valor nominal comparado com o que se poderia imaginar se um sistema de IA desse maus conselhos de investimento, instruísse alguém a fazer uma transação fraudulenta, etc.
A Air Canada já tinha embarcado numa "experiência" de IA para reduzir o volume de trabalho dos seus centros de atendimento telefónico durante períodos de grande procura, como as interrupções de voos relacionadas com as condições meteorológicas.
Mel Crocker, diretor de informação da Air Canada, tinha imaginado este serviço de apoio ao cliente a lidar com questões complexas de serviço ao cliente. Isso talvez precise de ser repensado.
Outras empresas vão agora pensar duas vezes antes de confiarem à IA aconselhamento jurídico.
