Air Canada ha recibido la orden de cumplir una política de reembolso creada por error por su chatbot.
Este caso comenzó cuando Jake Moffatt, sumido en el dolor por el fallecimiento de su abuela, consultó el sistema de chatbot de IA de Air Canada para entender la política de tarifas por duelo de la compañía.
El chatbot le dijo que podía reservar su vuelo y luego solicitar una tarifa especial con descuento en los 90 días siguientes a la reserva.
Sin embargo, esta información era errónea porque la política real de Air Canada dice que no se puede obtener un reembolso por viaje de duelo después de haber reservado el vuelo.
Esta información chocaba directamente con la política real de Air Canada, que establece claramente que los reembolsos por viajes de duelo no están disponibles una vez reservado el vuelo.
El chatbot decía concretamente: "Si necesita viajar inmediatamente o ya ha viajado y desea enviar su billete para que se le aplique una tarifa reducida por duelo, le rogamos que lo haga en los 90 días siguientes a la fecha de emisión de su billete cumplimentando nuestro formulario de solicitud de reembolso de billetes."
Esto preparó el terreno para la batalla legal subsiguiente.
Air Canada argumentó que el chatbot, como entidad autónoma, era responsable de la información errónea, eximiendo así a Air Canada de responsabilidad. Este argumento fue recibido con escepticismo por el tribunal.
Christopher Rivers, el miembro del tribunal que presidió el caso, criticó la postura de Air Canada, afirmando: "Air Canada argumenta que no puede ser considerada responsable de la información proporcionada por uno de sus agentes, sirvientes o representantes -incluido un chatbot."
Cuestionó la expectativa de la aerolínea de que los clientes verifiquen la información del chatbot con otras secciones del sitio web de Air Canada, señalando la naturaleza poco razonable de tal expectativa.
La sentencia a favor de Moffatt le concedió un reembolso parcial por valor de $650,88 CAD de su tarifa original de $1.640,36 CAD, junto con una indemnización por daños y perjuicios adicionales, incluidos los intereses del billete de avión y las tasas del tribunal.
Para quienes no estén familiarizados con las tarifas de duelo, se trata de descuentos especiales en los billetes de avión que se ofrecen a los pasajeros que se encuentran en una situación en la que necesitan viajar urgentemente debido al fallecimiento inminente o reciente de un familiar cercano.
Estas tarifas están diseñadas para ofrecer cierto alivio financiero en momentos de emergencia personal, reconociendo el alto coste de los viajes de última hora. No todas las aerolíneas ofrecen tarifas de duelo, y las que tienen políticas específicas en torno a ellos, incluyendo los criterios de elegibilidad, la prueba requerida de la emergencia (como un certificado de defunción o una carta de una funeraria), y el alcance del descuento.
Esto demuestra las responsabilidades legales y éticas de las empresas al emplear chatbots de IA en funciones de atención al cliente, haciendo hincapié en la necesidad de exactitud y responsabilidad en la información que proporcionan estas herramientas digitales.
$650 es un valor nominal comparado con lo que podría imaginarse si un sistema de IA diera un mal consejo de inversión, ordenara a alguien hacer una transacción fraudulenta, etc.
Air Canada ya ha puesto en marcha un "experimento" de IA para reducir la carga de trabajo de sus centros de atención telefónica en periodos de gran demanda, como las interrupciones de vuelos por causas meteorológicas.
Mel Crocker, Director de Información de Air Canada, había imaginado este servicio de atención al cliente gestionando problemas complejos de atención al cliente. Quizá haya que replanteárselo.
Otras empresas se lo pensarán ahora dos veces antes de confiar a la IA el asesoramiento jurídico.
