Air Canada is gesommeerd om zich te houden aan een restitutiebeleid dat ten onrechte is gecreëerd door zijn chatbot.
Deze zaak begon toen Jake Moffatt, in de rouw over het overlijden van zijn grootmoeder, het AI-chatbotsysteem van Air Canada raadpleegde om inzicht te krijgen in het tariefbeleid voor rouwverwerking van het bedrijf.
De chatbot vertelde hem dat hij zijn vlucht kon boeken en vervolgens binnen 90 dagen na het boeken een speciaal kortingstarief kon aanvragen.
Maar deze informatie was fout, want volgens het huidige beleid van Air Canada kun je geen geld terugkrijgen voor rouwreizen nadat je je vlucht hebt geboekt.
Deze informatie was in tegenspraak met het beleid van Air Canada, waarin duidelijk staat dat terugbetalingen voor rouwreizen niet beschikbaar zijn nadat de vlucht is geboekt.
De chatbot zei specifiek: "Als je onmiddellijk moet reizen of al gereisd hebt en je ticket wilt indienen voor een gereduceerd rouwtarief, doe dit dan binnen 90 dagen na de datum waarop je ticket is uitgegeven door ons Ticket Restitutie Aanvraagformulier in te vullen."
Dit vormde de basis voor de daaropvolgende juridische strijd.
Air Canada voerde aan dat de chatbot, als een autonome entiteit, verantwoordelijk was voor de verkeerde informatie, waardoor Air Canada van aansprakelijkheid werd vrijgesteld. Dit argument werd door het tribunaal met scepsis ontvangen.
Christopher Rivers, het lid van het tribunaal dat de zaak voorzat, bekritiseerde het standpunt van Air Canada en zei: "Air Canada stelt dat het niet aansprakelijk kan worden gesteld voor informatie die is verstrekt door een van zijn agenten, bedienden of vertegenwoordigers, waaronder een chatbot."
Hij zette vraagtekens bij de verwachting van de luchtvaartmaatschappij dat klanten de informatie van de chatbot zouden verifiëren aan de hand van andere secties van de website van Air Canada en wees op de onredelijke aard van een dergelijke verwachting.
De uitspraak ten gunste van Moffatt verleende hem een gedeeltelijke terugbetaling van $650,88 CAD van zijn oorspronkelijke tarief van $1.640,36 CAD, samen met een vergoeding voor aanvullende schade, waaronder rente op de vlucht en gerechtskosten.
Voor degenen die niet bekend zijn met rouwtarieven: dit zijn speciale gereduceerde tarieven voor vliegtickets die worden aangeboden aan passagiers die in een situatie zitten waarin ze dringend moeten reizen vanwege het naderende overlijden of het recente overlijden van een naast familielid.
Deze tarieven zijn ontworpen om wat financiële verlichting te bieden in tijden van persoonlijke nood, en erkennen de hoge kosten van last-minute reizen. Niet alle luchtvaartmaatschappijen bieden rouwtarieven en de maatschappijen met een specifiek beleid, inclusief de criteria om in aanmerking te komen, het vereiste bewijs van de noodsituatie (zoals een overlijdensakte of een brief van een begrafenisonderneming) en de omvang van de korting.
Dit toont de juridische en ethische verantwoordelijkheden van bedrijven aan bij het inzetten van AI-chatbots in klantenservice rollen, en benadrukt de noodzaak van nauwkeurigheid en verantwoordelijkheid in de informatie die dergelijke digitale tools bieden.
$650 is een nominale waarde vergeleken met wat je je kunt voorstellen als een AI-systeem slecht beleggingsadvies geeft, iemand opdraagt een frauduleuze transactie te doen, etc.
Air Canada is eerder begonnen met een AI-"experiment" om de werkdruk op zijn callcenters te verminderen tijdens periodes van grote vraag, zoals weersgerelateerde verstoringen van vluchten.
Mel Crocker, chief information officer van Air Canada, had zich voorgesteld dat deze klantenservice complexe klantenservicekwesties zou afhandelen. Dat moet misschien worden heroverwogen.
Andere bedrijven zullen nu wel twee keer nadenken voordat ze AI juridisch advies toevertrouwen.
