Air Canada er blevet beordret til at overholde en refusionspolitik, der fejlagtigt blev skabt af deres chatbot.
Denne sag begyndte, da Jake Moffatt i sorg over sin bedstemors død konsulterede Air Canadas AI-chatbot-system for at forstå selskabets politik for begravelsestakster.
Chatbotten fortalte ham, at han kunne bestille sin flyrejse og derefter ansøge om en særlig rabat inden for 90 dage efter bestillingen.
Men denne information var forkert, fordi Air Canadas faktiske politik siger, at du ikke kan få refusion for sorgrejser, efter at du har booket din flyrejse.
Disse oplysninger var i direkte modstrid med Air Canadas faktiske politik, som klart siger, at refusioner for sorgrejser ikke er tilgængelige, efter at flyrejsen er blevet booket.
Chatbotten sagde specifikt: "Hvis du skal rejse med det samme eller allerede har rejst og gerne vil indsende din billet til en reduceret pris for dødsfald, bedes du gøre det inden for 90 dage efter den dato, hvor din billet blev udstedt, ved at udfylde vores formular til ansøgning om billetrefusion."
Det satte scenen for den efterfølgende juridiske kamp.
Air Canada argumenterede for, at chatbotten som en selvstændig enhed var ansvarlig for misinformationen og dermed fritog Air Canada for ansvar. Dette argument blev mødt med skepsis af tribunalet.
Christopher Rivers, det medlem af tribunalet, der ledede sagen, kritiserede Air Canadas holdning og sagde: "Air Canada hævder, at det ikke kan holdes ansvarligt for oplysninger, der er givet af en af dets agenter, ansatte eller repræsentanter - herunder en chatbot."
Han satte spørgsmålstegn ved flyselskabets forventning om, at kunderne skulle verificere chatbottens oplysninger i forhold til andre dele af Air Canadas hjemmeside, og påpegede det urimelige i en sådan forventning.
Dommen til fordel for Moffatt gav ham en delvis refusion på $650,88 CAD af hans oprindelige billetpris på $1.640,36 CAD sammen med kompensation for yderligere skader, herunder renter på flybilletten og retsafgifter.
For dem, der ikke kender til sorgpriser, er det særlige rabatpriser på flybilletter, der tilbydes passagerer, som er i en situation, hvor de er nødt til at rejse hurtigt på grund af et nært familiemedlems forestående død eller nylige bortgang.
Disse priser er designet til at tilbyde en vis økonomisk lettelse i personlige nødsituationer i erkendelse af de høje omkostninger ved rejser i sidste øjeblik. Det er ikke alle flyselskaber, der tilbyder sorgpriser, og dem, der gør, har specifikke politikker omkring dem, herunder kriterier for berettigelse, det krævede bevis for nødsituationen (som en dødsattest eller et brev fra et begravelsesfirma) og rabattens omfang.
Dette viser virksomhedernes juridiske og etiske ansvar, når de anvender AI-chatbots i kundeservice, og understreger behovet for nøjagtighed og ansvarlighed i de oplysninger, som sådanne digitale værktøjer giver.
$650 er en symbolsk værdi sammenlignet med, hvad man kunne forestille sig, hvis et AI-system gav dårlig investeringsrådgivning, instruerede nogen i at foretage en svigagtig transaktion osv.
Air Canada har tidligere indledt et AI-"eksperiment" for at reducere arbejdsbyrden på sine callcentre i perioder med stor efterspørgsel, f.eks. vejrrelaterede flyafbrydelser.
Mel Crocker, Air Canadas informationschef, havde forestillet sig, at denne kundeservice skulle håndtere komplekse kundeserviceproblemer. Det skal måske gentænkes.
Andre virksomheder vil nu tænke sig om en ekstra gang, før de betror AI juridisk rådgivning.
