Air Canada har beordrats att följa en återbetalningspolicy som felaktigt skapats av dess chatbot.
Det här fallet började med att Jake Moffatt, i djup sorg över sin mormors bortgång, konsulterade Air Canadas AI-chatbot för att förstå bolagets policy för biljettpriser vid dödsfall.
Chattroboten berättade att han kunde boka sin flygresa och sedan ansöka om ett rabatterat pris inom 90 dagar efter bokningen.
Men den här informationen var felaktig eftersom Air Canadas faktiska policy säger att du inte kan få en återbetalning för sorgresor efter att du har bokat ditt flyg.
Denna information stod i direkt konflikt med Air Canadas faktiska policy, som tydligt anger att återbetalningar för sorgresor inte är tillgängliga efter att flygningen har bokats.
Chattboten sa specifikt: "Om du behöver resa omedelbart eller redan har rest och vill skicka in din biljett för en reducerad sorgavgift, vänligen gör det inom 90 dagar efter det datum då din biljett utfärdades genom att fylla i vårt ansökningsformulär för biljettåterbetalning."
Därmed var grunden lagd för den rättsliga strid som följde.
Air Canada hävdade att chatboten, som en självständig enhet, var ansvarig för den felaktiga informationen och att Air Canada därför inte kunde hållas ansvarigt. Detta argument möttes med skepsis av domstolen.
Christopher Rivers, den ledamot i domstolen som ledde ärendet, kritiserade Air Canadas inställning och sa: "Air Canada hävdar att de inte kan hållas ansvariga för information som tillhandahålls av en av deras agenter, tjänstemän eller representanter - inklusive en chatbot."
Han ifrågasatte flygbolagets förväntan på att kunderna skulle verifiera chatbotens information mot andra delar av Air Canadas webbplats och påpekade att en sådan förväntan var orimlig.
Domen till Moffatts fördel innebar att han fick en delåterbetalning på 1.650,88 CAD av det ursprungliga priset på 1.640,36 CAD, samt ersättning för ytterligare skador, inklusive ränta på flygbiljetten och domstolsavgifter.
För de som inte känner till sorgpriser är det speciella rabatterade flygbiljettpriser som erbjuds passagerare som befinner sig i en situation där de måste resa snabbt på grund av en nära familjemedlems nära förestående död eller nyligen inträffade bortgång.
Dessa priser är utformade för att erbjuda ekonomisk lättnad vid personliga nödsituationer, med tanke på de höga kostnaderna för sista minuten-resor. Det är inte alla flygbolag som erbjuder begravningspriser, och de som gör det har särskilda policyer för dem, inklusive kriterier för berättigande, det bevis som krävs för nödsituationen (som en dödsattest eller ett brev från en begravningsbyrå) och rabattens omfattning.
Detta visar på företagens juridiska och etiska ansvar när de använder AI-chattbottar i kundtjänstroller, och understryker behovet av noggrannhet och ansvarighet i den information som sådana digitala verktyg tillhandahåller.
$650 är ett nominellt värde jämfört med vad man skulle kunna tänka sig om ett AI-system gav dåliga investeringsråd, instruerade någon att göra en bedräglig transaktion etc.
Air Canada har tidigare inlett ett AI-"experiment" för att minska arbetsbelastningen på sina callcenters under perioder med hög efterfrågan, till exempel väderrelaterade flygstörningar.
Mel Crocker, Air Canadas informationschef, hade föreställt sig att denna kundtjänst skulle hantera komplexa kundtjänstfrågor. Det kan behöva omprövas.
Andra företag kommer nu att tänka sig för innan de anförtror AI juridisk rådgivning.
