Air Canada har blitt beordret til å overholde en refusjonspolicy som ved en feiltakelse ble opprettet av chatboten deres.
Denne saken begynte da Jake Moffatt, i sorg over bestemorens bortgang, konsulterte Air Canadas AI-chatbot-system for å forstå selskapets retningslinjer for begravelsespriser.
Chatboten fortalte ham at han kunne bestille flyreisen og deretter søke om en spesialrabatt innen 90 dager etter bestillingen.
Men denne informasjonen var feil, fordi Air Canadas faktiske retningslinjer sier at du ikke kan få refusjon for dødsreiser etter at du har bestilt flyreisen.
Denne informasjonen var i direkte konflikt med Air Canadas faktiske retningslinjer, der det tydelig fremgår at refusjon for dødsreiser ikke er tilgjengelig etter at flyreisen er bestilt.
Chatboten sa spesifikt: "Hvis du trenger å reise umiddelbart eller allerede har reist og ønsker å sende inn billetten din for å få redusert pris, må du gjøre det innen 90 dager etter datoen billetten din ble utstedt ved å fylle ut skjemaet for søknad om refusjon av billett."
Dermed var det duket for den påfølgende rettskampen.
Air Canada hevdet at chatboten, som en selvstendig enhet, var ansvarlig for feilinformasjonen, og at Air Canada dermed var fri for ansvar. Dette argumentet ble møtt med skepsis av domstolen.
Christopher Rivers, medlemmet av domstolen som ledet saken, kritiserte Air Canadas standpunkt og uttalte: "Air Canada hevder at de ikke kan holdes ansvarlig for informasjon som er gitt av en av deres agenter, ansatte eller representanter - inkludert en chatbot."
Han stilte spørsmål ved flyselskapets forventning om at kundene skulle verifisere chatbotens informasjon opp mot andre deler av Air Canadas nettsted, og påpekte det urimelige i en slik forventning.
Dommen i Moffatts favør ga ham en delvis refusjon på $650,88 CAD av den opprinnelige billettprisen på $1 640,36 CAD, samt erstatning for ytterligere skader, inkludert renter på flybilletten og rettsgebyr.
For de som ikke er kjent med sorgpriser, er det spesielle rabatterte flybillettpriser som tilbys passasjerer som er i en situasjon der de må reise raskt på grunn av et nært familiemedlems nært forestående død eller nylige bortgang.
Disse prisene er utformet for å tilby en viss økonomisk lettelse i personlige krisesituasjoner, i erkjennelsen av de høye kostnadene ved reiser i siste øyeblikk. Ikke alle flyselskaper tilbyr sorgpriser, og de som tilbyr slike priser, har spesifikke retningslinjer for dem, inkludert kriterier for å være kvalifisert, nødvendig bevis på nødsituasjonen (for eksempel en dødsattest eller et brev fra begravelsesbyrået) og omfanget av rabatten.
Dette viser selskapers juridiske og etiske ansvar når de bruker AI-chatboter i kundeservice, og understreker behovet for nøyaktighet og ansvarlighet i informasjonen som slike digitale verktøy gir.
$650 er en symbolsk verdi sammenlignet med hva du kan forestille deg hvis et AI-system gir dårlige investeringsråd, instruerer noen til å foreta en uredelig transaksjon osv.
Air Canada har tidligere startet et "eksperiment" med kunstig intelligens for å redusere arbeidsmengden på kundesentrene i perioder med høy etterspørsel, for eksempel ved værrelaterte flyforstyrrelser.
Mel Crocker, Air Canadas informasjonssjef, hadde sett for seg at denne kundeservicen skulle håndtere komplekse kundeserviceproblemer. Det må kanskje revurderes.
Andre selskaper vil nå tenke seg om to ganger før de overlater juridisk rådgivning til kunstig intelligens.
