Air Canada è stata condannata a rispettare una politica di rimborso erroneamente creata dal suo chatbot.
Questo caso è iniziato quando Jake Moffatt, in preda al dolore per la scomparsa della nonna, ha consultato il sistema di chatbot AI di Air Canada per capire la politica tariffaria della compagnia in caso di lutto.
Il chatbot gli ha detto che poteva prenotare il volo e poi richiedere una tariffa speciale scontata entro 90 giorni dalla prenotazione.
Ma questa informazione era sbagliata perché la politica effettiva di Air Canada dice che non è possibile ottenere un rimborso per il viaggio di lutto dopo aver prenotato il volo.
Queste informazioni sono in diretto contrasto con la politica effettiva di Air Canada, che afferma chiaramente che i rimborsi per i viaggi di lutto non sono disponibili dopo la prenotazione del volo.
Il chatbot affermava in particolare: "Se deve viaggiare immediatamente o ha già viaggiato e desidera sottoporre il suo biglietto a una tariffa ridotta per lutto, è pregato di farlo entro 90 giorni dalla data di emissione del biglietto compilando il nostro modulo di richiesta di rimborso del biglietto".
Questo ha posto le basi per la battaglia legale che ne è seguita.
Air Canada ha sostenuto che il chatbot, in quanto entità autonoma, era responsabile della disinformazione, assolvendo così Air Canada dalla responsabilità. Questa argomentazione è stata accolta con scetticismo dal tribunale.
Christopher Rivers, il membro del tribunale che ha presieduto il caso, ha criticato la posizione di Air Canada, affermando: "Air Canada sostiene di non poter essere ritenuta responsabile per le informazioni fornite da uno dei suoi agenti, servitori o rappresentanti, compreso un chatbot".
Ha messo in dubbio l'aspettativa della compagnia aerea che i clienti verifichino le informazioni del chatbot rispetto ad altre sezioni del sito web di Air Canada, sottolineando la natura irragionevole di tale aspettativa.
La sentenza a favore di Moffatt gli ha concesso un rimborso parziale pari a $650,88 CAD rispetto alla tariffa originaria di $1.640,36 CAD, oltre al risarcimento di ulteriori danni, tra cui gli interessi sul biglietto aereo e le spese processuali.
Per chi non conosce le tariffe di lutto, si tratta di tariffe speciali scontate offerte ai passeggeri che si trovano nella situazione di dover viaggiare con urgenza a causa dell'imminente morte o della recente scomparsa di un familiare.
Queste tariffe sono pensate per offrire un po' di sollievo finanziario nei momenti di emergenza personale, riconoscendo l'alto costo dei viaggi dell'ultimo minuto. Non tutte le compagnie aeree offrono tariffe per il lutto, e quelle che le offrono hanno politiche specifiche, tra cui i criteri di ammissibilità, la prova richiesta dell'emergenza (come un certificato di morte o una lettera di un'impresa di pompe funebri) e l'entità dello sconto.
Questo dimostra le responsabilità legali ed etiche delle aziende quando impiegano chatbot AI in ruoli di assistenza clienti, sottolineando la necessità di accuratezza e responsabilità nelle informazioni fornite da questi strumenti digitali.
$650 è un valore nominale rispetto a quello che si potrebbe immaginare se un sistema di intelligenza artificiale desse consigli di investimento sbagliati, istruisse qualcuno a effettuare una transazione fraudolenta, ecc.
Air Canada ha già intrapreso un "esperimento" di intelligenza artificiale per ridurre il carico di lavoro dei suoi call center durante i periodi di forte domanda, come le interruzioni dei voli dovute al maltempo.
Mel Crocker, Chief Information Officer di Air Canada, aveva immaginato che questo servizio clienti si occupasse di problemi complessi. Potrebbe essere necessario un ripensamento.
Altre aziende ci penseranno due volte prima di affidare all'IA la consulenza legale.
