Компании Air Canada было приказано соблюдать правила возврата денег, ошибочно созданные ее чат-ботом.
Этот случай начался с того, что Джейк Моффатт, охваченный горем в связи с кончиной бабушки, обратился к системе чатботов Air Canada с искусственным интеллектом, чтобы понять политику компании в отношении оплаты проезда в связи с тяжелой утратой.
Чатбот сообщил ему, что он может забронировать билет, а затем подать заявку на получение специальной скидки в течение 90 дней после бронирования.
Но эта информация была ошибочной, потому что в действительности политика Air Canada гласит, что вы не можете получить возмещение за поездку в связи с тяжелой утратой после того, как вы забронировали свой рейс.
Эта информация прямо противоречила фактической политике Air Canada, в которой четко указано, что возврат средств за поездку в связи с тяжелой утратой не возможен после того, как рейс был забронирован.
В чат-боте, в частности, говорилось: "Если вам нужно срочно отправиться в путешествие или вы уже совершили поездку и хотите сдать билет по сниженной цене, пожалуйста, сделайте это в течение 90 дней с даты оформления билета, заполнив нашу форму заявления на возврат билета".
Это послужило основой для последующего судебного разбирательства.
Air Canada утверждала, что чатбот, как автономная сущность, несет ответственность за дезинформацию, что освобождает Air Canada от ответственности. Этот аргумент был встречен трибуналом скептически.
Кристофер Риверс, член суда, председательствовавший в деле, раскритиковал позицию Air Canada, заявив: "Air Canada утверждает, что не может нести ответственность за информацию, предоставленную одним из ее агентов, служащих или представителей - в том числе чатботом".
Он поставил под сомнение ожидания авиакомпании, что клиенты будут проверять информацию чат-бота на других разделах сайта Air Canada, указав на необоснованность таких ожиданий.
Решение, вынесенное в пользу Моффатта, предусматривает частичный возврат денег в размере $650,88 CAD от первоначального тарифа в $1 640,36 CAD, а также компенсацию дополнительных убытков, включая проценты за авиабилет и судебные издержки.
Для тех, кто не знаком с тарифами на перевозку тяжелой утраты, это специальные льготные тарифы на авиабилеты, предлагаемые пассажирам, оказавшимся в ситуации, когда им необходимо срочно отправиться в путешествие в связи с предстоящей смертью или недавним уходом из жизни близкого члена семьи.
Эти тарифы призваны облегчить финансовое положение в экстренных ситуациях, признавая высокую стоимость путешествий в последнюю минуту. Не все авиакомпании предлагают тарифы на перевозку тяжелой утраты, а те, которые предлагают, имеют особую политику, включая критерии отбора, необходимые доказательства чрезвычайной ситуации (например, свидетельство о смерти или письмо из похоронного бюро) и размер скидки.
Это демонстрирует юридическую и этическую ответственность компаний при использовании чат-ботов с искусственным интеллектом в сфере обслуживания клиентов, подчеркивая необходимость точности и ответственности в информации, которую предоставляют такие цифровые инструменты.
$650 - это номинальная стоимость по сравнению с тем, что вы можете себе представить, если система искусственного интеллекта даст плохой инвестиционный совет, даст указание совершить мошенническую операцию и т. д.
Ранее компания Air Canada уже начала "эксперимент" с искусственным интеллектом, чтобы снизить нагрузку на свои колл-центры в периоды повышенного спроса, например, во время перебоев с рейсами из-за погодных условий.
Мел Крокер (Mel Crocker), директор по информационным технологиям компании Air Canada, представлял себе эту службу поддержки клиентов, занимающуюся сложными вопросами обслуживания клиентов. Возможно, эту идею придется переосмыслить.
Теперь другие компании дважды подумают, прежде чем доверить ИИ юридические консультации.
