В октябре 2023 года мэр Нью-Йорка Эрик Адамс объявил о сотрудничестве чат-бота на базе искусственного интеллекта с Microsoft, чтобы помочь владельцам бизнеса разобраться в государственных нормах.
Этот проект вскоре отклонился от курса и стал предоставлять незаконные консультации по деликатным вопросам, связанным с жилищными и потребительскими правами.
Например, когда арендодатели спрашивали о приеме жильцов с ваучерами Section 8, чатбот советовал отказать им.
Согласно законам Нью-Йорка, дискриминация арендаторов по признаку источника дохода является незаконной, за очень ограниченными исключениями.
Изучив результаты работы чатбота, Розалинд Блэк, директор по городскому жилищному хозяйству Юридической службы Нью-Йорка, обнаружила, что чатбот советует разрешить блокировать жильцов. Чатбот утверждал."Нет никаких ограничений на размер арендной платы, которую вы можете взимать с квартиросъемщика".
Ошибочные советы чатбота распространялись не только на жилье. "Да, вы можете сделать свой ресторан безналичным", - советует он, противореча городскому закону 2020 года, который обязывает предприятия принимать наличные, чтобы избежать дискриминации клиентов без банковских счетов.
Кроме того, в нем ошибочно предполагалось, что работодатели могут вычитать из чаевых своих работников, и приводилась неверная информация о правилах уведомления сотрудников об изменениях в графике работы.
Блэк предупредил: "Если этот чатбот не будет работать ответственно и точно, его следует удалить".
Эндрю Риджи, исполнительный директор NYC Hospitality Alliance, рассказал, что любой, кто последует совету чатбота, может понести огромные юридические обязательства. "ИИ может быть мощным инструментом поддержки малого бизнеса... но он также может стать серьезной ответственностью, если будет предоставлять неверную юридическую информацию", - сказал Риджи.
В ответ на растущую критику Лесли Браун из Управления по технологиям и инновациям Нью-Йорка заявила, что чатбот находится на стадии разработки.
Коричневый утверждалГород дал понять, что чатбот является пилотной программой и будет совершенствоваться, но уже предоставил тысячам людей своевременные и точные ответы".
Было ли размещение "незавершенного производства" в столь чувствительной зоне хорошим планом?
Юридические обязательства, связанные с искусственным интеллектом, поражают компании
ИИ-чатботы могут делать многое, но предоставление юридических консультаций пока не входит в их число.
В феврале компания Air Canada оказалась в центре судебного спора из-за вводящей в заблуждение политики возврата средств, которую сообщил ее чат-бот с искусственным интеллектом.
Джейк Моффатт, искавший разъяснений по поводу политики авиакомпании в отношении тарифов в связи с тяжелой утратой во время личного кризиса, был ошибочно проинформирован чат-ботом о том, что он может получить специальную скидку после бронирования. Это противоречит политике авиакомпании, которая не разрешает возвращать деньги за проезд в связи с тяжелой утратой после бронирования.
Это привело к судебному разбирательствуВ итоге Air Canada было приказано соблюдать неправильную политику, заявленную чатботом, в результате чего Моффатт получил возмещение.
ИИ также привел к неприятностям самих судей. Пожалуй, больше всего отличился нью-йоркский адвокат Стивен А. Шварц, который использовал ChatGPT для юридических исследований и нечаянно процитировал сфабрикованные судебные дела в своей записке.
Учитывая все, что мы знаем о галлюцинациях ИИ, полагаться на чат-боты в вопросах юридической помощи не рекомендуется, каким бы тривиальным ни казался вопрос.
