Новый ИИ-чатбот Amazon Q, как сообщается, сливал внутреннюю информацию в серии сильных галлюцинаций.
Внутренние документы, которые были получены ПлатформерВыясните, что чатбот случайно раскрыл конфиденциальную информацию.
Сюда входит расположение дата-центров Amazon Web Services (AWS), подробности о внутренних программах скидок, а также функции, еще не представленные широкой публике.
Как утверждается, ситуация была признана достаточно серьезной, чтобы быть классифицированной как "sev 2", что побудило инженеров работать в течение длительного времени, включая ночи и выходные, чтобы решить проблему.
В ответ на предположения представитель Amazon заявил, что в результате этого инцидента не было обнаружено никаких нарушений безопасности. Они подчеркнули, что компания стремится постоянно совершенствовать Amazon Q, особенно по мере перехода от предварительной версии продукта к общей доступности.
В противовес внутренним документам представитель DCD заявил, что Amazon Q не сливала никакой конфиденциальной информации.
Amazon Q это новый чат-бот Amazon, ориентированный на бизнес, в числе основных функций которого называются продуманная безопасность и защита данных для бизнес-пользователей.
Однако внутренние документы свидетельствуют о том, что Amazon Q предоставляла недостоверную информацию по различным вопросам, что вызвало недовольство среди ранних пользователей и обеспокоенность сотрудников Amazon, о чем свидетельствуют комментарии, опубликованные во внутренних каналах Slack.
Один из сотрудников выразил обеспокоенность по поводу ответов чатбота, которые потенциально могут навлечь на Amazon юридическую ответственность. Официально ничего из этого не подтверждено.
Компания Amazon известна тем, что хранит в строжайшей тайне информацию о местонахождении своих центров обработки данных.
В 2018 году WikiLeaks опубликовал внутренние документы Amazon, в которых указывалось местоположение ее дата-центров по состоянию на 2015 год. С тех пор точное местоположение всех дата-центров Amazon не разглашается, за исключением случаев, когда о них становится известно из отчетов о плановых документах.
Это немного напоминает ситуацию, когда Google впервые публично продемонстрировала Bard, но при этом допустила серьезную фактическую ошибку в отношении телескопа James Webb, который, по словам ИИ, "сделал самые первые снимки планеты за пределами нашей Солнечной системы". Это было неверно.
ИИ-галлюцинации и ляпы - это одно, а утечка секретной информации - совсем другое.
