O novo chatbot de IA da Amazon, o Amazon Q, tem estado a divulgar informações internas numa série de alucinações graves.
Documentos internos, obtidos por PlataformaO chatbot pode revelar que o chatbot divulgou inadvertidamente informações confidenciais.
Isto inclui a localização dos centros de dados da Amazon Web Services (AWS), detalhes sobre programas de descontos internos e funcionalidades ainda não divulgadas ao público.
A situação foi alegadamente considerada suficientemente grave para ser classificada como "sev 2", o que levou os engenheiros a trabalharem horas extra, incluindo noites e fins-de-semana, para resolver o problema.
Em resposta à especulação, um porta-voz da Amazon afirmou que não foram detectadas quaisquer violações de segurança devido a este incidente. O porta-voz sublinhou o compromisso da empresa em aperfeiçoar continuamente o Amazon Q, especialmente à medida que este passa de um produto de pré-visualização para a disponibilidade geral.
Contrariando os documentos internos, um porta-voz da DCD declarou que a Amazon Q não divulgou qualquer informação confidencial.
Amazon Q é o novo chatbot da Amazon centrado nas empresas, que apresenta entre as suas principais características uma segurança sofisticada e a soberania dos dados para os utilizadores empresariais.
No entanto, os documentos internos indicam que a Amazon Q forneceu informações enganosas sobre vários tópicos, causando descontentamento entre os primeiros utilizadores e preocupações entre os funcionários da Amazon, como evidenciado pelos comentários partilhados nos canais internos do Slack.
Um funcionário mostrou-se preocupado com as respostas do chatbot, que poderiam expor a Amazon a responsabilidades legais. Nenhum destes factos foi oficialmente confirmado.
A Amazon é conhecida por manter uma confidencialidade rigorosa sobre a localização dos seus centros de dados.
Em 2018, a WikiLeaks divulgou documentos internos da Amazon que descreviam as localizações dos seus centros de dados a partir de 2015. Desde então, as localizações exactas de todos os centros de dados da Amazon não foram divulgadas, exceto nos casos em que foram reveladas através de relatórios de documentos de planeamento.
Isto faz lembrar um pouco a demonstração do Bard pelo Google, pela primeira vez em público, para depois cometer um erro factual grave sobre o telescópio James Webb, que a IA disse "ter tirado as primeiras fotografias de um planeta fora do nosso sistema solar". Isto estava incorreto.
Alucinações e erros de IA são uma coisa, mas a fuga de informação sensível é outra.
