Le nouveau chatbot d'Amazon, Amazon Q, aurait divulgué des informations internes dans le cadre d'une série d'hallucinations graves.
Des documents internes, obtenus par Plate-formeLe chatbot peut alors révéler qu'il a divulgué par inadvertance des informations confidentielles.
Il s'agit notamment de l'emplacement des centres de données d'Amazon Web Services (AWS), de détails sur les programmes de réduction internes et de fonctionnalités qui n'ont pas encore été dévoilées au public.
La situation aurait été jugée suffisamment grave pour être classée "Sev 2", ce qui a incité les ingénieurs à travailler de longues heures, y compris la nuit et les week-ends, pour résoudre le problème.
En réponse aux spéculations, un porte-parole d'Amazon a déclaré qu'aucune faille de sécurité n'avait été détectée à la suite de cet incident. Il a souligné l'engagement de l'entreprise à perfectionner en permanence Amazon Q, en particulier lorsqu'il s'agit de passer d'un produit en avant-première à une disponibilité générale.
Contredisant les documents internes, un porte-parole de DCD a déclaré qu'Amazon Q n'avait divulgué aucune information confidentielle.
Amazon Q est le nouveau chatbot d'Amazon axé sur les entreprises, dont les principales caractéristiques sont une sécurité sophistiquée et la souveraineté des données pour les utilisateurs professionnels.
Toutefois, les documents internes indiquent qu'Amazon Q a fourni des informations trompeuses sur divers sujets, ce qui a provoqué le mécontentement des premiers utilisateurs et des inquiétudes parmi les employés d'Amazon, comme le montrent les commentaires partagés dans les canaux Slack internes.
Un employé a exprimé son inquiétude quant aux réponses du chatbot, qui pourraient potentiellement exposer Amazon à des responsabilités légales. Rien de tout cela n'a été officiellement confirmé.
Amazon est connu pour maintenir une stricte confidentialité sur l'emplacement de ses centres de données.
En 2018, WikiLeaks a publié des documents internes d'Amazon indiquant l'emplacement de ses centres de données en 2015. Depuis lors, les emplacements exacts de tous les centres de données d'Amazon n'ont pas été divulgués, à l'exception des cas où ils ont été révélés par des rapports de documents de planification.
Cela rappelle un peu la démonstration publique de Bard par Google, qui a commis une grave erreur factuelle à propos du télescope James Webb, dont l'IA disait qu'il avait "pris les toutes premières photos d'une planète en dehors de notre propre système solaire". Cette affirmation était erronée.
Les hallucinations et les bêtises de l'IA sont une chose, mais la fuite d'informations sensibles en est une autre.
