El nuevo chatbot de IA de Amazon, Amazon Q, habría estado filtrando información interna en una serie de graves alucinaciones.
Documentos internos, obtenidos por Plataformasrevelan que el chatbot ha revelado inadvertidamente información confidencial.
Esto incluye las ubicaciones de los centros de datos de Amazon Web Services (AWS), detalles sobre programas de descuentos internos y características que aún no se han hecho públicas.
Al parecer, la situación se consideró lo suficientemente grave como para ser clasificada como "sev 2", lo que llevó a los ingenieros a trabajar durante más horas, incluidas noches y fines de semana, para solucionar el problema.
En respuesta a las especulaciones, un portavoz de Amazon afirmó que no se había detectado ninguna brecha de seguridad debido a este incidente. Enfatizaron el compromiso de la empresa de perfeccionar continuamente Amazon Q, sobre todo a medida que avanza desde un producto de vista previa a la disponibilidad general.
Contradiciendo los documentos internos, un portavoz de la DCD declaró que Amazon Q no ha filtrado ninguna información confidencial.
Amazon Q es el nuevo chatbot de Amazon centrado en las empresas, que cuenta entre sus características principales con una sofisticada seguridad y soberanía de datos para usuarios empresariales.
Sin embargo, los documentos internos indican que Amazon Q ha proporcionado información engañosa sobre diversos temas, causando descontento entre los primeros usuarios y preocupación entre los empleados de Amazon, como demuestran los comentarios compartidos en los canales internos de Slack.
Un empleado expresó su preocupación por las respuestas del chatbot, que podrían exponer a Amazon a responsabilidades legales. Nada de esto se ha confirmado oficialmente.
Amazon es conocida por mantener una estricta confidencialidad sobre la ubicación de sus centros de datos.
En 2018, WikiLeaks publicó documentos internos de Amazon que describían las ubicaciones de sus centros de datos a partir de 2015. Desde entonces, las ubicaciones exactas de todos los centros de datos de Amazon han permanecido sin revelar, excepto en los casos en los que se han revelado a través de informes de documentos de planificación.
Esto recuerda un poco a Google demostrando Bard por primera vez en público sólo para cometer un grave error de hecho sobre el telescopio James Webb, que la IA dijo que "tomó las primeras imágenes de un planeta fuera de nuestro propio sistema solar". Esto era incorrecto.
Una cosa son las alucinaciones y las meteduras de pata de la IA y otra la filtración de información sensible.
