Amazons nye AI-chatbot, Amazon Q, har efter sigende lækket interne oplysninger i en række alvorlige hallucinationer.
Interne dokumenter, som blev indhentet af Platformspilafsløre, at chatbotten utilsigtet har videregivet fortrolige oplysninger.
Dette omfatter placeringen af Amazon Web Services (AWS) datacentre, detaljer om interne rabatprogrammer og funktioner, der endnu ikke er frigivet til offentligheden.
Situationen blev angiveligt anset for at være alvorlig nok til at blive klassificeret som "sev 2", hvilket fik ingeniørerne til at arbejde over, også om natten og i weekenden, for at løse problemet.
Som svar på spekulationerne sagde en talsmand fra Amazon, at der ikke var blevet opdaget nogen sikkerhedsbrud på grund af denne hændelse. De understregede virksomhedens forpligtelse til løbende at forbedre Amazon Q, især når det går fra at være et preview-produkt til at være generelt tilgængeligt.
I modstrid med de interne dokumenter udtalte en talsmand for DCD, at Amazon Q ikke har lækket nogen fortrolige oplysninger.
Amazon Q er Amazons nye forretningsorienterede chatbot, som blandt sine hovedfunktioner har sofistikeret sikkerhed og datasuverænitet for forretningsbrugere.
Men de interne dokumenter viser, at Amazon Q har givet misvisende oplysninger om forskellige emner, hvilket har skabt utilfredshed blandt tidlige brugere og bekymring blandt Amazons medarbejdere, som det fremgår af kommentarer, der er delt i interne Slack-kanaler.
En medarbejder udtrykte bekymring over chatbottens svar, som potentielt kunne udsætte Amazon for juridiske forpligtelser. Intet af dette er blevet officielt bekræftet.
Amazon er kendt for at opretholde streng fortrolighed om sine datacentres placeringer.
I 2018 frigav WikiLeaks interne Amazon-dokumenter, der beskrev placeringen af deres datacentre fra 2015. Siden da har de nøjagtige placeringer af alle Amazons datacentre ikke været offentliggjort, bortset fra tilfælde, hvor de er blevet afsløret gennem rapporter om planlægningsdokumenter.
Det minder lidt om, da Google demonstrerede Bard for første gang offentligt, men så begik en alvorlig faktuel fejl om James Webb-teleskopet, som AI'en sagde "tog de allerførste billeder af en planet uden for vores eget solsystem". Dette var ikke korrekt.
AI-hallucinationer og fejltrin er én ting, men at lække følsomme oplysninger er noget andet.
