Amazons nya AI-chatbot, Amazon Q, har enligt uppgift läckt intern information i en serie svåra hallucinationer.
Interna dokument, som erhållits av Plattformsspelareavslöja att chatboten oavsiktligt har lämnat ut konfidentiell information.
Detta inkluderar platserna för Amazon Web Services (AWS) datacenter, detaljer om interna rabattprogram och funktioner som ännu inte har släppts till allmänheten.
Situationen ansågs vara tillräckligt allvarlig för att klassificeras som "sev 2", vilket ledde till att ingenjörerna fick arbeta övertid, även på nätter och helger, för att lösa problemet.
Som svar på spekulationerna sa en talesperson för Amazon att inga säkerhetsöverträdelser hade upptäckts på grund av denna incident. De betonade företagets åtagande att kontinuerligt förfina Amazon Q, särskilt när det går från en förhandsgranskningsprodukt till allmän tillgänglighet.
I motsats till de interna dokumenten uppgav en talesman för DCD att Amazon Q inte har läckt någon konfidentiell information.
Amazon Q är Amazons nya affärsinriktade chatbot, som bland sina huvudfunktioner erbjuder sofistikerad säkerhet och datasuveränitet för företagsanvändare.
De interna dokumenten visar dock att Amazon Q har tillhandahållit vilseledande information om olika ämnen, vilket har orsakat missnöje bland tidiga användare och oro bland Amazons anställda, vilket framgår av kommentarer som delats i interna Slack-kanaler.
En anställd uttryckte oro över chatbotens svar, vilket potentiellt skulle kunna utsätta Amazon för juridiska skyldigheter. Inget av detta har bekräftats officiellt.
Amazon är känt för att upprätthålla strikt sekretess om sina datacenterplatser.
År 2018 släppte WikiLeaks interna Amazon-dokument som beskrev platserna för dess datacenter från och med 2015. Sedan dess har de exakta platserna för alla Amazons datacenter förblivit hemliga, förutom i de fall där de har avslöjats genom rapporter om planeringsdokument.
Det påminner lite om när Google för första gången demonstrerade Bard offentligt, men då gjorde ett allvarligt faktafel om James Webb-teleskopet, som enligt AI:n "tog de allra första bilderna av en planet utanför vårt eget solsystem". Detta var felaktigt.
AI-hallucinationer och bloopers är en sak, men att läcka känslig information är en annan.
