Amazon's nieuwe AI chatbot, Amazon Q, heeft naar verluidt interne informatie gelekt in een reeks ernstige hallucinaties.
Interne documenten, die werden verkregen door Platformeronthullen dat de chatbot onbedoeld vertrouwelijke informatie heeft vrijgegeven.
Dit omvat de locaties van Amazon Web Services (AWS) datacenters, details over interne kortingsprogramma's en functies die nog niet openbaar zijn gemaakt.
De situatie werd naar verluidt ernstig genoeg geacht om te worden geclassificeerd als "sev 2", waardoor technici lange uren moesten maken, inclusief nachten en weekenden, om het probleem op te lossen.
In antwoord op speculaties zei een woordvoerder van Amazon dat er geen beveiligingslekken waren ontdekt als gevolg van dit incident. Ze benadrukten dat het bedrijf zich inzet om Amazon Q voortdurend te verfijnen, vooral wanneer het van een previewproduct naar algemene beschikbaarheid gaat.
In tegenstelling tot de interne documenten verklaarde een woordvoerder van DCD dat Amazon Q geen vertrouwelijke informatie heeft gelekt.
Amazon Q is de nieuwe zakelijke chatbot van Amazon, die geavanceerde beveiliging en gegevenssoevereiniteit voor zakelijke gebruikers tot de belangrijkste kenmerken rekent.
De interne documenten geven echter aan dat Amazon Q misleidende informatie heeft verstrekt over verschillende onderwerpen, wat heeft geleid tot ontevredenheid onder early adopters en zorgen onder Amazon werknemers, zoals blijkt uit opmerkingen die zijn gedeeld in interne Slack-kanalen.
Een werknemer uitte zijn bezorgdheid over de antwoorden van de chatbot, waardoor Amazon mogelijk juridisch aansprakelijk zou kunnen worden gesteld. Niets van dit alles is officieel bevestigd.
Amazon staat erom bekend dat het de locaties van zijn datacenters strikt geheim houdt.
In 2018 gaf WikiLeaks interne Amazon-documenten vrij met een overzicht van de locaties van zijn datacenters vanaf 2015. Sindsdien zijn de exacte locaties van alle datacenters van Amazon niet bekendgemaakt, behalve in gevallen waarin ze werden onthuld via planningsdocumenten.
Dit doet een beetje denken aan Google die voor het eerst in het openbaar Bard demonstreerde en vervolgens een ernstige feitelijke fout maakte over de James Webb-telescoop, waarvan de AI zei dat deze "de allereerste foto's maakte van een planeet buiten ons eigen zonnestelsel". Dit was onjuist.
AI-hallucinaties en bloopers zijn één ding, maar het lekken van gevoelige informatie is iets anders.
