Amazons neuer KI-Chatbot, Amazon Q, hat Berichten zufolge in einer Reihe von schweren Halluzinationen interne Informationen preisgegeben.
Interne Dokumente, die von der Platformerzeigen, dass der Chatbot versehentlich vertrauliche Informationen preisgegeben hat.
Dazu gehören die Standorte der Rechenzentren von Amazon Web Services (AWS), Details zu internen Rabattprogrammen und Funktionen, die noch nicht für die Öffentlichkeit freigegeben sind.
Die Situation wurde angeblich als ernst genug erachtet, um als "Stufe 2" eingestuft zu werden, was dazu führte, dass die Techniker länger arbeiten mussten, auch nachts und an Wochenenden, um das Problem zu beheben.
Als Antwort auf die Spekulationen sagte ein Amazon-Sprecher, dass keine Sicherheitsverletzungen aufgrund dieses Vorfalls festgestellt wurden. Er betonte das Engagement des Unternehmens, Amazon Q kontinuierlich zu verbessern, insbesondere wenn es von einem Vorschauprodukt zur allgemeinen Verfügbarkeit übergeht.
Im Gegensatz zu den internen Dokumenten erklärte ein Sprecher von DCD, dass Amazon Q keine vertraulichen Informationen weitergegeben hat.
Amazonas Q ist Amazons neuer geschäftsorientierter Chatbot, zu dessen Hauptmerkmalen ausgefeilte Sicherheit und Datensouveränität für Geschäftskunden gehören.
Die internen Dokumente deuten jedoch darauf hin, dass Amazon Q irreführende Informationen zu verschiedenen Themen geliefert hat, was zu Unzufriedenheit bei den frühen Anwendern und zu Bedenken bei den Amazon-Mitarbeitern geführt hat, wie aus Kommentaren in internen Slack-Kanälen hervorgeht.
Ein Mitarbeiter äußerte sich besorgt über die Antworten des Chatbots, die Amazon möglicherweise einer rechtlichen Haftung aussetzen könnten. Nichts davon ist offiziell bestätigt worden.
Amazon ist dafür bekannt, die Standorte seiner Rechenzentren streng geheim zu halten.
Im Jahr 2018 veröffentlichte WikiLeaks interne Amazon-Dokumente, in denen die Standorte der Rechenzentren des Unternehmens ab 2015 aufgeführt sind. Seitdem wurden die genauen Standorte aller Amazon-Rechenzentren nicht mehr veröffentlicht, außer in Fällen, in denen sie durch Berichte über Planungsdokumente bekannt wurden.
Das erinnert ein wenig daran, dass Google Bard zum ersten Mal öffentlich vorstellte, nur um dann einen schwerwiegenden sachlichen Fehler in Bezug auf das James-Webb-Teleskop zu machen, von dem die KI sagte, es habe "die allerersten Bilder eines Planeten außerhalb unseres eigenen Sonnensystems aufgenommen". Dies war falsch.
KI-Halluzinationen und Patzer sind eine Sache, aber die Weitergabe sensibler Informationen eine andere.
