Amazons nye AI-chatbot, Amazon Q, har angivelig lekket intern informasjon i en serie med alvorlige hallusinasjoner.
Interne dokumenter, som ble innhentet av Plattformspillavslører at chatboten utilsiktet har avslørt konfidensiell informasjon.
Dette inkluderer plasseringen av Amazon Web Services (AWS) datasentre, detaljer om interne rabattprogrammer og funksjoner som ennå ikke er offentliggjort.
Situasjonen ble angivelig vurdert som alvorlig nok til å bli klassifisert som "sev 2", noe som førte til at ingeniørene måtte jobbe overtid, inkludert netter og helger, for å løse problemet.
Som svar på spekulasjonene sa en talsperson fra Amazon at ingen sikkerhetsbrudd hadde blitt oppdaget på grunn av denne hendelsen. De understreket selskapets forpliktelse til kontinuerlig å forbedre Amazon Q, spesielt etter hvert som det går fra et forhåndsvisningsprodukt til generell tilgjengelighet.
I strid med de interne dokumentene uttalte en talsperson for DCD at Amazon Q ikke har lekket noen konfidensiell informasjon.
Amazon Q er Amazons nye forretningssentrerte chatbot, som blant sine hovedfunksjoner kan skilte med sofistikert sikkerhet og datasuverenitet for forretningsbrukere.
De interne dokumentene indikerer imidlertid at Amazon Q har gitt misvisende informasjon om ulike emner, noe som har skapt misnøye blant tidlige brukere og bekymring blant Amazons ansatte, noe som fremgår av kommentarer som er delt i interne Slack-kanaler.
En ansatt uttrykte bekymring over chatbotens svar, som potensielt kan utsette Amazon for juridiske forpliktelser. Ingenting av dette er offisielt bekreftet.
Amazon er kjent for å opprettholde streng konfidensialitet om sine datasentre.
I 2018 offentliggjorde WikiLeaks interne Amazon-dokumenter som viste hvor datasentrene var lokalisert i 2015. Siden den gang har den nøyaktige plasseringen av alle Amazons datasentre forblitt hemmelig, med unntak av tilfeller der de har blitt avslørt gjennom rapporter om planleggingsdokumenter.
Dette minner litt om da Google demonstrerte Bard for første gang i offentligheten, men så gjorde en alvorlig faktafeil om James Webb-teleskopet, som AI-en sa "tok de aller første bildene av en planet utenfor vårt eget solsystem". Dette var feil.
AI-hallusinasjoner og bommerter er én ting, men å lekke sensitiv informasjon er noe helt annet.
