Il nuovo chatbot AI di Amazon, Amazon Q, avrebbe fatto trapelare informazioni interne in una serie di gravi allucinazioni.
I documenti interni, ottenuti da Piattaforma, rivelano che il chatbot ha inavvertitamente divulgato informazioni riservate.
Questo include l'ubicazione dei centri dati di Amazon Web Services (AWS), i dettagli sui programmi di sconto interni e le funzionalità non ancora rese pubbliche.
La situazione è stata ritenuta abbastanza grave da essere classificata come "sev 2", spingendo gli ingegneri a lavorare per ore, comprese le notti e i fine settimana, per risolvere il problema.
In risposta alle speculazioni, un portavoce di Amazon ha dichiarato che non è stata rilevata alcuna violazione della sicurezza a causa di questo incidente. Il portavoce ha sottolineato l'impegno dell'azienda a perfezionare continuamente Amazon Q, in particolare quando passa da un prodotto di anteprima alla disponibilità generale.
Contraddicendo i documenti interni, un portavoce di DCD ha dichiarato che Amazon Q non ha fatto trapelare alcuna informazione riservata.
Amazon Q è il nuovo chatbot di Amazon incentrato sulle aziende, che annovera tra le sue caratteristiche principali una sofisticata sicurezza e la sovranità dei dati per gli utenti aziendali.
Tuttavia, i documenti interni indicano che Amazon Q ha fornito informazioni fuorvianti su vari argomenti, causando malcontento tra gli early adopters e preoccupazioni tra i dipendenti di Amazon, come evidenziato dai commenti condivisi nei canali interni di Slack.
Un dipendente ha espresso preoccupazione per le risposte del chatbot, che potrebbero esporre Amazon a responsabilità legali. Nulla di tutto ciò è stato confermato ufficialmente.
Amazon è nota per mantenere una stretta riservatezza sulle sedi dei suoi centri dati.
Nel 2018, WikiLeaks ha pubblicato documenti interni di Amazon che delineavano l'ubicazione dei suoi data center a partire dal 2015. Da allora, l'ubicazione esatta di tutti i data center di Amazon è rimasta sconosciuta, ad eccezione dei casi in cui è stata rivelata attraverso i rapporti dei documenti di pianificazione.
Questo ricorda un po' il caso in cui Google ha mostrato per la prima volta in pubblico il Bardo, per poi commettere un grave errore di fatto sul telescopio James Webb, che secondo l'IA "ha scattato le primissime foto di un pianeta al di fuori del nostro sistema solare". Questo non era corretto.
Le allucinazioni e gli errori dell'intelligenza artificiale sono una cosa, ma la fuga di informazioni sensibili è un'altra.
