Snapchat è sotto esame da parte dell'Information Commissioner's Office (ICO) del Regno Unito per i potenziali rischi per la privacy dei bambini posti dal suo chatbot AI.
Il L'ICO ha sollevato preoccupazioni sulla funzione "My AI" di Snapchat, avvertendo che potrebbe essere chiusa nel Regno Unito in attesa di ulteriori revisioni.
Lo strumento "My AI" di Snapchat consente agli utenti di conversare con un computer che emula l'interazione umana. Ad alimentare questa funzione è ChatGPT, uno strumento di IA all'avanguardia noto per la sua imitazione realistica delle risposte umane.
Una delle principali preoccupazioni di "My AI" riguarda la base di utenti più giovani e la loro capacità di comprendere le implicazioni della raccolta dei dati.
Nel Regno Unito, Snapchat vanta 21 milioni di utenti, un numero significativo dei quali sono minorenni. La preoccupazione principale dell'ICO riguarda le implicazioni per la privacy degli utenti di età compresa tra i 13 e i 17 anni.
L'IA ha attirato un'attenzione indesiderata quando ha ha subito "un'interruzione' e ha pubblicato una foto misteriosa nelle storie di milioni di utenti.
Qualcun altro ha postato su Snapchat My AI nella sua storia? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16 agosto 2023
Una volta che My AI è tornata online, ha dichiarato: "Il post era un 'modo divertente per mescolare le cose'", definendolo uno "scherzo spettrale" che era "esilarante".
Montaggio a pressione su Snap
In seguito a un avviso preliminare dell'ICO, Snap ha risposto affermando il proprio impegno a collaborare con l'autorità di regolamentazione. Ha inoltre sottolineato che prima di lanciare il chatbot è stata condotta una valutazione legale e della privacy completa.
Tuttavia, l'ICO ha chiarito che le sue attuali osservazioni non sono conclusive.
L'avviso attuale serve a ricordare a Snap di garantire che "My AI" sia conforme agli standard di protezione dei dati, tra cui il Codice del design per bambiniche delinea 15 standard per la protezione dei dati online dei bambini.
L'ICO ha sottolineato che se emette un avviso di esecuzione definitivo, Snap potrebbe essere limitata nell'offerta della funzione "My AI" alla sua base di utenti del Regno Unito fino a quando non effettuerà una valutazione soddisfacente dei rischi.
Descritto dall'azienda come "un chatbot sperimentale e amichevole", "My AI" è stato progettato per agire come assistente personale per ogni utente di Snapchat. Evan Spiegel, CEO di Snap, afferma che la funzione è testimone di oltre due milioni di interazioni giornaliere.
Da quando è stato rilasciato, Snapchat riconosce che il chatbot si è evoluto, ma a volte commette degli errori. L'azienda consiglia agli utenti di non affidarsi esclusivamente ai consigli del chatbot.
Sono inoltre aumentate le preoccupazioni circa la possibilità che il bot possa accedere a dettagli privati, come i dati di localizzazione. Tuttavia, Snapchat assicura che le informazioni sulla posizione sono accessibili solo con il consenso dell'utente.
John Edwards, Commissario per l'Informazione, ha dichiarato: "I risultati provvisori della nostra indagine suggeriscono una preoccupante incapacità di Snap di identificare e valutare adeguatamente i rischi per la privacy dei bambini e degli altri utenti prima di lanciare My AI".
Ha inoltre espresso l'impegno dell'ICO a salvaguardare i diritti alla privacy dei consumatori britannici, sottolineando la possibilità di azioni rigorose contro potenziali violazioni.
Nei casi più gravi, l'ICO può imporre multe fino a 17,5 milioni di sterline o al 4% del fatturato globale dell'anno precedente di un'azienda, a seconda di quale sia il maggiore.
Un portavoce di Snap ha risposto: "Stiamo esaminando attentamente la decisione provvisoria dell'ICO. Ci impegniamo a proteggere la privacy dei nostri utenti. Continueremo a lavorare in modo costruttivo con l'ICO per assicurarci che sia a suo agio con le nostre procedure di valutazione del rischio".
Il prossimo passo consentirà a Snap di rispondere alle preoccupazioni dell'ICO prima di prendere una decisione definitiva.
