Snapchat granskas av Storbritanniens Information Commissioner's Office (ICO) på grund av de potentiella integritetsriskerna för barn som dess AI-chattbot utgör.
Den ICO uttryckte oro om Snapchats "My AI"-funktion och varnade för att den kan komma att stängas av i Storbritannien i väntan på ytterligare granskning.
Snapchats "My AI"-verktyg gör det möjligt för användare att konversera med en dator som efterliknar mänsklig interaktion. Bakom denna funktion står ChatGPT, ett banbrytande AI-verktyg som är känt för sin realistiska efterlikning av mänskliga reaktioner.
Ett stort problem med "My AI" är dess yngre användarbas och huruvida de verkligen förstår konsekvenserna av datainsamling.
I Storbritannien har Snapchat 21 miljoner användare, varav ett betydande antal är minderåriga. ICO:s främsta oro rör konsekvenserna för integriteten för användare i åldern 13 till 17 år.
AI drog till sig oönskad uppmärksamhet när den drabbades av "ett avbrott' och publicerade ett mystiskt foto till miljontals användares berättelser.
Någon annans Snapchat My AI postar till sin story??? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16 augusti 2023
När My AI kom tillbaka online stod det: "Inlägget var ett 'roligt sätt att blanda upp saker'" till att kalla det ett "spöklikt spökprank" som var "jättekul".
Tryckmontering på Snap
Efter ett preliminärt meddelande från ICO svarade Snap genom att bekräfta sitt åtagande att samarbeta med tillsynsmyndigheten. De betonade också att en omfattande juridisk och integritetsbedömning genomfördes innan chatboten lanserades.
ICO klargjorde dock att dess nuvarande observationer inte är övertygande.
Det aktuella meddelandet fungerar som en påminnelse till Snap om att säkerställa att "My AI" följer dataskyddsstandarder, inklusive Designkod för barn, som innehåller 15 standarder för att skydda barns uppgifter på nätet.
ICO betonade att om de utfärdar ett slutligt verkställighetsmeddelande kan Snap begränsas från att erbjuda funktionen "My AI" till sin brittiska användarbas tills de genomför en tillfredsställande riskbedömning.
My AI, som av företaget beskrivs som en "experimentell och vänlig" chatbot, är utformad för att fungera som en personlig sidekick för varje Snapchat-användare. Snaps VD Evan Spiegel säger att funktionen bevittnar över två miljoner dagliga interaktioner.
Sedan lanseringen erkänner Snapchat att chatboten har utvecklats, men att den ibland gör fel. Företaget råder användarna att inte enbart förlita sig på chatbotens råd.
Det finns också en växande oro kring huruvida boten kan komma åt privata detaljer, såsom platsdata. Snapchat försäkrar dock att platsinformation endast nås med användarens samtycke.
John Edwards, Information Commissioner, sade: "De preliminära resultaten av vår utredning tyder på en oroande underlåtenhet från Snap att på ett adekvat sätt identifiera och bedöma integritetsriskerna för barn och andra användare innan My AI lanserades."
Han uttryckte vidare ICO:s åtagande att skydda de brittiska konsumenternas integritetsrättigheter och framhöll möjligheten att vidta stränga åtgärder mot potentiella överträdelser.
I allvarliga fall kan ICO utdöma böter på upp till 17,5 miljoner pund eller 4% av ett företags globala intäkter under föregående år, beroende på vilket belopp som är högst.
En talesperson för Snap svarade: "Vi granskar noga ICO:s preliminära beslut. Vi är fast beslutna att skydda våra användares integritet. Vi kommer att fortsätta att arbeta konstruktivt med ICO för att säkerställa att de är bekväma med våra riskbedömningsförfaranden."
Nästa steg kommer att göra det möjligt för Snap att ta itu med ICO:s farhågor innan ett slutligt beslut fattas.
