Snapchat undersøges af Storbritanniens Information Commissioner's Office (ICO) på grund af den potentielle risiko for børns privatliv, som dens AI-chatbot udgør.
Den ICO gav udtryk for bekymring om Snapchats "My AI"-funktion og advarede om, at den måske ville blive lukket ned i Storbritannien, mens man ventede på yderligere undersøgelser.
Snapchats "My AI"-værktøj giver brugerne mulighed for at tale med en computer, der efterligner menneskelig interaktion. Bag denne funktion står ChatGPT, et banebrydende AI-værktøj, der er kendt for sin realistiske efterligning af menneskelige reaktioner.
En af de største bekymringer ved "My AI" handler om den yngre brugerbase, og om de virkelig forstår konsekvenserne af datahøst.
I Storbritannien har Snapchat 21 millioner brugere, hvoraf en stor del er mindreårige. ICO's primære bekymring drejer sig om konsekvenserne for privatlivets fred for brugere i alderen 13 til 17 år.
AI'en tiltrak sig uønsket opmærksomhed, da den led 'et udfald'' og sendte et mystisk foto til millioner af brugeres historier.
Er der nogen, der har lagt et Snapchat My AI-opslag op i deres story??? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16. august 2023
Da My AI kom online igen, stod der: "Indlægget var en 'sjov måde at blande tingene sammen på'" til at kalde det en "uhyggelig spøgelsesspøg", der var "hylende morsom".
Trykmontering på Snap
Efter en foreløbig meddelelse fra ICO svarede Snap ved at bekræfte sin forpligtelse til at samarbejde med tilsynsmyndigheden. De understregede også, at der blev foretaget en omfattende juridisk og privatlivsvurdering, før chatbotten blev lanceret.
ICO har dog præciseret, at deres nuværende observationer ikke er entydige.
Den nuværende meddelelse tjener som en påmindelse til Snap om at sikre, at "My AI" overholder databeskyttelsesstandarderne, herunder Designkode for børnsom beskriver 15 standarder for at beskytte børns onlinedata.
ICO understregede, at hvis de udsteder en endelig håndhævelsesmeddelelse, kan Snap blive forhindret i at tilbyde "My AI"-funktionen til sin britiske brugerbase, indtil de har foretaget en tilfredsstillende risikovurdering.
"My AI" beskrives af virksomheden som "en eksperimentel og venlig" chatbot og er designet til at fungere som en personlig sidekick for hver Snapchat-bruger. Snaps CEO Evan Spiegel siger, at funktionen er vidne til over to millioner daglige interaktioner.
Siden udgivelsen har Snapchat erkendt, at selvom chatbotten har udviklet sig, begår den af og til fejl. Virksomheden råder brugerne til ikke udelukkende at stole på chatbottens råd.
Der er også stigende bekymring for, om boten kan få adgang til private oplysninger som f.eks. placeringsdata. Snapchat forsikrer dog, at der kun er adgang til lokationsoplysninger med brugerens samtykke.
John Edwards, informationskommissær, udtalte: "De foreløbige resultater af vores undersøgelse tyder på, at Snap ikke i tilstrækkelig grad har identificeret og vurderet risiciene for børns og andre brugeres privatliv, før de lancerede My AI."
Han udtrykte desuden ICO's forpligtelse til at beskytte de britiske forbrugeres ret til privatlivets fred og fremhævede muligheden for strenge foranstaltninger mod potentielle overtrædelser.
I alvorlige tilfælde kan ICO pålægge bøder på op til 17,5 millioner pund eller 4% af en virksomheds globale omsætning i det foregående år, alt efter hvad der er størst.
En talsmand for Snap svarede: "Vi gennemgår nøje ICO's foreløbige beslutning. Vi er forpligtet til at beskytte vores brugeres privatliv. Vi vil fortsætte med at arbejde konstruktivt sammen med ICO for at sikre, at de er trygge ved vores risikovurderingsprocedurer."
Det næste skridt vil give Snap mulighed for at imødekomme ICO's bekymringer, før der træffes en endelig beslutning.
