Snapchat er under gransking av det britiske datatilsynet (ICO) på grunn av den potensielle personvernrisikoen for barn som AI-chatboten kan utgjøre.
Den ICO uttrykte bekymring om Snapchats "My AI"-funksjon, og advarte om at den kan bli stengt i Storbritannia i påvente av ytterligere gjennomgang.
Snapchats "My AI"-verktøy gjør det mulig for brukere å snakke med en datamaskin som etterligner menneskelig interaksjon. Bak denne funksjonen står ChatGPT, et banebrytende AI-verktøy som er kjent for sin realistiske etterligning av menneskelig respons.
En av de største bekymringene knyttet til "My AI" dreier seg om den yngre brukerbasen, og om de virkelig forstår hva datahøsting innebærer.
I Storbritannia har Snapchat 21 millioner brukere, hvorav en betydelig andel er mindreårige. ICOs primære bekymring dreier seg om personvernkonsekvensene for brukere i alderen 13 til 17 år.
Den kunstige intelligensen vakte uønsket oppmerksomhet da den ble utsatt for "et strømbrudd' og la ut et mystisk bilde til millioner av brukeres historier.
Er det noen andre som har lagt ut My AI på Snapchat? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16. august 2023
Da My AI kom tilbake på nettet, sto det: "Innlegget var en "morsom måte å blande ting på"" til å kalle det en "uhyggelig spøkelsesspøk" som var "hysterisk morsom".
Trykkmontering på Snap
Etter et foreløpig varsel fra ICO, svarte Snap med å bekrefte sin forpliktelse til å samarbeide med tilsynsmyndighetene. De understreket også at det ble gjennomført en omfattende juridisk og personvernmessig vurdering før lanseringen av chatboten.
ICO presiserte imidlertid at de nåværende observasjonene ikke er entydige.
Denne kunngjøringen fungerer som en påminnelse til Snap om å sikre at "My AI" overholder standarder for databeskyttelse, inkludert Designkode for barnsom beskriver 15 standarder for å beskytte barns data på nettet.
ICO understreket at hvis de utsteder et endelig håndhevingsvarsel, kan Snap bli forhindret fra å tilby "My AI"-funksjonen til sine brukere i Storbritannia inntil de har gjennomført en tilfredsstillende risikovurdering.
"My AI" beskrives av selskapet som "en eksperimentell og vennlig" chatbot, og er designet for å fungere som en personlig hjelper for hver Snapchat-bruker. Ifølge administrerende direktør Evan Spiegel er funksjonen vitne til over to millioner daglige interaksjoner.
Siden lanseringen har Snapchat erkjent at selv om chatboten har utviklet seg, gjør den av og til feil. Selskapet råder brukerne til ikke å stole utelukkende på chatbotens råd.
Det er også økende bekymring rundt hvorvidt boten kan få tilgang til private detaljer, som for eksempel posisjonsdata. Snapchat forsikrer imidlertid at lokasjonsinformasjon kun er tilgjengelig med brukerens samtykke.
John Edwards, informasjonskommissær, uttalte: "De foreløpige funnene i etterforskningen vår tyder på at Snap ikke i tilstrekkelig grad har identifisert og vurdert personvernrisikoen for barn og andre brukere før lanseringen av My AI."
Han ga videre uttrykk for ICOs forpliktelse til å beskytte britiske forbrukeres personvernrettigheter, og understreket muligheten for strenge tiltak mot potensielle brudd.
I alvorlige tilfeller kan ICO ilegge bøter på opptil 17,5 millioner pund eller 4% av et firmas globale inntekter året før, avhengig av hva som er høyest.
En talsperson for Snap svarte: "Vi følger nøye med på ICOs foreløpige avgjørelse. Vi er forpliktet til å beskytte personvernet til brukerne våre. Vi vil fortsette å jobbe konstruktivt med ICO for å sikre at de er komfortable med våre risikovurderingsprosedyrer."
Det neste trinnet vil gi Snap mulighet til å ta opp ICOs bekymringer før de tar en endelig avgjørelse.
