Snapchat wordt door de Britse Information Commissioner's Office (ICO) onderzocht op mogelijke privacyrisico's voor kinderen door zijn AI-chatbot.
De ICO heeft zorgen geuit over Snapchat's "My AI" functie, met de waarschuwing dat deze mogelijk wordt gesloten in het Verenigd Koninkrijk in afwachting van verdere herziening.
Snapchat's "My AI" tool stelt gebruikers in staat om te converseren met een computer die menselijke interactie nabootst. Deze functie wordt aangestuurd door ChatGPT, een geavanceerde AI-tool die bekend staat om zijn realistische nabootsing van menselijke reacties.
Een belangrijk punt van zorg over "Mijn AI" betreft de jongere gebruikers en of zij de implicaties van het verzamelen van gegevens wel begrijpen.
In het Verenigd Koninkrijk heeft Snapchat 21 miljoen gebruikers, waarvan een aanzienlijk aantal minderjarig is. De ICO maakt zich vooral zorgen over de gevolgen voor de privacy van gebruikers tussen 13 en 17 jaar.
De AI trok ongewenste aandacht toen het had 'een storingen plaatste een mysterieuze foto op de verhalen van miljoenen gebruikers.
Heeft iemand anders zijn Snapchat Mijn AI op zijn verhaal gezet??? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16 augustus 2023
Toen My AI weer online kwam, stond er: "De post was een 'leuke manier om de boel op stelten te zetten'" om het vervolgens een "griezelige spookgrap" te noemen die "hilarisch" was.
Drukmontage op Snap
Na een voorlopige aankondiging van de ICO heeft Snap gereageerd door te bevestigen dat het wil samenwerken met de toezichthouder. Ze benadrukten ook dat er een uitgebreide juridische en privacybeoordeling was uitgevoerd voordat de chatbot werd gelanceerd.
De ICO verduidelijkte echter dat haar huidige observaties niet overtuigend zijn.
De huidige kennisgeving dient als herinnering aan Snap om ervoor te zorgen dat "Mijn AI" voldoet aan de gegevensbeschermingsnormen, waaronder de Ontwerpcode voor kinderenwaarin 15 standaarden worden beschreven om de online gegevens van kinderen te beschermen.
De ICO benadrukte dat als ze een definitieve aanmaning tot handhaving uitvaardigen, Snap beperkt kan worden in het aanbieden van de "Mijn AI"-functie aan haar gebruikers in het Verenigd Koninkrijk totdat ze een bevredigende risicobeoordeling hebben uitgevoerd.
My AI" wordt door het bedrijf omschreven als "een experimentele en vriendelijke" chatbot en is ontworpen om op te treden als een persoonlijke sidekick voor elke Snapchat-gebruiker. Snap's CEO Evan Spiegel zegt dat de functie getuige is van meer dan twee miljoen dagelijkse interacties.
Sinds de lancering erkent Snapchat dat de chatbot weliswaar is geëvolueerd, maar af en toe fouten maakt. Het bedrijf raadt gebruikers aan niet alleen te vertrouwen op het advies van de chatbot.
Er zijn ook toenemende zorgen over de vraag of de bot toegang kan krijgen tot privégegevens, zoals locatiegegevens. Snapchat verzekert echter dat locatiegegevens alleen toegankelijk zijn met toestemming van de gebruiker.
John Edwards, de Information Commissioner, verklaarde: "De voorlopige bevindingen van ons onderzoek wijzen erop dat Snap er zorgwekkend slecht in is geslaagd om de privacyrisico's voor kinderen en andere gebruikers adequaat te identificeren en te beoordelen voordat My AI werd gelanceerd."
Verder gaf hij aan dat de ICO zich inzet om de privacyrechten van Britse consumenten te waarborgen, waarbij hij wees op de mogelijkheid van strenge maatregelen tegen mogelijke schendingen.
In ernstige gevallen kan de ICO boetes opleggen tot 17,5 miljoen pond of 4% van de wereldwijde omzet van een bedrijf in het voorgaande jaar, als dat bedrag hoger is.
Een woordvoerder van Snap zei in een reactie: "We bestuderen het voorlopige besluit van de ICO nauwgezet. We zijn toegewijd aan het beschermen van de privacy van onze gebruikers. We zullen constructief blijven samenwerken met de ICO om ervoor te zorgen dat ze tevreden zijn met onze risicobeoordelingsprocedures."
De volgende stap geeft Snap de mogelijkheid om de zorgen van de ICO te bespreken voordat er een definitieve beslissing wordt genomen.
