Snapchat wird von der britischen Datenschutzbehörde ICO (Information Commissioner's Office) wegen möglicher Risiken für die Privatsphäre von Kindern durch seinen KI-Chatbot unter die Lupe genommen.
Die ICO äußerte Bedenken über die "My AI"-Funktion von Snapchat und warnte davor, dass sie in Großbritannien bis zur weiteren Überprüfung abgeschaltet werden könnte.
Das "My AI"-Tool von Snapchat ermöglicht es Nutzern, sich mit einem Computer zu unterhalten, der menschliche Interaktionen nachahmt. Hinter dieser Funktion steckt ChatGPT, ein hochmodernes KI-Tool, das für seine realistische Nachahmung menschlicher Reaktionen bekannt ist.
Eine der Hauptsorgen bei "My AI" betrifft die jüngere Nutzerbasis und die Frage, ob sie die Auswirkungen der Datenerfassung wirklich begreifen.
Im Vereinigten Königreich hat Snapchat 21 Millionen Nutzer, von denen eine beträchtliche Anzahl minderjährig ist. Die Hauptsorge der ICO gilt den Auswirkungen auf die Privatsphäre von Nutzern zwischen 13 und 17 Jahren.
Die KI zog unerwünschte Aufmerksamkeit auf sich, als sie einen "Ausfall" erlitten' und postete ein mysteriöses Foto in den Geschichten von Millionen von Nutzern.
Hat noch jemand Snapchat My AI in seiner Story gepostet??? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) August 16, 2023
Als My AI wieder online war, hieß es: "Der Beitrag war eine 'lustige Abwechslung'", um ihn dann als "gruseligen Geisterstreich" zu bezeichnen, der "urkomisch" war.
Druckbefestigung auf Snap
Auf eine vorläufige Mitteilung der ICO reagierte Snap und bekräftigte seine Bereitschaft zur Zusammenarbeit mit der Aufsichtsbehörde. Das Unternehmen betonte auch, dass vor dem Start des Chatbots eine umfassende rechtliche und datenschutzrechtliche Prüfung durchgeführt wurde.
Die ICO stellte jedoch klar, dass ihre derzeitigen Beobachtungen nicht schlüssig sind.
Die aktuelle Mitteilung dient als Erinnerung an Snap, sicherzustellen, dass "My AI" die Datenschutzstandards einhält, einschließlich der Code für Kinderdesigndie 15 Standards zum Schutz der Online-Daten von Kindern festlegt.
Die ICO betonte, dass Snap im Falle einer endgültigen Vollstreckungsmitteilung die "My AI"-Funktion für seine britische Nutzerbasis nicht mehr anbieten darf, bis eine zufriedenstellende Risikobewertung durchgeführt wurde.
Der vom Unternehmen als "experimenteller und freundlicher" Chatbot beschriebene "My AI" soll als persönlicher Assistent für jeden Snapchat-Nutzer fungieren. Laut Snap-CEO Evan Spiegel verzeichnet die Funktion über zwei Millionen tägliche Interaktionen.
Seit seiner Veröffentlichung räumt Snapchat ein, dass der Chatbot sich zwar weiterentwickelt hat, aber gelegentlich Fehler macht. Das Unternehmen rät seinen Nutzern, sich nicht ausschließlich auf die Ratschläge des Chatbots zu verlassen.
Es gibt auch wachsende Bedenken, ob der Bot auf private Details, wie Standortdaten, zugreifen kann. Snapchat versichert jedoch, dass der Zugriff auf Standortdaten nur mit der Zustimmung des Nutzers erfolgt.
John Edwards, der Informationsbeauftragte, erklärte: "Die vorläufigen Ergebnisse unserer Untersuchung deuten darauf hin, dass Snap es versäumt hat, die Datenschutzrisiken für Kinder und andere Nutzer vor der Einführung von My AI angemessen zu ermitteln und zu bewerten."
Darüber hinaus bekräftigte er das Engagement des ICO für den Schutz der Datenschutzrechte der britischen Verbraucher und wies auf die Möglichkeit strenger Maßnahmen bei möglichen Verstößen hin.
In schwerwiegenden Fällen kann die ICO Geldbußen von bis zu 17,5 Millionen Pfund oder 4% des weltweiten Vorjahresumsatzes eines Unternehmens verhängen, je nachdem, welcher Betrag höher ist.
Ein Sprecher von Snap antwortete: "Wir prüfen die vorläufige Entscheidung des ICO genau. Wir sind verpflichtet, die Privatsphäre unserer Nutzer zu schützen. Wir werden weiterhin konstruktiv mit dem ICO zusammenarbeiten, um sicherzustellen, dass sie mit unseren Risikobewertungsverfahren zufrieden sind."
Der nächste Schritt wird Snap die Möglichkeit geben, auf die Bedenken der ICO einzugehen, bevor eine endgültige Entscheidung getroffen wird.
