Snapchat fait l'objet d'un examen minutieux de la part de l'Information Commissioner's Office (ICO) du Royaume-Uni en raison des risques potentiels pour la vie privée des enfants posés par son chatbot d'intelligence artificielle.
Les L'ICO a exprimé des inquiétudes La Commission européenne a publié un rapport sur la fonction "My AI" de Snapchat, avertissant qu'elle pourrait être supprimée au Royaume-Uni dans l'attente d'un examen plus approfondi.
L'outil "My AI" de Snapchat permet aux utilisateurs de converser avec un ordinateur qui émule l'interaction humaine. Cette fonction est alimentée par ChatGPT, un outil d'IA de pointe connu pour son imitation réaliste des réponses humaines.
L'une des principales préoccupations concernant "My AI" porte sur la jeunesse de ses utilisateurs et sur la question de savoir s'ils comprennent vraiment les implications de la collecte de données.
Au Royaume-Uni, Snapchat compte 21 millions d'utilisateurs, dont un nombre important de mineurs. La principale préoccupation de l'ICO concerne les conséquences sur la vie privée des utilisateurs âgés de 13 à 17 ans.
L'IA a attiré l'attention de manière indésirable lorsqu'elle a subi une "panneet a posté une photo mystérieuse dans les histoires de millions d'utilisateurs.
Quelqu'un d'autre a posté sur Snapchat My AI dans sa story ? ??? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16 août 2023
Une fois que My AI est revenue en ligne, elle a déclaré que le message était une "façon amusante de mélanger les choses" et qu'il s'agissait d'une "farce de fantôme effrayant" qui était "hilarante".
Montage sous pression sur Snap
À la suite d'une notification préliminaire de l'ICO, Snap a répondu en affirmant son engagement à travailler en collaboration avec l'autorité de régulation. L'entreprise a également souligné qu'une évaluation complète des aspects juridiques et de la protection de la vie privée avait été réalisée avant le lancement du chatbot.
Toutefois, l'OIC a précisé que ses observations actuelles ne sont pas concluantes.
L'avis actuel rappelle à Snap qu'il doit veiller à ce que "My AI" soit conforme aux normes de protection des données, y compris les normes suivantes Code de conception pour les enfantsqui définit 15 normes pour protéger les données en ligne des enfants.
L'ICO a souligné que s'il émettait un avis d'exécution final, Snap pourrait se voir interdire d'offrir la fonction "My AI" à ses utilisateurs britanniques jusqu'à ce qu'il entreprenne une évaluation des risques satisfaisante.
Décrit par l'entreprise comme un chatbot "expérimental et amical", "My AI" est conçu pour agir comme un acolyte personnel pour chaque utilisateur de Snapchat. Evan Spiegel, PDG de Snap, affirme que la fonction est témoin de plus de deux millions d'interactions quotidiennes.
Depuis son lancement, Snapchat reconnaît que le chatbot a évolué, mais qu'il commet parfois des erreurs. L'entreprise conseille aux utilisateurs de ne pas se fier uniquement aux conseils du chatbot.
La question de savoir si le robot peut accéder à des données privées, telles que les données de localisation, suscite également de plus en plus d'inquiétudes. Snapchat assure toutefois que les informations de localisation ne sont accessibles qu'avec le consentement de l'utilisateur.
John Edwards, commissaire à l'information, a déclaré : "Les conclusions provisoires de notre enquête suggèrent que Snap n'a pas identifié et évalué de manière adéquate les risques pour la vie privée des enfants et des autres utilisateurs avant de lancer My AI".
Il a également fait part de l'engagement de l'ICO à sauvegarder les droits des consommateurs britanniques en matière de protection de la vie privée, en soulignant la possibilité d'actions rigoureuses contre les violations potentielles.
Dans les cas les plus graves, l'ICO peut imposer des amendes allant jusqu'à 17,5 millions de livres sterling ou 4% du chiffre d'affaires mondial de l'année précédente de l'entreprise, le montant le plus élevé étant retenu.
Un porte-parole de Snap a répondu : "Nous examinons attentivement la décision provisoire de l'ICO. Nous nous engageons à protéger la vie privée de nos utilisateurs. Nous continuerons à travailler de manière constructive avec l'ICO pour nous assurer qu'ils sont à l'aise avec nos procédures d'évaluation des risques."
La prochaine étape permettra à Snap de répondre aux préoccupations de l'ICO avant de prendre une décision finale.
