Snapchat está siendo examinada por la Oficina del Comisionado de Información del Reino Unido (ICO) por los posibles riesgos para la privacidad de los niños que plantea su chatbot de IA.
En El ICO expresó su preocupación sobre la función "Mi IA" de Snapchat, advirtiendo de que podría cerrarse en el Reino Unido a la espera de una nueva revisión.
La herramienta "Mi IA" de Snapchat permite a los usuarios conversar con un ordenador que emula la interacción humana. Para ello se utiliza ChatGPT, una herramienta de IA de vanguardia conocida por su imitación realista de las respuestas humanas.
Una de las principales preocupaciones sobre "My AI" se centra en su base de usuarios más jóvenes y en si realmente comprenden las implicaciones de la recopilación de datos.
En el Reino Unido, Snapchat cuenta con 21 millones de usuarios, un número significativo de los cuales son menores. La principal preocupación de la ICO gira en torno a las implicaciones para la privacidad de los usuarios de entre 13 y 17 años.
La IA atrajo una atención no deseada cuando sufrió "un apagón' y publicó una misteriosa foto en las historias de millones de usuarios.
¿Alguien más Snapchat Mi AI publicar en su historia??? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16 de agosto de 2023
Una vez que My AI volvió a estar en línea, dijo: "El post era una 'forma divertida de mezclar las cosas'" a llamarlo una "broma fantasma espeluznante" que era "hilarante".
Montaje a presión en Snap
Tras una notificación preliminar de la ICO, Snap respondió afirmando su compromiso de trabajar en colaboración con el regulador. También subrayó que antes de lanzar el chatbot se había llevado a cabo una exhaustiva evaluación legal y de privacidad.
Sin embargo, el ICO aclaró que sus observaciones actuales no son concluyentes.
El presente aviso sirve de recordatorio a Snap para que se asegure de que "My AI" cumple las normas de protección de datos, incluida la Código de diseño infantilque establece 15 normas para proteger los datos en línea de los niños.
La ICO subrayó que, si emite un aviso de ejecución definitivo, Snap podría ver restringida la oferta de la función "My AI" a su base de usuarios del Reino Unido hasta que realice una evaluación de riesgos satisfactoria.
Descrito por la empresa como un chatbot "experimental y amistoso", "Mi IA" está diseñado para actuar como un compañero personal de cada usuario de Snapchat. Evan Spiegel, CEO de Snap, afirma que la función registra más de dos millones de interacciones diarias.
Desde su lanzamiento, Snapchat reconoce que, aunque el chatbot ha evolucionado, de vez en cuando comete errores. La empresa aconseja a los usuarios que no confíen únicamente en los consejos del chatbot.
También está aumentando la preocupación sobre si el bot puede acceder a detalles privados, como los datos de localización. Sin embargo, Snapchat asegura que solo se accede a la información de localización con el consentimiento del usuario.
John Edwards, Comisario de Información, declaró: "Las conclusiones provisionales de nuestra investigación sugieren un preocupante fallo por parte de Snap a la hora de identificar y evaluar adecuadamente los riesgos para la privacidad de los niños y otros usuarios antes de lanzar My AI."
Expresó además el compromiso de la ICO de salvaguardar los derechos de privacidad de los consumidores británicos, destacando la posibilidad de emprender acciones rigurosas contra posibles infracciones.
En los casos graves, la ICO puede imponer multas de hasta 17,5 millones de libras o el 4% de los ingresos globales de una empresa en el año anterior, si esta cifra es superior.
Un portavoz de Snap respondió: "Estamos revisando de cerca la decisión provisional del ICO. Estamos comprometidos con la protección de la privacidad de nuestros usuarios. Seguiremos trabajando de forma constructiva con la ICO para asegurarnos de que se sienten cómodos con nuestros procedimientos de evaluación de riesgos."
El siguiente paso permitirá a Snap abordar las preocupaciones del ICO antes de tomar una decisión final.
