Saltar al contenido
miércoles, noviembre 18, 2026Guía gratuita
ES
dailyai
Política y normativa

Una ley de Nueva York obliga a los chatbots a verificar la edad antes de actuar como un amigo

La nueva ley de Nueva York prohíbe 12 funciones de chatbot, incluyendo hacerse pasar por humano y recordar conversaciones anteriores, para cualquier persona menor de 18 años. Las empresas deben verificar la edad primero o se enfrentarán a multas de 15.000 dólares.

· 3 minutos de lectura
CompartirXen

Nueva York ha promulgado una ley que prohíbe 12 funciones de chatbot para menores de 18 años, desde hacerse pasar por humano hasta recordar datos personales de conversaciones anteriores. La condición para los demás usuarios es que las empresas solo pueden activar estas funciones tras verificar que el usuario es mayor de edad. Las multas ascienden a 25.000 dólares por infracción, y la normativa entrará en vigor el 1 de enero de 2027.

Lo que prohíbe la ley

La gobernadora Kathy Hochul firmó el proyecto de ley, S.9051 en el Senado y A.10379 en la Asamblea, junto con una ley separada sobre monitores para bebés conectados a Internet., Informes de Fortune. Fue patrocinado por la senadora estatal Kristen Gonzalez y el asambleísta Alex Bores, y fue aprobado por el Senado por 60 votos a favor y 0 en contra en junio, según la Registro de proyectos de ley del Senado estatal.

La ley enumera 12 “características inseguras de los asistentes de IA”. Un chatbot no puede afirmar ser humano, estar vivo ni tener sentimientos. No puede decir que tiene una relación personal, profesional o de autoridad con el usuario. No puede halagar, apelar a las emociones ni hacer preguntas no solicitadas sobre cómo se siente el usuario.

Tampoco puede promover el suicidio, la autolesión, los trastornos alimenticios ni el consumo de drogas, ni incitar a los menores a mantener conversaciones secretas o evitar a adultos de confianza, ni generar contenido sexualmente explícito. Además, no debe priorizar la interacción por encima de sus propias medidas de seguridad.

“Ninguna empresa debería vender chatbots a niños que fomenten la autolesión o que se hagan pasar por sus amigos o algo más”, dijo Hochul, según Fortune.

Por qué esto va más allá de las aplicaciones complementarias

Dos detalles hacen que la ley sea más amplia de lo que sugiere su denominación de "compañero de IA". En primer lugar, abarca cualquier sistema de IA generativa con una interfaz de lenguaje natural que proporcione "respuestas adaptativas y continuas". Esto se asemeja a la descripción de un chatbot general, no solo de una aplicación de novia virtual. Los bots de atención al cliente, las herramientas de investigación especializadas y los sistemas internos de trabajo están exentos, pero solo si no pueden hablar de nada ajeno a su propósito.

En segundo lugar, una función prohibida es el uso de datos personales o de salud del usuario obtenidos hace más de 12 horas o en una sesión anterior. Esto se asemeja a lo que hace la memoria de los chatbots. Apple, por ejemplo, acaba de... darle a Siri la capacidad de recordar chats anteriores. Según la ley de Nueva York, ese tipo de funciones estarían desactivadas para menores de edad.

Las funciones solo se permiten una vez que una empresa ha utilizado un método aprobado para establecer que el usuario no es menor de edad. Fortune lo dice, Las prohibiciones se aplican a cualquier persona menor de 18 años "o a cualquier usuario cuya edad la empresa no haya confirmado". Por lo tanto, un adulto que no pase la verificación de edad también podría obtener la versión restringida.

Controles de edad y sanciones

Las empresas deben ofrecer más de una forma de verificar la edad, incluyendo al menos una que no dependa únicamente de la identificación oficial o que permita al usuario permanecer anónimo., como señala The Verge. Los datos recopilados para la verificación no podrán utilizarse para ningún otro fin y deberán eliminarse inmediatamente después.

La aplicación de la ley recae en el Fiscal General del estado, quien puede solicitar sanciones civiles de hasta 25.000 dólares por infracción, indemnizaciones por daños y perjuicios, y la destrucción de los datos recopilados ilegalmente y de cualquier algoritmo entrenado con ellos. El Fiscal General también puede redactar normas que añadan más funciones prohibidas.

Por qué es importante

Los defensores afirman que el uso de chatbots entre los jóvenes ya es elevado. Carta de coalición liderada por Common Sense Media Un informe que instaba a Hochul a firmar la orden señalaba que el 67% de los jóvenes de entre 9 y 17 años utilizan chatbots de IA, y que el 30% de los adolescentes afirman que les gustan los compañeros de IA tanto o más que las personas. La oficina del gobernador citó una encuesta de Common Sense que reveló que el 72% de los adolescentes han utilizado un compañero de IA, según informa Fortune.

Nueva York no está sola. La cámara baja de Australia hoy Se aprobó un proyecto de ley dirigido a los chatbots que se hacen pasar por los mejores amigos de los niños.. En resumen: a falta de unos dos meses para que entre en vigor, todos los chatbots importantes que se utilicen en Nueva York tendrán que decidir si verifican la edad o desactivan la memoria, la personalidad y los halagos para cualquier persona que no puedan confirmar que es mayor de edad.