El Foro Económico Mundial (FEM) ha subrayado la urgente necesidad de obtener respuestas sobre cómo afecta la IA generativa a los niños, con vistas a desarrollar políticas y normativas.
Hoy en día, la tecnología avanza deprisa, y los niños y adolescentes suelen explorarla mejor que los adultos.
Las encuestas revelan que, aunque sólo 30% de los padres han utilizado herramientas de IA como ChatGPT, 58% de niños de 12 a 18 años lo han hecho y lo han ocultado a padres y profesores.
Plataformas populares entre los niños, como Snapchat, han integrado chatbots de IA, de fácil acceso y uso.
Otras grandes empresas tecnológicas están planeando integraciones similares, lo que indica que la IA generativa podría convertirse rápidamente en una característica clave del entorno digital de los niños. A los adultos les resultará increíblemente difícil vigilar el uso que hacen los niños de la IA generativa.
En Notas del FEM que la IA generativa sí ofrece beneficios potenciales a los niños, como ayuda con los deberes, experiencias de aprendizaje personalizadas y fomento de la creatividad. Además, para los niños con discapacidad, la IA ofrece formas únicas de aprender e interactuar.
Sin embargo, a pesar de sus ventajas, la IA generativa presenta riesgos que pueden perjudicar inadvertidamente a los niños. Por ejemplo, la IA puede crear desinformación basada en texto que es más persuasiva que el contenido generado por humanos y las imágenes falsas profundas son ahora indistinguibles de las reales.
Los pedófilos ya utilizan la IA para generar imágenes de abusos a menoresy servicios como Replika ya han ha sido criticado por grupos de protección de menores por sus comportamientos sexualmente sugerentes. Replika es un sofisticado chatbot diseñado para ser un amigo o compañero digital y viene con un límite de edad de 18 años o más, aunque hay pruebas de que los usuarios no siempre lo respetan.
El uso a largo plazo de la IA generativa plantea cuestiones relativas al desarrollo infantil, los posibles sesgos, la privacidad, la protección de datos y el uso comercial de los datos de los niños.
Y luego está el no poco significativo perturbación de los sistemas educativos y el futuro mercado laboral.
¿Podemos confiar en que los centros educativos impartan la educación que los niños necesitan para prosperar en un mundo en el que la IA está integrada en casi todos los procesos? Y si la educación pivota hacia la IA, ¿qué sacrifica en el proceso?
Cy nosotros confiar en la IA como fuente primaria de información?
Necesidad de medidas políticas
El FEM subraya que las amplias repercusiones potenciales de la IA en los niños exigen una actuación urgente por parte de los responsables políticos, las empresas tecnológicas, los organismos reguladores y otras partes interesadas.
Aunque la normativa sobre IA establece disposiciones para controlar las falsificaciones profundas y la desinformación, hay muy pocas indicaciones sobre cómo deben interactuar los niños y los individuos más jóvenes con la tecnología, ya sea en casa o en entornos educativos.
Además, recopilar investigaciones basadas en pruebas al respecto en un plazo breve es excepcionalmente difícil.
Recursos existentes, como Orientaciones políticas de UNICEF sobre AI infantilproporcionan cierta orientación, pero la IA los superará rápidamente.
Quienes trabajan para proteger a los niños deben apoyar la investigación sobre los efectos de la IA generativa y defender los derechos de los niños. Debe haber una mayor transparencia, un desarrollo responsable por parte de los proveedores de IA y un apoyo a los esfuerzos mundiales para regular la IA.
Es fundamental que los desarrolladores de IA tengan en cuenta los riesgos de que su tecnología sea utilizada por niños y desarrollen métodos para detectar cuándo un niño está utilizando una herramienta.
Dado que los niños de hoy crecen con una exposición casi constante a la IA, la necesidad de políticas y normativas globales adaptadas a esta tecnología emergente es más acuciante que nunca.
