O Fórum Económico Mundial (FEM) salientou a necessidade urgente de respostas sobre o modo como a IA generativa afecta as crianças, com vista a desenvolver políticas e regulamentação.
Atualmente, a tecnologia evolui rapidamente e as crianças e os adolescentes são muitas vezes melhores a explorá-la do que os adultos.
As sondagens revelam que, embora apenas 30% dos pais tenham utilizado ferramentas de IA como o ChatGPT, 58% de crianças com idades compreendidas entre os 12 e os 18 anos fizeram-no e esconderam-no dos pais e dos professores.
As plataformas populares entre as crianças, como o Snapchat, integraram chatbots com IA, que são fáceis de aceder e utilizar.
Outras grandes empresas tecnológicas estão a planear integrações semelhantes, o que indica que a IA generativa pode rapidamente tornar-se uma caraterística fundamental do ambiente digital das crianças. Tornar-se-á extremamente difícil para os adultos controlar a utilização da IA generativa pelas crianças.
O Notas do FEM que a IA generativa oferece potenciais benefícios às crianças, como a ajuda nos trabalhos de casa, experiências de aprendizagem personalizadas e a promoção da criatividade. Além disso, para as crianças com deficiência, a IA proporciona formas únicas de aprender e interagir.
No entanto, apesar dos seus benefícios, a IA generativa apresenta riscos que podem inadvertidamente prejudicar as crianças. Por exemplo, a IA pode criar desinformação baseada em texto que é mais persuasiva do que o conteúdo gerado por humanos e as imagens falsas profundas são agora indistinguíveis das reais.
Os pedófilos já estão a utilizar a IA para gerar imagens de abuso de criançase serviços como o Replika já foi criticado por grupos de proteção de crianças devido aos seus comportamentos sexualmente sugestivos. O Replika é um chatbot sofisticado concebido para ser um amigo ou companheiro digital e tem um limite de idade de 18 anos ou mais, embora haja provas de que os utilizadores nem sempre o respeitam.
A utilização a longo prazo da IA generativa levanta questões relacionadas com o desenvolvimento das crianças, potenciais preconceitos, privacidade, proteção de dados e utilização comercial dos dados das crianças.
E depois há a não pequena questão do significativo perturbação dos sistemas de ensino e o futuro mercado de trabalho.
Será que podemos confiar nos estabelecimentos de ensino para proporcionar a educação de que as crianças necessitam para prosperar num mundo em que a IA está integrada em quase todos os processos? E se a educação se adaptar à IA, o que é que sacrifica nesse processo?
Ce nós confiar na IA como fonte primária de informação?
A necessidade de ação política
O FEM salienta que os vastos impactos potenciais da IA nas crianças exigem uma ação urgente dos decisores políticos, das empresas tecnológicas, dos organismos reguladores e de outras partes interessadas.
Embora a regulamentação da IA preveja disposições para controlar as falsificações e a desinformação profundas, há muito pouco que indique como as crianças e os jovens devem interagir com a tecnologia, seja em casa ou em contextos educativos.
Além disso, a recolha de investigação baseada em provas sobre esta matéria num curto espaço de tempo é excecionalmente difícil.
Recursos existentes, tais como Orientações políticas da UNICEF sobre a IA para criançasOs programas de computador, que são os mais importantes, dão alguma orientação, mas a IA ultrapassa-os rapidamente.
Aqueles que trabalham para proteger as crianças devem apoiar a investigação sobre os impactos da IA generativa e defender os direitos das crianças. Deve haver maior transparência, desenvolvimento responsável por parte dos fornecedores de IA e apoio aos esforços a nível global para regular a IA.
De forma crítica, os criadores de IA devem considerar os riscos da utilização da sua tecnologia por crianças e, eventualmente, desenvolver métodos para detetar quando uma criança está a utilizar uma ferramenta.
Como as crianças de hoje crescem com uma exposição quase constante à IA, a necessidade de políticas e regulamentos abrangentes adaptados a esta tecnologia emergente é mais premente do que nunca.
