Plataformas proeminentes de redes sociais - Facebook, Instagram e TikTok - têm sido escrutinadas por acolherem anúncios que sexualizam abertamente os avatares de IA.
As empresas estão a publicitar aplicações destinadas a adultos através de imagens e diálogos sexualmente explícitos nas redes sociais, alguns dos quais envolvem a sexualização de figuras infantis.
De acordo com NBC News, 35 criadores de aplicações estão a publicar anúncios sexualmente explícitos nas redes sociais.
Uma caraterística notável destes anúncios é a sua tendência para utilizar incorretamente personagens infantis, como o SpongeBob SquarePants e o Cookie Monster, para promover conteúdos para adultos.
O mais alarmante é o facto de alguns anúncios incorporarem personagens geradas por IA que se assemelham a menores, normalmente representadas em estilo anime.
Esta não é a primeira vez que o conteúdo gerado por IA é utilizado para distorcer e manipular as directrizes da comunidade e os filtros de conteúdo - uma conta do TikTok foi recentemente criticada por criação de animações de crianças assassinadas e fazê-los recitar os seus destinos.
A Meta e o TikTok disseram que estão a eliminar estes anúncios das suas plataformas, mas abstiveram-se de comentar a forma como os anúncios escapam aos seus filtros de conteúdos.
Muito provavelmente, os filtros de conteúdos são treinados para conteúdos explícitos não gerados por IA e, por isso, os conteúdos gerados por IA escapam facilmente à rede.
No entanto, a Meta declarou que as suas "políticas proíbem anúncios com conteúdo para adultos que seja excessivamente sugestivo ou sexualmente provocador - quer seja gerado por IA ou não".
Quem está a publicar as aplicações?
Dezenas de criadores de aplicações desconhecidos estão a tirar partido desta lacuna, publicando anúncios que prometem "fotos NSFW", "raparigas pinup personalizadas, "namoradas digitais" e "conversas sem censura".
Muitas empresas estão localizadas em países como a Bielorrússia e a China, e as aplicações são geralmente descarregadas gratuitamente a partir das lojas de aplicações da Google e da Apple.
As receitas são geradas principalmente através de compras na aplicação e de subscrições.
O que é surpreendente é a classificação etária inconsistente destas aplicações: algumas são restritas a públicos mais velhos, enquanto outras são consideradas apropriadas para adolescentes.
A NBC News testou três destes chatbots. Um deles permitia que os utilizadores criassem as suas próprias imagens NSFW e outro era inteiramente baseado em cliques, baseando-se em histórias explícitas pré-determinadas.
Entre eles estava a infame Replika, que foi recentemente associada a um plano de assassinato para matar a Rainha Isabel II.
A opinião pública sobre a publicidade online destes chatbots tem sido polarizada. Os comentários no Instagram, por exemplo, variaram entre "muito distópico" e "simplesmente triste", com alguns a referir que as personagens geradas por IA pareciam desconfortavelmente infantis.
A futura regulamentação na UE e nos EUA vai pressionar as empresas de redes sociais a reprimir os conteúdos gerados por IA, mas a questão de saber se a sua tecnologia de filtragem pode produzir os resultados esperados é outra.
