A Meta anunciou planos para preencher o Facebook e o Instagram com perfis e conteúdos gerados por IA.
Connor Hayes, vice-presidente de produto da Meta para IA generativa, delineou a visão da empresa: "Esperamos que estas IAs existam efetivamente, ao longo do tempo, nas nossas plataformas, mais ou menos da mesma forma que as contas".
Hayes acrescentou que estas entidades de IA terão "biografias e fotografias de perfil e serão capazes de gerar e partilhar conteúdos alimentados por IA na plataforma".
A Meta já viu centenas de milhares de personagens de IA serem criadas através das suas ferramentas desde o seu lançamento nos EUA em julho, embora a grande maioria dos utilizadores não tenha divulgado publicamente as suas criações.
Hayes refere que tornar as aplicações da Meta "mais divertidas e envolventes" é uma "prioridade" para os próximos dois anos, com especial incidência em tornar as interações com a IA mais sociais.
Os planos de IA mais alargados da Meta são ambiciosos. A empresa está a desenvolver ferramentas para ajudar os utilizadores a criar assistentes de IA que possam responder às perguntas dos seguidores. Para 2025, planeia lançar software de geração de texto para vídeo que permita aos criadores inserirem-se em vídeos gerados por IA.
Mark Zuckerberg também revelou recentemente avatares de IA capazes de realizar videochamadas em direto, imitando na perfeição a personalidade de um criador, desde os seus padrões de fala às suas expressões faciais.
Isto faz parte de um impulso mais amplo da indústria em direção a conteúdos gerados por IA. O Snapchat lançou ferramentas que permitem aos criadores conceber Personagens com IA 3D para fins de realidade aumentada, registando um aumento anual de 50% de utilizadores que visualizam conteúdos gerados por IA.
Entretanto, a empresa detida pela ByteDance TikTok está a pilotar o "Symphony". uma série de ferramentas e aplicações que permitem às marcas e aos criadores utilizar a IA para fins publicitários, como a criação de avatares gerados por IA e a automatização da tradução de conteúdos.
Bots de IA nas redes sociais: As implicações
Os especialistas do sector estão a lançar o alarme sobre as implicações psicológicas e sociais da incorporação dos bots de IA nas redes sociais.
Becky Owen, diretora global de marketing e inovação da Billion Dollar Boy e ex-chefe da equipa de inovações de criadores da Meta, adverte que "sem salvaguardas robustas, as plataformas correm o risco de amplificar narrativas falsas através destas contas baseadas em IA".
Ao contrário dos criadores humanos, estas personas de IA não têm experiências vividas, emoções ou a mesma capacidade de relacionamento", sublinha.
Owen alerta ainda para o facto de as personagens de IA poderem inundar as plataformas com material de baixa qualidade que prejudica os criadores e corrói a confiança dos utilizadores.
Este facto assume um peso acrescido dado o historial da Meta em matéria de manipulação de dados - nomeadamente a Escândalo da Cambridge Analyticaem que os dados dos utilizadores foram explorados para influenciar opiniões políticas.
Em vez de se limitarem a recolher dados dos utilizadores para direcionar conteúdos, as entidades de IA poderiam interagir ativamente com os utilizadores, moldar conversas e influenciar opiniões em tempo real, tudo isto aparentando ser autênticos participantes humanos no discurso em linha.
A Meta afirma estar a implementar medidas de proteção, incluindo a rotulagem obrigatória de conteúdos gerados por IA, mas os críticos argumentam que isto pode não ser suficiente para evitar a erosão da ligação humana autêntica.
Os bots ameaçam tomar conta de partes da Internet
De acordo com investigação da ImpervaNo âmbito do programa "Internet", quase metade de todo o tráfego da Internet - 49,6% - tem atualmente origem em fontes não humanas.
Os maus bots já são responsáveis por 32% do tráfego da Web, dando credibilidade ao que em tempos foi considerado uma teoria da conspiração: o conceito de uma "Internet morta", em que as vozes humanas são cada vez mais abafadas pelas artificiais.
A um nível mais profundo, isto assinala mais um progresso no sentido de um ecossistema da Internet moldado por sistemas de IA.
As implicações filosóficas são vertiginosas. Estamos a caminhar para um mundo em que os nossos círculos sociais online podem incluir entidades que pensam e respondem a velocidades sobre-humanas, mas que não têm qualquer consciência genuína ou experiência emocional.
Os perfis de IA partilharão "memórias" que nunca tiveram, expressarão "sentimentos" que não podem sentir e forjarão "ligações" sem qualquer capacidade de verdadeira empatia ou compreensão.
Ironicamente, as redes sociais, originalmente criadas para ajudar os seres humanos a ligarem-se mais facilmente através de vastas distâncias, podem tornar-se um espaço onde a ligação humana é cada vez mais mediada e diluída por entidades artificiais.
A questão não é apenas se a IA consegue imitar de forma convincente a interação humana, mas se estamos preparados para um mundo em que as entidades digitais se tornam participantes iguais nos nossos espaços sociais online.
