A IA juntou-se a temas como a Ucrânia, Putin e o conflito no Médio Oriente no Fórum Económico Mundial de 2024, em Davos.
O evento testemunhou um debate evidentemente fragmentado sobre a tecnologia, com políticos e funcionários da ONU a misturarem os seus pontos de vista com líderes do sector, como o diretor executivo da OpenAI, Sam Altman, e o diretor executivo da Microsoft, Satya Nadella.
Antes do fórum, a conferência do FEM "Relatório sobre os riscos globais 2024" colocou a desinformação e a desinformação impulsionadas pela IA na linha da frente, ultrapassando notavelmente as alterações climáticas, a guerra e a perturbação económica.
Carolina Klint, Directora Comercial para a Europa da Marsh McLennan, colaboradora do relatório, disse à CNBC do relatório, "a IA pode criar modelos para influenciar grandes populações de eleitores de uma forma que nunca vimos antes. A forma como isso se vai desenrolar vai ser muito importante para nós".
Desinformação sobre IA e interferência eleitoral foram os principais tópicos do próprio evento, com debates que ponderaram os prós da produtividade e eficiência impulsionadas pela IA contra os contras da desinformação, das falsificações profundas e de outras consequências potencialmente catastróficas.
De um modo geral, o tom deste debate mostrou uma maior concentração nos riscos a curto prazo da IA do que nas consequências mais abstractas, a longo prazo, ao nível da extinção. Com a aproximação de eleições importantes este ano, há uma ansiedade crescente sobre a forma como a IA pode ser empregue para influenciar o comportamento eleitoral.
Os representantes da indústria da IA mostraram-se por vezes cautelosamente optimistas, por vezes optimistas e por vezes cépticos quanto à capacidade da indústria para lidar com estes riscos.
Vejamos algumas das principais ideias políticas sobre IA da semana:
Secretário-Geral da ONU, António Guterres: uma posição cautelosa sobre a IA
António Guterres transmitiu uma mensagem forte sobre os riscos associados à rápida expansão da IA, criticando em particular o comportamento das grandes empresas tecnológicas.
As poderosas empresas tecnológicas já estão a procurar lucros com um desrespeito imprudente pelos direitos humanos, pela privacidade pessoal e pelo impacto social", advertiu.
Destacando as implicações mais vastas da IA, Guterres estabeleceu um paralelo entre os desafios colocados pela IA e a crise climática, salientando a falta de uma estratégia global para abordar ambas as questões.
Guterres sublinhou a necessidade urgente de uma governação colaborativa, afirmando: "Precisamos urgentemente que os governos trabalhem com as empresas tecnológicas em quadros de gestão de riscos para o desenvolvimento atual da IA; e na monitorização e mitigação de danos futuros".
Ursula von der Leyen: uma visão mais otimista
Entretanto, Ursula von der Leyen, Presidente da Comissão Europeia, apresentou uma perspetiva mais otimista sobre a IA.
No seu discurso, reconheceu os riscos potenciais, mas também sublinhou as oportunidades que a IA apresenta. Von der Leyen afirmou que "a IA é também uma oportunidade muito significativa se for utilizada de forma responsável".
Von der Leyen também destacou iniciativas para ajudar a aproveitar o potencial da IA, mencionando uma proposta para ligar as startups europeias de IA ao poder de computação dos supercomputadores do continente.
Comparou esta iniciativa à abordagem da Microsoft com o ChatGPT, dizendo: "Vamos proporcionar às empresas europeias em fase de arranque e às [pequenas e médias empresas] acesso aos nossos próprios supercomputadores de classe mundial".
Conflitos geopolíticos em torno da IA
O primeiro-ministro chinês, Li Qiang, fez um discurso de vendas para que as empresas multinacionais invistam na economia chinesa, que tem enfrentado desafios devido às prolongadas restrições comerciais impostas pelos EUA. A Nvidia, por exemplo, tem sido repetidamente bloqueado de enviar para a China as suas GPUs orientadas para a IA.
Li Qiang expressou uma posição cautelosa em relação à IA durante o seu recente discurso. Com um tom pungente, afirmou que "os seres humanos devem controlar as máquinas em vez de serem as máquinas a controlar-nos".
A IA deve ser orientada numa direção que conduza ao progresso da humanidade, pelo que deve haver uma linha vermelha no desenvolvimento da IA - uma linha vermelha que não deve ser ultrapassada", acrescentou.
Li Qiang delineou um plano de cinco pontos para melhorar a cooperação económica entre a China e o Ocidente.
Salientou a necessidade de uma maior coordenação macroeconómica, de cadeias de abastecimento sem entraves centradas na China, de uma maior colaboração em matéria de objectivos ambientais e de uma cooperação tecnológica reforçada.
Embora não tenha mencionado diretamente os EUA, aludiu repetidamente de forma negativa a nações não especificadas, referindo-se simbolicamente aos EUA.
Li pretendeu tranquilizar os investidores mundiais que se tornaram cautelosos em relação à China devido ao seu abrandamento económico e ao aumento da intervenção governamental. Sublinhou que investir no mercado chinês é uma oportunidade, não um risco, e afirmou que o Partido Comunista dá as boas-vindas aos investidores estrangeiros.
A seguir ao discurso de Li, o discurso de Ursula von der Leyen em Davos centrou-se na democracia e nos valores ocidentais. Mencionou várias vezes a democracia e a liberdade, retratando a Europa como um líder mundial na abordagem dos desafios globais e salientando a importância da colaboração.
No entanto, as divisões entre os líderes mundiais eram evidentes, uma vez que muitos membros da delegação dos EUA já tinham partido antes das conversações com a China, mostrando mais uma vez os conflitos simbólicos a que nos habituámos.
Preocupações crescentes com a IA nas campanhas eleitorais
Alexandra Reeve Givens, directora executiva do Centro para a Democracia e a Tecnologia, manifestou a sua preocupação quanto à utilização da IA nas eleições, citando situações passadas em que a tecnologia foi utilizada para influenciar o comportamento eleitoral.
Isso, por si só, não é um conceito novo. A questão é, no entanto, que a IA traz um realismo sem precedentes à propaganda falsa e ajuda a dar uma escala questionável tácticas como as chamadas robotizadas.
"Em ciclos eleitorais anteriores, vimos chamadas automáticas. Vimos campanhas automatizadas de mensagens de texto que enviam informações incorrectas aos eleitores sobre o seu local de voto, sobre se a sua assembleia de voto está ou não aberta ou mensagens manipuladas e direccionadas, concebidas para influenciar o seu comportamento", observou Givens.
Argumentou que a IA generativa irá agravar estas questões: "A IA generativa torna mais fácil direcionar isso. [...] é mais fácil do que nunca criar mensagens personalizadas e adaptadas".
As empresas tecnológicas defenderam a sua capacidade de atuar contra as falsificações profundas. O diretor executivo da OpenAI, Sam Altman, referiu-se a estratégias recentes a sua empresa começou a trabalhar antes das eleições nos EUA, e Matthew Brittin, presidente da EMEA Business & Operations da Google, falou sobre o potencial dos modelos de linguagem de grande dimensão (LLM) para combater a desinformação.
"Queremos estar numa posição em que tudo o que for produzido pela nossa IA generativa possa ter uma marca de água tão invisível, mesmo que seja utilizado um excerto de um vídeo ou um pedaço de uma imagem, que seja detetável automaticamente", explicou Brittin, referindo-se ao SynthID, uma ferramenta do Google DeepMind que incorpora marcas de água digitais em conteúdos gerados por IA.
Até à data, há poucas provas estas técnicas funcionam eficazmente à escala. Por exemplo, um publicado por investigadores da Universidade da Califórnia em outubro, concluiu que "todas as marcas de água invisíveis são vulneráveis".
Além disso, mesmo que os geradores de imagens de IA comerciais como o DALL-E utilizem uma marca de água eficaz, as empresas não são geralmente obrigadas a fazê-lo.
Há também um outro lado da questão, uma vez que adicionar marcas de água de IA em imagens autênticas significa que os maus actores podem desacreditar imagens reais como falsas, o que se designa por "dividendo do mentiroso".
Este ano, a IA continuará a ter um papel importante no discurso político.
