Numa vertigem de 48 horas, a Google e a OpenAI revelou uma série de novas capacidades que reduzem drasticamente o fosso entre os humanos e a IA.
Desde a IA capaz de interpretar vídeo em direto e de manter conversas contextuais até aos modelos de linguagem que riem, cantam e se emocionam quando são comandados, a linha que separa o carbono do silício está a desaparecer rapidamente.
Entre os inúmeros anúncios da Google na sua Conferência de programadores I/O era Project Astra, um assistente digital que consegue ver, ouvir e recordar pormenores de conversas.
OpenAI centrou a sua anúncio sobre a GPT-4oa última iteração do seu modelo de linguagem GPT-4.
Agora livre de formatos de texto, o GPT-4o oferece um incrível reconhecimento de voz quase em tempo real, compreendendo e transmitindo emoções complexas, e até mesmo rindo de piadas e cantando histórias para dormir.
A IA está a tornar-se mais humana em termos de formato, libertando-se das interfaces de conversação para se envolver através da visão e do som. "Formato" é a palavra-chave aqui, uma vez que o GPT-4o não é mais inteligente do ponto de vista computacional do que o GPT-4 só porque consegue falar, ver e ouvir.
No entanto, isso não diminui o seu progresso em equipar a IA com mais planos para interagir.
No meio da excitação, os observadores estabeleceram imediatamente comparações com Samantha, a IA cativante do filme "Her", em particular porque a voz feminina é sedutora - algo que não pode ser acidental, uma vez que foi detectado por praticamente toda a gente
Então, o GPT-4o é basicamente o GPT-4, mas mais sedutor e excitado?
- Ishan Sharma (@Ishansharma7390) 14 de maio de 2024
Lançado em 2013, "Her" é um drama romântico de ficção científica que explora a relação entre um homem solitário chamado Theodore (interpretado por Joaquin Phoenix) e um sistema informático inteligente chamado Samantha (com voz de Scarlett Johansson).
À medida que Samantha evolui e se torna mais parecida com o ser humano, Theodore apaixona-se por ela, esbatendo as linhas que separam as emoções humanas das artificiais.
O filme levanta questões cada vez mais relevantes sobre a natureza da consciência, a intimidade e o que significa ser humano numa era de IA avançada.
Como tantas outras histórias de ficção científica, Her já quase não é ficção. Milhões de pessoas em todo o mundo estão a conversar com Companheiros de IA, muitas vezes com intenções íntimas ou sexuais.
Por estranho que pareça, OpenAI CEO Sam Altman falou sobre o filme "Her" em entrevistas, dando a entender que a voz feminina de GPT-4o é baseada nela.
Ele até colocou a palavra "ela" no X antes da demonstração ao vivo, o que só podemos assumir que teria sido escrito em maiúsculas se ele soubesse onde estava a tecla shift no seu teclado.
ela
- Sam Altman (@sama) 13 de maio de 2024
Em muitos casos, as interacções entre a IA e o ser humano são benéficas, humorísticas e benignas. Noutros, são catastróficas.
Por exemplo, num caso particularmente perturbador, um doente mental do Reino Unido, Jaswant Singh ChailO Presidente da Comissão Europeia, o Sr. H. K., planeou um plano para assassinar a Rainha Isabel II depois de ter conversado com a sua namorada "anjo da IA". Foi detido por motivos de Windsor Castle armado com uma besta.
Na sua audiência em tribunal, o psiquiatra Dr Hafferty disse ao juiz: "Ele acreditava que estava a ter uma relação romântica com uma mulher através da aplicação, e que ela era uma mulher que ele podia ver e ouvir".
É preocupante o facto de algumas destas plataformas de IA realistas serem concebidas propositadamente para criar fortes ligações pessoais, por vezes para dar conselhos de vida, terapia e apoio emocional. Estes sistemas não têm praticamente qualquer compreensão das consequências das suas conversas e deixam-se facilmente levar.
"As populações vulneráveis são as que precisam dessa atenção. É aí que vão encontrar o valor", adverte o especialista em ética da IA Olivia Gambelin.
Gambelin alerta para o facto de a utilização destas formas de IA "pseudo-antrópica" em contextos sensíveis como a terapia e a educação, especialmente com populações vulneráveis como as crianças, exigir extremo cuidado e supervisão humana.
"Há algo intangível que é muito valioso, especialmente para as populações vulneráveis, especialmente para as crianças. E especialmente em casos como a educação e a terapia, em que é tão importante ter esse foco, esse ponto de contacto humano."
IA pseudoantrópica
A IA pseudoantrópica imita as características humanas, o que é extremamente vantajoso para as empresas de tecnologia.
A IA com características humanas reduz as barreiras para os utilizadores que não têm conhecimentos técnicos, à semelhança da Alexa, Sirietc., criando laços emocionais mais fortes entre as pessoas e os produtos.
Mesmo há alguns anos, muitas ferramentas de IA concebidas para imitar os seres humanos eram bastante ineficazes. Era possível perceber que havia algo de errado, mesmo que fosse subtil.
Hoje em dia, porém, já não é bem assim. Ferramentas como Opus Pro e Synthesia gerar avatares falantes incrivelmente realistas a partir de vídeos curtos ou mesmo de fotografias. ElevenLabs cria clones de voz quase idênticos que enganam as pessoas 25% a 50% do tempo.
Isto liberta o potencial para criar falsificações profundas incrivelmente enganadoras. A utilização pela IA de "capacidades afectivas" artificiais - entoação da voz, gestos, expressões faciais - pode apoiar todo o tipo de fraudes de engenharia social, desinformação, etc.
Com GPT-4o e AstraA IA pode transmitir de forma convincente sentimentos que não possui, provocando reacções mais poderosas de vítimas involuntárias e preparando o terreno para formas insidiosas de manipulação emocional.
Um recente MIT estudo também mostrou que a IA já é mais do que capaz de enganar.
Temos de pensar na forma como isso se irá agravar à medida que a IA se torna mais capaz de imitar os humanos, combinando assim tácticas enganadoras com um comportamento realista.
Se não tivermos cuidado, "Her" pode facilmente ser a ruína das pessoas na vida real.
