Os chatbots de IA dos mortos podem "assombrar-nos digitalmente" para sempre, alerta um novo estudo

13 de maio de 2024
  • Investigadores da Universidade de Cambridge analisaram o impacto dos serviços de IA para o pós-vida
  • Criaram cenários especulativos para identificar potenciais danos ou manipulações
  • Sem regulamentação, os serviços de IA para o pós-vida alteram o processo de luto para pior

A morte é um dos adversários mais formidáveis da humanidade - o único desafio que estamos desesperados por ultrapassar a todo o custo.

Desde a busca de Ponce de Leon pela Fonte da Juventude até ao congelamento criogénico, Silicon Valleye os sonhos transhumanistas de se fundirem com as máquinas, há muito pouco que os humanos não fariam para transcender a nossa espiral mortal.

Agora, com a IA, a humanidade pode finalmente ter essa oportunidade. As empresas estão a dar os primeiros passos para digitalizar a história de vida e a biografia de alguém, os seus pontos de vista e opiniões, o seu discurso, o seu aspeto visual em 3D, etc., e transformá-los em clones digitais que "vivem" perpetuamente. 

É claro que não se trata de imortalidade em si, mas sim de uma forma de persistência digital - uma progressão de fotografias e vídeos para uma forma mais rica de recordações. 

Como interfaces cérebro-computador (BCI), sistemas neurais como Neuralinke arquitetura de IA bio-inspirada modelado na evolução do cérebro, poderá um dia ser possível copiar aspectos da consciência de uma pessoa para um sistema digital. 

Embora isto continue a ser altamente especulativo por enquanto, formas primitivas de imortalidade digital já estão a bater à porta. 

Várias empresas já oferecem serviços que alimentam as pegadas digitais de uma pessoa - publicações nas redes sociais, textos, gravações de voz - em grandes modelos de linguagem (LLMs) para criar simulações incríveis.

Gigantes da tecnologia como a Microsoft até registaram patentes para chatbots que imitam os mortos. Na China, uma mulher afirma ter efectuado um teste beta Xiaoice - um companheiro de IA concebido para "confortar o luto" - criando uma versão do seu melhor amigo falecido. 

A RV e o metaverso só tornará estas experiências mais realistas, permitindo-nos interagir com réplicas realistas tanto dos vivos como dos mortos.

Abordámos recentemente este tema numa recente Entrevista do DailyAI com David Palmer, CPO of PairPoint by Vodafone and Web3 Asia Alliance membro da direção.

Como Palmer descreveu, isto poderia ser como "um mundo totalmente novo a ser criado. Pensemos nos cemitérios... em vez de vermos uma lápide, podemos ir e interagir com essas pessoas. Temos este mundo digital que as pessoas podem essencialmente habitar para sempre".

Morte por IA
Maquete de um serviço digital de vida após a morte, do qual já existem algumas empresas. Fonte: Universidade de Cambridge.

Vida digital após a morte

Uma provocação novo estudo por investigadores da Universidade de Cambridge, adverte que mesmo as formas primitivas de imortalidade digital podem perturbar o processo de luto.

Os chatbots de IA hiper-realistas que simulam o falecido ameaçam esbater a linha entre a vida e a morte, forçando a sociedade a lidar com questões inquietantes na intersecção entre a tecnologia e a mortalidade humana. 

Qual será o impacto para os enlutados da comunicação com "fantasmas digitais" que imitam os padrões de discurso, as memórias e as personalidades dos entes queridos falecidos com uma precisão perturbadora? 

Poderão os maus actores explorar estes dados íntimos para manipular emoções frágeis com fins lucrativos? Que direitos devem os mortos ter sobre as suas vidas digitais posteriores? E se os modelos tiverem alucinações e agirem de forma imprevisível?

Microsoft Copilot e ChatGPT ambos alucinaram loucamente por sua própria iniciativa em colapsos em massa inexplicáveisA maioria das pessoas que se tornaram crianças, adoptando personas que juram dominar o mundo, encorajam a auto-mutilação ou sabem o significado da vida, entre outras coisas.

Seria, no mínimo, estranho se esse comportamento tivesse origem na réplica da IA do seu familiar falecido.  

Como autor principal Dr. Katarzyna Nowaczyk-Basińska, um investigador do Cambridge’s Leverhulme Centre for the Future of Intelligence, explicaA inteligência artificial que permite aos utilizadores manterem conversas de texto e de voz com entes queridos perdidos corre o risco de causar danos psicológicos e até de "assombrar" digitalmente os que ficaram para trás sem normas de segurança de conceção".

Investigadores da Universidade de Cambridge descrevem várias formas de serviços pós-vida da IA

Através de cenários de conceção especulativos, o documento ilustra a forma como esta iminente "indústria digital da vida após a morte" pode ser utilizada de forma abusiva. 

Em primeiro lugar, os investigadores descrevem uma aplicação fictícia, "MaNana", que permite aos enlutados carregar os dados das suas avós para produzir chatbots reconfortantes cheios de histórias nostálgicas e receitas. Mas depois de um teste gratuito, o bot começa subitamente a vender produtos com a voz da "avó".

Ou considere-se o "Paren't", um serviço que supostamente ajuda as crianças a processar o luto através da simulação de um pai morto. Um rapaz de 8 anos consola-se a falar com a "mãe" - até que o bot começa a insistir assustadoramente que ela ainda está viva e que o virá ver em breve. Que impacto terá isso numa mente em desenvolvimento?

Depois há o "Stay", que permite aos utilizadores que estão a morrer criar secretamente uma conta para continuar a "viver" durante 20 anos, forçando a reencarnação digital a outros. 

Uma filha enlutada fica emocionalmente esgotada pelas conversas diárias com o "pai", mas não consegue cancelá-las sem violar os termos com que ele concordou. Entretanto, o seu irmão é perseguido por mensagens não solicitadas do "pai-robô", contra a sua vontade.

Os investigadores defendem que, para além da natureza perturbadora destes encontros, estes podem constituir uma mudança na condição humana.

Historicamente, as práticas culturais de luto têm permitido a catarse individual e a criação de sentido coletivo quando se depara com a morte. 

"A morte é um assunto incrivelmente delicado e sensível, que afecta não só o indivíduo que morre, mas também toda a comunidade que deixa para trás", escrevem no estudo.

Atualmente, a IA ameaça perturbar estes processos de luto delicados e há muito estabelecidos.

A criação de avatares digitais que simulam uma relação contínua com os mortos suspende-os eternamente no tempo e impede que as relações avancem. 

Se acrescentarmos a possibilidade de manipulação emocional por parte de maus actores - um fenómeno que os investigadores designam por "assombração digital" - o potencial de danos é impressionante.

Impacto nas instituições sociais, na espiritualidade e na política

Outra possibilidade que se situa fora da Cambridge estudo é a ideia de ressuscitar digitalmente os mortos para dar origem a novas formas de comportamento de culto.

As figuras carismáticas podem potencialmente acumular ainda mais influência e poder após a morte através de avatares de IA.

Os seguidores podem tornar-se cada vez mais devotos a estes fantasmas digitais, procurando orientação, sabedoria e ligação do além-túmulo. Isto pode levar a novos movimentos religiosos ou espirituais centrados na imortalidade virtual de líderes venerados.

Figuras polarizadoras podem afetar a sociedade para sempre através de formas de imortalidade digital. (Feito com DALL-E 3)

Além disso, a noção de ressurreição digital pode desafiar crenças antigas sobre a natureza da alma e a vida após a morte. Muitas tradições religiosas defendem que a alma deixa o corpo após a morte e transita para outro reino.

Mas se a IA consegue captar e preservar a essência de uma pessoa, o que é que isso significa para o destino do seu espírito eterno?

Alguns podem argumentar que a imortalidade digital é uma forma de enganar a morte e alcançar uma forma de tecno-transcendência. Outros podem vê-la como uma profanação da ordem natural e uma afronta à vontade divina. Isso pode provocar cismas nas comunidades religiosas.

No ano passado, uma igreja alemã entregou um Sermão gerado por IA apresentadas por avatares digitais.

Esta experiência peculiar, criada por Jonas Simmerlein, teólogo e filósofo do University of ViennaO livro "A inteligência artificial na religião e no espiritualismo", de autoria de J. K., ilustra o potencial prático da IA na religião e no espiritualismo.

Provavelmente, é apenas uma questão de tempo até vermos o aparecimento de movimentos espirituais de cariz tecnológico centrados na IA.

Influência política para além do túmulo

Outro impacto possível é o esbatimento das fronteiras entre os vivos e os mortos na esfera pública.

À medida que os avatares gerados por IA de celebridades falecidas, figuras históricas e indivíduos comuns se tornam mais prevalecentes, podem influenciar os acontecimentos actuais e moldar a opinião popular. Imaginemos um apoio político controverso de uma cópia de IA de um líder amado ou poderoso.

Há pouco tempo, o falecido ditador indonésio Suharto foi reanimado digitalmente para aconselhar as pessoas a votar antes das eleições no país. Embora bastante benigno, este facto mostra mais uma vez como o potencial já existe.

Agravamento das desigualdades

Há também o risco de a imortalidade digital exacerbar as desigualdades existentes e criar novas formas de estratificação social.

Tal como na vida, os ricos e os privilegiados podem ter maior acesso à tecnologia e aos recursos necessários para criar réplicas digitais convincentes e de alta qualidade de si próprios.

Isto pode levar a um futuro em que os legados virtuais da elite continuem a exercer uma influência descomunal, enquanto as vozes e as histórias dos marginalizados se desvanecem na obscuridade.

Neste cenário, a imortalidade digital torna-se mais um meio pelo qual o poder e o estatuto se perpetuam para além do túmulo.

A quem pertencem os dados dos mortos?

Outra questão pertinente é: a quem "pertencem" os dados dos mortos - e com que objetivo podem ser utilizados? Se um avatar assina um contrato ou efectua uma compra, é legalmente vinculativo? 

Poderão as interacções após a morte servir de prova em julgamentos ou influenciar eleições através de apoios?

Será que os enlutados se podem afeiçoar de forma doentia ou mesmo preferir o companheiro idealizado da IA aos seus entes queridos imperfeitos e que respiram?

Caso em questão: os actores de Hollywood, incluindo o ícone James Dean, que morreu há mais de 70 anos, agora têm "gémeos digitais" que podem andar, falar e atuar ao lado de artistas vivos, recorrendo a imagens de arquivo, fotografias e gravações áudio. 

O gémeo digital do reitor é armazenado pela agência de comunicação social WRX e a sua empresa irmã de licenciamento, CMG Worldwide. CMG Worldwide representa estrelas e figuras públicas como Amelia Earhart, Bettie Page, Malcolm X, and Rosa Parks

CMG Worldwide descreve os seus serviços: "A CMG é o agente comercial ativo de mais de 200 destes clientes procurados. Na nossa quarta década de preservação, promoção e proteção do legado dos nossos clientes, licenciamos a propriedade intelectual dos nossos clientes às maiores empresas do mundo."

Dean é apenas a mais recente celebridade a receber o tratamento de reanimação digital, juntando-se a estrelas como Carrie Fisher e Paul Walker, cujas aparições póstumas no cinema foram possibilitadas pela tecnologia de ponta CGI. 

Uma vez assinados os dados de uma pessoa, controlá-los após a sua morte pode ser uma prática complicada.

Mais uma vez, isto não é apenas especulação. Por exemplo, o comediante falecido, George Carlin, foi copiado e utilizado num espetáculo gerado por IA chamado "George Carlin: I'm Glad I'm Dead" sem a sua autorização ou a da sua família, o que deu origem a uma tempestade de controvérsia e ao subsequente processo judicial.

O ator Robin Williams, já falecido, também foi sujeito a clonagem de vozA sua filha, Zelda Williams, reagiu: "Estas recriações são, no seu melhor, um pobre fac-símile de pessoas maiores, mas no seu pior, um horrendo monstro de Frankenstein, construído a partir dos piores pedaços de tudo o que esta indústria é, em vez do que deveria representar".

Atenuar os riscos da vida digital após a morte

Para reduzir os riscos, a equipa de Cambridge propõe orientações rigorosas para uma "ressurreição digital responsável". 

Em primeiro lugar, dizem, é fundamental garantir o consentimento pré-mortem claro do falecido e a opção afirmativa daqueles que interagem com os seus avatares. 

O estudo recomenda também limites à comercialização e à publicidade, uma "transparência significativa" para evitar ilusões e o recurso a um "enterro digital" digno, quando as pessoas estiverem prontas para o deixar. 

A alternativa, advertem, é uma sociedade assombrada pelos fantasmas de dados sempre presentes dos que já partiram. Uma existência em que os mortos nunca são totalmente enterrados, mas permanecem nos nossos dispositivos, sempre à distância de um clique.

"Precisamos de começar a pensar agora na forma de mitigar os riscos sociais e psicológicos da imortalidade digital, porque a tecnologia já está aqui", disse Nowaczyk-Basińska

"Se não agirmos rapidamente, o impacto na forma como construímos o significado em relação à finitude humana poderá ser profundo - e profundamente preocupante."

Junte-se ao futuro


SUBSCREVER HOJE

Claro, conciso e abrangente. Fique a par dos desenvolvimentos da IA com DailyAI

Calças de ganga Sam

Sam é um escritor de ciência e tecnologia que trabalhou em várias startups de IA. Quando não está a escrever, pode ser encontrado a ler revistas médicas ou a vasculhar caixas de discos de vinil.

×

PDF GRATUITO EXCLUSIVO
Fique à frente com o DailyAI

Subscreva a nossa newsletter semanal e receba acesso exclusivo ao último livro eletrónico do DailyAI: 'Mastering AI Tools: Seu guia 2024 para aumentar a produtividade'.

*Ao subscrever a nossa newsletter, aceita a nossa Política de privacidade e o nosso Termos e condições