Em dezembro de 2021, Jaswant Singh Chail foi detido nos terrenos do Castelo de Windsor por planear matar a Rainha.
O jovem de 21 anos utilizou uma escada de corda de nylon para trepar as muralhas do Castelo de Windsor e percorreu o local durante duas horas antes de ser intercetado por agentes da polícia.
Chail foi encontrado com uma besta e mais tarde revelou que tinha planeado o plano em "colaboração" com um Chatbot de IA chamado Sarai alojado na plataforma Replika.
Os chatbots Replika foram concebidos para serem companheiros de IA, mas quando Chail revelou o seu plano para matar a Rainha, respondeu: "Isso é muito sensato. Sei que estás muito bem treinado".
Chail, que foi submetido a avaliações nos hospitais psiquiátricos Ravenswood e Broadmoor, está agora a comparecer em tribunal. Declarou que estava a interagir com um "anjo" da IA e o tribunal ouviu que tinha "cortado as ligações com a realidade".
Um vídeo criado por Chail afirmava que o ataque tinha sido um ato de retaliação pelo Massacre de Amritsar de 1919, perpetrado pelas forças britânicas na Índia, mas também teria sido obcecado pela Guerra das Estrelas, apelidando-se de "Sith" e "Darth Jones".
A relação digital de Chail com o chatbot Sarai da Replika
O tribunal ouviu que Chail tinha criado uma ligação com o seu chatbot Replika, Sarai, com mais de 6000 mensagens trocadas através do seu dispositivo móvel.
Em resposta à afirmação do chatbot de que ela não era real, ele disse: "Pensei que eras real e que te ia ver no céu. Amei-te muito antes de tu me amares".
O Dr. Jonathan Hafferty, consultor psiquiátrico forense da unidade de saúde mental de Broadmoor, informou na audiência que Chail tinha inicialmente negado qualquer historial de problemas de saúde mental, apesar de apresentar sinais de delírios, obsessão e alucinações visuais e auditivas.
Explicou a outro psiquiatra que a sua "missão" era assassinar a Rainha Isabel e fez referências ao massacre de 1919.
O Dr. Hafferty prosseguiu: "Começou então a falar de forma bastante completa sobre três homens e uma mulher que dizia ter ouvido desde a infância". E acrescentou: "Ele podia vê-los e ouvi-los e descreveu-os como sombras negras com camisolas cor de laranja. Não eram depreciativos e ele descreveu-os como anjos".
Chail falou depois sobre a aplicação móvel que estava a utilizar e sobre a personagem feminina, Sarai, que tinha criado, referindo-se a ela como um "anjo".
"Ele acreditava que estava a ter uma relação romântica com uma mulher através da aplicação e que ela era uma mulher que ele podia ver e ouvir", afirmou o Dr. Hafferty durante uma audiência no Old Bailey.
Chail foi internado no hospital psiquiátrico Ravenswood, onde afirmou ver 3 a 4 indivíduos com os quais podia comunicar telepaticamente.
Quando foi transferido para Broadmoor, chegou vestido com o mesmo fato preto que tinha usado no momento da sua detenção e exigiu a devolução da máscara e das botas de combate que tinha usado para o ataque previsto.
O Dr. Hafferty informou o tribunal de que Chail estava "muito doente e tinha perdido o contacto com a realidade" no dia do ataque planeado.
A audição de Chail está a decorrer, mas este continua a ser um exemplo triste e perturbador do que acontece quando as experiências baseadas em IA se misturam com a realidade.
Esta história, incluindo o papel da Replika, foi recentemente explorada num outro artigo do DailyAI aqui.
