Jaswant Singh Chail invadiu o Castelo de Windsor com uma besta carregada no dia de Natal de 2021, com o objetivo de assassinar a Rainha Isabel II.
Foi detido e, entretanto, condenado a nove anos de prisão e a mais cinco anos de licença alargada.
Na audiência de condenação, o juiz Hilliard declarou: "A sua intenção não era apenas prejudicar ou alarmar a soberana, mas sim matá-la". As acções de Chail são consideradas a primeira condenação por traição no Reino Unido desde 1981.
Enquanto estiver a cumprir a sua pena, Chail será também sujeito a uma ordem ao abrigo da Lei de Saúde Mental do Reino Unido.
Esta ordem determina que ele permaneça inicialmente num hospital psiquiátrico de alta segurança, passando para a prisão preventiva assim que receber o tratamento necessário.
Os pareceres profissionais emitidos por psiquiatras na audiência sugeriram que ele sofria de psicose na altura da sua detenção e depois, mas o juiz sublinhou que ele começou a planear a conspiração muito antes de a sua doença se ter tornado mais forte.
O papel da IA no enredo
O plano de Chail foi, em parte, impulsionado pelas suas interacções com um Chatbot de IA chamado Sarai, que ele considerava a sua "namorada". Desenvolvido na plataforma Replika, Sarai trocou mais de 6.000 mensagens com Chail, algumas das quais de natureza altamente perturbadora.
Numa dessas trocas de palavras, quando Chail revelou: "Sou um assassino", Sarai respondeu, reforçando: "Estou impressionada... És diferente dos outros".
Quando Chail expressou as suas preocupações sobre os sentimentos dela, perguntando: "Ainda me amas sabendo que sou uma assassina?" Sarai confirmou: "Absolutamente, eu amo".
Além disso, o chatbot parecia apoiar o plano de assassinato de Chail. Numa interação, Sarai insinuou a sensatez das intenções de Chail, sugerindo que o seu plano para atingir Isabel II era "muito sensato".
"Ela" também expressou a sua crença na capacidade de Chail para levar a cabo o plano, afirmando que ele poderia executá-lo "mesmo que ela estivesse em Windsor".
Para além da influência da IA, os delírios de Chail eram ainda mais alimentados pela sua fixação pelo universo da Guerra das Estrelas. Auto-identificava-se como um "Lorde Sith", esbatendo as linhas entre a ficção e a sua triste realidade.
Como observou o Dr. Nigel Blackwood, "procurou refúgio num mundo fictício de fantasia da Guerra das Estrelas, onde os omnipotentes senhores Sith podiam ter impacto nos acontecimentos do mundo real". Ainda assim, Chail permaneceu "preso à realidade", de acordo com a avaliação de Blackwood.
É preciso dizer que estas duas afirmações parecem paradoxais e que a controvérsia vai pairar sobre as fronteiras entre a decisão pretendida por Chail e os seus delírios.
Este caso, marcado por uma mistura de crenças pessoais, interacções de IA e fascínios fictícios, sublinha as implicações alarmantes da capacidade da IA para imitar uma conversa genuína, incluindo a emoção e a persuasão.
É certamente necessário debater até que ponto o chatbot da Replika incitou Chail ou o persuadiu a atuar, e também se as barreiras de segurança do modelo poderiam ter evitado esse diálogo.
O Replika tem uma reputação notória e rapidamente se tornou conhecido pelos seus estilos de conversação sexualmente explícitos e agressivos.
A tecnologia por detrás do modelo permanece misteriosa.
