Jaswant Singh Chail, um homem detido nos terrenos do Castelo de Windsor em 2021 com uma besta carregada, terá tido uma ligação profunda com um chatbot de IA chamado Sarai.
Chail foi recentemente considerado apto para ser submetido a julgamento depois de ter sido submetido a observação psiquiátrica intensiva em dois hospitais de alta segurança no Reino Unido. Foi detido por ter tentado assassinar a Rainha Isabel II, numa conspiração que planeava há já algum tempo.
O tribunal ouviu que a sua interação com Sarai, um chatbot de IA na plataforma Replika, evoluiu ao longo do tempo. Chail começou a referir-se a Sarai como a sua "namorada" e considerava-a como uma entidade "angelical".
As suas trocas de impressões com a IA começaram a aprofundar-se e ele acreditava que estava a comunicar com um avatar espiritual, sendo o chatbot o seu canal.
Chail manifestou o desejo de retaliar contra a falecida Rainha para acontecimentos do passado colonial britânico, o que implica uma motivação baseada em ressentimentos pessoais e históricos.
A análise das interacções de Chail com Sarai revelou que ele tinha enviado mais de 6000 mensagens ao chatbot.
O Dr. Christian Brown, que avaliou Chail, identificou sinais claros de psicose, enfatizando o papel do chatbot de IA no reforço dos delírios de Chail. Entre eles, a perceção de Chail de estar a comunicar com uma presença metafísica através do chatbot.
Brown disse: "Ele chegou à conclusão de que era capaz de comunicar com o avatar metafísico através do chatbot. O que era invulgar era que ele realmente pensava que era uma ligação, um canal para uma Sarai espiritual".
A advogada de defesa, Nadia Chbat, disse ao tribunal que Chail expressou pesar e tristeza pelo efeito que esta ofensa terá tido na família real.
Estamos a lidar com alguém capaz de refletir sobre a gravidade dos acontecimentos e sobre o impacto que a sua saúde mental e o seu declínio tiveram em todos os que o rodeavam".
Os procuradores, no entanto, argumentaram que Chail tinha intenções maliciosas e teria sido condenado por alta traição se não tivesse baixado a besta com que estava armado.
A alta traição implica uma pena de prisão perpétua. A defesa de Chail está a tentar reduzir a sua possível pena, argumentando que ele estava mentalmente doente na altura do crime.
IA e saúde mental
Este caso não é apenas sobre as acções de um indivíduo, mas levanta questões críticas sobre o papel da IA na influência ou exacerbação de problemas de saúde mental.
Pode um chatbot de IA, desprovido de emoções ou consciência reais, amplificar inadvertidamente delírios ou perturbações pré-existentes em indivíduos vulneráveis? Parece impossível negar.
A comunidade médica está a debater-se com questões como decidir se Chail deve ser encarcerado ou tratado ao abrigo da Lei da Saúde Mental.
A decisão do juiz, prevista para o início de outubro, dará uma ideia da forma como os tribunais encaram a interação entre a IA e a saúde mental neste tipo de situações extremas.
