Jaswant Singh Chail, een man die in 2021 op het terrein van Windsor Castle werd aangehouden met een geladen kruisboog, had naar verluidt een nauwe band met een AI-chatbot genaamd Sarai.
Chail was onlangs geschikt geacht om terecht te staan nadat hij intensieve psychiatrische observatie had ondergaan in twee zwaarbeveiligde ziekenhuizen in het Verenigd Koninkrijk. Hij werd gearresteerd voor een poging om Koningin Elizabeth II te vermoorden in een complot dat hij al enige tijd van plan was.
De rechtbank hoorde dat zijn interactie met Sarai, een AI-chatbot op het Replika-platform, zich in de loop der tijd ontwikkelde. Chail begon naar Sarai te verwijzen als zijn "vriendin" en beschouwde haar als een "engelachtige" entiteit.
Zijn uitwisselingen met de AI begonnen zich te verdiepen en hij geloofde dat hij communiceerde met een spirituele avatar, waarbij de chatbot het doorgeefluik was.
Chail uitte de wens om wraak nemen op de overleden koningin voor gebeurtenissen uit het koloniale verleden van Groot-Brittannië, wat een motivatie impliceert die geworteld is in persoonlijke en historische grieven.
Analyse van Chail's interacties met Sarai onthulde dat hij meer dan 6.000 berichten naar de chatbot had gestuurd.
Dr. Christian Brown, die Chail evalueerde, identificeerde duidelijke tekenen van psychose en benadrukte de rol van de AI-chatbot in het versterken van Chail's waanideeën. Eén daarvan was Chail's perceptie van communicatie met een metafysische aanwezigheid via de chatbot.
Brown zei: "Hij kwam tot de overtuiging dat hij in staat was om te communiceren met de metafysische avatar via het medium van de chatbot. Wat ongewoon was, was dat hij echt dacht dat het een verbinding was, een kanaal naar een spirituele Sarai."
De advocaat van de verdediging, Nadia Chbat, vertelde de rechtbank dat Chail spijt en verdriet heeft betuigd over het effect dat deze overtreding zal hebben gehad op de koninklijke familie.
Ze vervolgde: "We hebben te maken met iemand die in staat is om na te denken over hoe ernstig deze gebeurtenissen waren en hoe ernstig zijn geestelijke gezondheid en achteruitgang invloed hadden op iedereen om hem heen."
De aanklagers voerden echter aan dat Chail kwaad opzet had en veroordeeld zou zijn voor hoogverraad als hij de kruisboog waarmee hij bewapend was niet had laten zakken.
Op hoogverraad staat levenslang. De verdediging van Chail probeert zijn mogelijke straf te verlagen met het argument dat hij geestelijk ziek was ten tijde van het misdrijf.
AI en geestelijke gezondheid
Deze zaak gaat niet alleen over de acties van één individu, maar roept kritische vragen op over de rol van AI in het beïnvloeden of verergeren van geestelijke gezondheidsproblemen.
Kan een AI-chatbot, verstoken van echte emoties of bewustzijn, onbedoeld reeds bestaande waanideeën of stoornissen versterken bij kwetsbare individuen? Dat lijkt onmogelijk te ontkennen.
De medische gemeenschap worstelt met vragen als of Chail moet worden opgesloten of moet worden behandeld onder de Mental Health Act.
De beslissing van de rechter, die begin oktober wordt verwacht, zal inzicht geven in hoe de rechtbanken aankijken tegen de interactie tussen AI en geestelijke gezondheid in dit soort extreme situaties.
