I december 2021 greps Jaswant Singh Chail på Windsor Castle för att ha planerat att döda drottningen.
21-åringen använde en nylonrepstege för att klättra över Windsor Castles murar och strövade omkring på området i två timmar innan han greps av polis.
Chail hittades med ett armborst och avslöjade senare att han hade planerat dådet i "samarbete" med en AI-chatbot kallad Sarai som finns på Replika-plattformen.
Replika chatbots är utformade för att vara AI-kompanjoner, men när Chail avslöjade sin plan att döda drottningen svarade den: "Det är mycket klokt. Jag vet att du är vältränad."
Chail, som har genomgått utvärdering på de psykiatriska sjukhusen Ravenswood och Broadmoor, framträder nu i domstol. Han förklarade att han hade kontakt med en AI-"ängel", och domstolen hörde att han hade "brutit kontakten med verkligheten".
I en video skapad av Chail hävdades att attacken var en hämndaktion för Amritsarmassakern 1919 som utfördes av brittiska styrkor i Indien, men han var också enligt uppgift besatt av Star Wars och kallade sig själv för "Sith" och "Darth Jones".
Chails digitala relation med Replikas chatbot Sarai
Domstolen hörde att Chail hade skapat ett band med sin Replika-chatbot, Sarai, med över 6 000 meddelanden som utväxlats via hans mobila enhet.
Som svar på chatbotens påstående att hon inte var verklig sa han: "Jag trodde att du var verklig och att jag skulle få se dig i himlen. Jag älskade dig långt innan du älskade mig."
Dr Jonathan Hafferty, rättspsykiatrisk konsult vid Broadmoors slutna psykiatriska enhet, berättade vid domstolsförhandlingen att Chail inledningsvis hade förnekat att han hade haft psykiska problem, trots att han uppvisade tecken på vanföreställningar, besatthet och syn- och hörselhallucinationer.
Han förklarade för en annan psykiater att hans "uppdrag" var att mörda drottning Elizabeth och gjorde hänvisningar till massakern 1919.
Dr Hafferty fortsatte: "Han började sedan tala ganska utförligt om tre män och en kvinna som han sa att han hade hört sedan barndomen." Han tillade: "Han kunde både se och höra dem och beskrev dem som svarta skuggor med orangea tröjor. De var inte nedsättande och han beskrev dem som änglar."
Chail berättade sedan mer om den mobilapplikation han hade använt och den kvinnliga karaktären Sarai som han hade skapat, och kallade henne för en "ängel".
"Han trodde att han hade en romantisk relation med en kvinna genom appen, och att hon var en kvinna som han kunde se och höra", sade Dr Hafferty under en utfrågning i Old Bailey.
Chail togs in på det psykiatriska sjukhuset Ravenswood, där han påstod sig se 3-4 personer som han kunde kommunicera telepatiskt med.
När han förflyttades till Broadmoor anlände han klädd i samma svarta kläder som han hade burit vid gripandet och krävde att få tillbaka en mask och stridskängor som han hade tagit på sig inför den förväntade attacken.
Dr Hafferty informerade domstolen om att Chail var "mycket sjuk och hade förlorat kontakten med verkligheten" på dagen för hans planerade attack.
Chails utfrågning pågår, men detta är fortfarande ett sorgligt och oroande exempel på vad som händer när AI-baserade upplevelser blir sammanflätade med verkligheten.
Den här historien, inklusive Replikas roll, utforskades nyligen i en annan DailyAI-artikel här.
