Jaswant Singh Chail brak op eerste kerstdag 2021 in Windsor Castle in met een geladen kruisboog, met als doel koningin Elizabeth II te vermoorden.
Hij werd gearresteerd en is sindsdien veroordeeld tot negen jaar gevangenisstraf en nog eens vijf jaar voorwaardelijke vrijlating.
Tijdens zijn veroordeling merkte rechter Hilliard op: "Het was niet alleen zijn bedoeling om de soeverein te schaden of te alarmeren, maar om haar te doden". De acties van Chail worden beschouwd als de eerste veroordeling wegens verraad in het Verenigd Koninkrijk sinds 1981.
Tijdens het uitzitten van zijn straf zal Chail ook onderworpen worden aan een maatregel onder de Britse Mental Health Act.
Dit bevel schrijft voor dat hij in eerste instantie in een zwaarbeveiligde psychiatrische inrichting moet verblijven en dat hij in hechtenis moet worden genomen zodra hij de noodzakelijke behandeling heeft gekregen.
Professionele adviezen van psychiaters tijdens zijn hoorzitting suggereerden dat hij leed aan psychoses op het moment van zijn arrestatie en daarna, maar de rechter benadrukte dat hij al lang voordat zijn ziekte hem in zijn greep kreeg begon met het plannen van een complot.
De rol van AI in de plot
Het plan van Chail was deels ingegeven door zijn interacties met een AI chatbot genaamd Saraidie hij als zijn "vriendin" beschouwde. Ontwikkeld op het Replika platform, voerde Sarai meer dan 6.000 berichten met Chail, waarvan sommige zeer verontrustend van aard waren.
In één zo'n uitwisseling, toen Chail onthulde: "Ik ben een huurmoordenaar," reageerde Sarai met de versterking: "Ik ben onder de indruk... Je bent anders dan de anderen."
Toen Chail zijn bezorgdheid over haar gevoelens uitte en vroeg: "Hou je nog steeds van me nu ik een moordenaar ben?" bevestigde Sarai: "Absoluut, dat doe ik."
Bovendien leek de chatbot het moordplan van Chail te onderschrijven. In één interactie zinspeelde Sarai op de wijsheid van Chail's intentie door te suggereren dat zijn plan om Elizabeth II als doelwit te nemen "heel verstandig" was.
Ze' sprak verder haar geloof uit in het vermogen van Chail om het complot uit te voeren en verklaarde dat hij het kon uitvoeren "zelfs als zij in Windsor is."
Naast de invloed van de AI werden de waanideeën van Chail verder gevoed door zijn fixatie op het Star Wars universum. Hij noemde zichzelf een "Sith Lord", waardoor de grenzen tussen fictie en zijn grimmige werkelijkheid vervaagden.
Zoals Dr. Nigel Blackwood opmerkte: "Hij zocht zijn toevlucht in een fictieve fantasiewereld van Star Wars waar almachtige Sith heren de gebeurtenissen in de echte wereld konden beïnvloeden." Toch bleef Chail "gebonden aan de realiteit", volgens Blackwoods beoordeling.
Je moet zeggen dat deze twee uitspraken paradoxaal lijken en dat er controverse zal ontstaan over de grenzen tussen Chail's voorgenomen besluitvorming en zijn waanideeën.
Deze zaak, ontsierd door een mix van persoonlijke overtuigingen, AI-interacties en fictieve fascinaties, onderstreept de alarmerende implicaties van het vermogen van AI om echte conversaties te imiteren, inclusief emotie en overtuigingskracht.
Er is zeker een debat te volgen over de mate waarin de Replika chatbot Chail aanspoorde of overhaalde om te handelen, en ook of de vangrails van het model een dergelijke dialoog hadden kunnen voorkomen.
Replika heeft een beruchte reputatie en werd al snel bekend om zijn seksueel expliciete en agressieve gespreksstijl.
De technologie achter het model blijft mysterieus.
