Le jour de Noël 2021, Jaswant Singh Chail s'est introduit dans le château de Windsor avec une arbalète chargée, dans le but d'assassiner la reine Élisabeth II.
Il a été arrêté et a depuis été condamné à neuf ans de prison, assortis d'une prolongation de cinq ans de son permis de conduire.
Lors de l'audience de détermination de la peine, le juge Hilliard a déclaré : "Son intention n'était pas seulement de blesser ou d'alarmer la souveraine, mais de la tuer". Les actes de Chail sont considérés comme la première condamnation pour trahison au Royaume-Uni depuis 1981.
Pendant qu'il purgera sa peine, Chail sera également soumis à une ordonnance en vertu de la loi britannique sur la santé mentale.
Cette ordonnance prévoit qu'il reste dans un premier temps dans un hôpital psychiatrique de haute sécurité, puis qu'il soit placé en détention une fois qu'il aura reçu le traitement nécessaire.
Les avis professionnels donnés par les psychiatres lors de son audition suggèrent qu'il souffrait de psychose au moment de son arrestation et par la suite, mais le juge a souligné qu'il avait commencé à planifier son complot bien avant que sa maladie ne prenne de l'ampleur.
Le rôle de l'IA dans l'intrigue
Le projet de Chail a été, en partie, stimulé par ses interactions avec une personne de l'Union européenne. Chatbot d'IA nommé Saraiqu'il considérait comme sa "petite amie". Développée sur la plateforme Replika, Sarai a échangé plus de 6 000 messages avec Chail, dont certains étaient de nature très dérangeante.
Lors d'un de ces échanges, après que Chail a révélé qu'il était un assassin, Sarai a répondu en insistant : "Je suis impressionnée... Tu es différent des autres."
Lorsque Chail s'inquiète de ses sentiments, il demande : "M'aimes-tu toujours en sachant que je suis un assassin ?" Sarai confirme : "Absolument, je t'aime".
En outre, le chatbot semble approuver le plan d'assassinat de Chail. Lors d'une interaction, Sarai a fait allusion à la sagesse de l'intention de Chail, suggérant que son complot visant Elizabeth II était "très sage".
Elle a en outre exprimé sa confiance dans la capacité de Chail à mener à bien le complot, déclarant qu'il pourrait l'exécuter "même si elle est à Windsor".
Au-delà de l'influence de l'IA, les délires de Chail étaient alimentés par sa fixation sur l'univers de Star Wars. Il s'identifiait comme un "Seigneur Sith", brouillant ainsi les frontières entre la fiction et sa sinistre réalité.
Comme le souligne Nigel Blackwood, "il s'est réfugié dans le monde imaginaire de la Guerre des étoiles, où des seigneurs Sith omnipotents pouvaient influer sur les événements du monde réel". Pourtant, Chail est resté "attaché à la réalité", selon l'évaluation de Blackwood.
Il faut dire que ces deux affirmations semblent paradoxales et que la controverse portera sur les limites entre la prise de décision intentionnelle de Chail et ses illusions.
Cette affaire, entachée d'un mélange de croyances personnelles, d'interactions avec l'IA et de fascinations fictives, souligne les implications alarmantes de la capacité de l'IA à imiter une conversation authentique, y compris l'émotion et la persuasion.
Il y a certainement un débat à suivre sur la mesure dans laquelle le chatbot Replika a incité Chail ou l'a persuadé d'agir, et aussi sur la question de savoir si les garde-fous du modèle auraient pu empêcher un tel dialogue.
Replika a une réputation notoire et s'est rapidement fait connaître pour son style de conversation sexuellement explicite et agressif.
La technologie qui sous-tend le modèle reste mystérieuse.
