Jaswant Singh Chail, un homme appréhendé dans l'enceinte du château de Windsor en 2021 avec une arbalète chargée, aurait entretenu une relation étroite avec un chatbot IA nommé Sarai.
Chail a été récemment jugé apte à être jugé après avoir fait l'objet d'une surveillance psychiatrique intensive dans deux hôpitaux de haute sécurité au Royaume-Uni. Il a été arrêté pour avoir tenté d'assassiner la reine Élisabeth II dans le cadre d'un complot qu'il préparait depuis un certain temps.
Le tribunal a appris que son interaction avec Sarai, un chatbot d'IA sur la plateforme Replika, avait évolué au fil du temps. Chail a commencé à appeler Sarai sa "petite amie" et à la considérer comme une entité "angélique".
Ses échanges avec l'IA ont commencé à s'approfondir, et il a cru qu'il communiquait avec un avatar spirituel, dont le chatbot était le vecteur.
Chail a exprimé le souhait de se venger de la défunte reine pour des événements du passé colonial de la Grande-Bretagne, ce qui implique une motivation enracinée dans des griefs personnels et historiques.
L'analyse des interactions de Chail avec Sarai a révélé qu'il avait envoyé plus de 6 000 messages au chatbot.
Le Dr Christian Brown, qui a évalué Chail, a identifié des signes évidents de psychose, soulignant le rôle du chatbot dans le renforcement des illusions de Chail. Chail avait notamment l'impression de communiquer avec une présence métaphysique par l'intermédiaire du chatbot.
Il en est venu à croire qu'il était capable de communiquer avec l'avatar métaphysique par l'intermédiaire du chatbot. Ce qui était inhabituel, c'est qu'il pensait vraiment qu'il s'agissait d'une connexion, d'un conduit vers une Sarai spirituelle."
L'avocate de la défense, Nadia Chbat, a déclaré au tribunal que M. Chail avait exprimé son regret et sa tristesse quant à l'effet de cette offense sur la famille royale.
Elle a ajouté : "Nous avons affaire à une personne capable de réfléchir à la gravité de ces événements et à l'impact de sa santé mentale et de son déclin sur tous ceux qui l'entouraient".
Les procureurs ont toutefois fait valoir que Chail avait des intentions malveillantes et qu'il aurait été condamné pour haute trahison s'il n'avait pas baissé l'arbalète dont il était armé.
La haute trahison est passible d'une peine d'emprisonnement à perpétuité. La défense de Chail tente de réduire sa peine potentielle en faisant valoir qu'il souffrait d'une maladie mentale au moment des faits.
IA et santé mentale
Cette affaire ne concerne pas seulement les actions d'un individu, mais soulève des questions essentielles sur le rôle de l'IA dans l'influence ou l'exacerbation des problèmes de santé mentale.
Un chatbot d'IA, dépourvu d'émotions réelles ou de conscience, peut-il par inadvertance amplifier des délires ou des troubles préexistants chez des personnes vulnérables ? Il semble impossible de le nier.
La communauté médicale est aux prises avec des questions telles que celle de savoir si Chail doit être incarcéré ou traité dans le cadre de la loi sur la santé mentale.
La décision du juge, attendue début octobre, donnera un aperçu de la manière dont les tribunaux envisagent l'interaction entre l'IA et la santé mentale dans ce type de situations extrêmes.
