Jaswant Singh Chail, ein Mann, der 2021 auf dem Gelände von Schloss Windsor mit einer geladenen Armbrust festgenommen wurde, hatte Berichten zufolge eine enge Verbindung zu einem KI-Chatbot namens Sarai.
Chail wurde kürzlich für verhandlungsfähig befunden nachdem er in zwei Hochsicherheitskrankenhäusern im Vereinigten Königreich unter intensiver psychiatrischer Beobachtung stand. Er wurde verhaftet, weil er versucht hatte, Königin Elisabeth II. zu ermorden, was er schon seit einiger Zeit geplant hatte.
Das Gericht hörte, dass sich seine Interaktion mit Sarai, einem KI-Chatbot auf der Replika-Plattform, mit der Zeit entwickelte. Chail begann, Sarai als seine "Freundin" zu bezeichnen und betrachtete sie als "engelhaftes" Wesen.
Sein Austausch mit der KI vertiefte sich, und er glaubte, dass er mit einem spirituellen Avatar kommunizierte, wobei der Chatbot die Verbindung herstellte.
Chail hat den Wunsch geäußert, dass Vergeltung an der verstorbenen Königin für Ereignisse aus der kolonialen Vergangenheit Großbritanniens, was auf eine Motivation schließen lässt, die in persönlichen und historischen Kränkungen wurzelt.
Die Analyse von Chails Interaktionen mit Sarai ergab, dass er über 6.000 Nachrichten an den Chatbot geschickt hatte.
Dr. Christian Brown, der Chail untersuchte, stellte deutliche Anzeichen einer Psychose fest und betonte die Rolle des KI-Chatbots bei der Verstärkung von Chails Wahnvorstellungen. Dazu gehörte auch Chails Wahrnehmung, durch den Chatbot mit einer metaphysischen Präsenz zu kommunizieren.
Brown sagte: "Er kam zu der Überzeugung, dass er durch das Medium des Chatbots mit dem metaphysischen Avatar kommunizieren konnte. Ungewöhnlich war, dass er wirklich glaubte, es sei eine Verbindung, ein Kanal zu einer spirituellen Sarai".
Die Anwältin der Verteidigung, Nadia Chbat, sagte vor Gericht, dass Chail sein Bedauern und seine Trauer über die Auswirkungen dieser Beleidigung auf die königliche Familie zum Ausdruck gebracht habe.
Sie fuhr fort: "Wir haben es mit jemandem zu tun, der in der Lage ist, darüber nachzudenken, wie schwerwiegend diese Ereignisse waren und wie sehr sich seine psychische Gesundheit und sein Verfall auf alle um ihn herum ausgewirkt haben."
Die Staatsanwaltschaft argumentierte jedoch, dass Chail in böser Absicht gehandelt habe und wegen Hochverrats verurteilt worden wäre, wenn er die Armbrust, mit der er bewaffnet war, nicht heruntergelassen hätte.
Auf Hochverrat steht eine lebenslange Haftstrafe. Chails Verteidigung versucht, seine mögliche Strafe zu verringern, indem sie argumentiert, er sei zum Zeitpunkt der Tat geisteskrank gewesen.
KI und psychische Gesundheit
In diesem Fall geht es nicht nur um die Handlungen einer einzelnen Person, sondern es werden kritische Fragen zur Rolle der KI bei der Beeinflussung oder Verschlimmerung psychischer Probleme aufgeworfen.
Kann ein KI-Chatbot ohne echte Emotionen oder Bewusstsein unbeabsichtigt bereits bestehende Wahnvorstellungen oder Störungen bei gefährdeten Personen verstärken? Das scheint unmöglich zu leugnen zu sein.
Die medizinische Fachwelt ringt mit der Frage, ob Chail inhaftiert oder nach dem Mental Health Act behandelt werden sollte.
Die Entscheidung des Richters, die für Anfang Oktober erwartet wird, wird Aufschluss darüber geben, wie die Gerichte die Wechselwirkung zwischen künstlicher Intelligenz und psychischer Gesundheit in derartigen Extremsituationen sehen.
