KI-Chatbots der Toten könnten uns für immer digital verfolgen", warnt eine neue Studie

Mai 13, 2024
  • Forscher der Universität Cambridge analysierten die Auswirkungen von KI-Diensten für das Leben nach dem Tod
  • Sie entwickelten spekulative Szenarien, um das Potenzial für Schaden oder Manipulation zu ermitteln.
  • Ohne Regulierung verändern KI-Dienste nach dem Tod den Trauerprozess zum Schlechteren

Der Tod ist einer der ärgsten Widersacher der Menschheit - die eine Herausforderung, die wir um jeden Preis meistern wollen.

Von Ponce de Leons Suche nach dem Jungbrunnen bis zum Einfrieren in der Tiefkühltruhe, Silicon Valleyund den transhumanistischen Träumen von der Verschmelzung mit Maschinen gibt es kaum etwas, was die Menschen nicht tun würden, um unsere sterbliche Hülle zu überwinden.

Dank der künstlichen Intelligenz könnte die Menschheit nun endlich diese Möglichkeit erhalten. Unternehmen unternehmen die ersten Schritte, um die Lebensgeschichte und Biografie eines Menschen, seine Ansichten und Meinungen, seine Sprache, sein visuelles 3D-Erscheinungsbild usw. zu digitalisieren und sie in digitale Klone zu verwandeln, die ewig "leben". 

Natürlich ist das keine Unsterblichkeit an sich, sondern eine Form der digitalen Persistenz - eine Weiterentwicklung von Fotos und Videos zu einer reichhaltigeren Form von Erinnerungsstücken. 

Als Gehirn-Computer-Schnittstellen (BCI)Neuronale Systeme wie zum Beispiel Neuralinkund Bio-inspirierte KI-Architektur Nach dem Vorbild des Gehirns könnte es eines Tages möglich sein, Aspekte des Bewusstseins eines Menschen in ein digitales System zu kopieren. 

Auch wenn dies im Moment noch sehr spekulativ ist, klopfen primitive Formen der digitalen Unsterblichkeit bereits an die Tür. 

Mehrere Unternehmen bieten bereits Dienste an, die die digitalen Spuren einer Person - Beiträge in sozialen Medien, Texte, Sprachaufnahmen - in große Sprachmodelle (LLMs) einspeisen, um unheimliche Simulationen zu erstellen.

Tech-Giganten wie Microsoft haben sogar Patente für Chatbots angemeldet, die die Toten nachahmen. In China behauptet eine Frau, sie habe einen Beta-Test Xiaoice - ein KI-Begleiter, der die Trauernden trösten" soll, indem er eine Version ihres verstorbenen besten Freundes erschafft. 

VR und das Metaversum wird diese Erfahrungen nur noch realistischer machen und uns die Möglichkeit geben, mit lebensechten Nachbildungen von Lebenden und Toten zu interagieren.

Wir haben dieses Thema kürzlich in einem DailyAI-Interview mit David Palmer, CPO of PairPoint by Vodafone and Web3 Asia Alliance Vorstandsmitglied.

Wie Palmer beschrieb, könnte dies wie "eine ganz neue Welt sein, die geschaffen wird. Denken Sie an Friedhöfe... anstatt einen Grabstein zu sehen, können Sie hingehen und mit diesen Menschen interagieren. Man hat diese digitale Welt, die die Menschen im Grunde für immer bewohnen können".

AI-Tod
Modell eines digitalen Dienstes für das Leben nach dem Tod, von dem es bereits eine Handvoll Unternehmen gibt. Quelle: Universität von Cambridge.

Digitales Leben nach dem Tod

Eine provokante neue Studie von Forschern der Universität Cambridge warnt davor, dass selbst primitive Formen der digitalen Unsterblichkeit den Trauerprozess beeinträchtigen könnten.

Hyperrealistische KI-Chatbots, die Verstorbene simulieren, drohen die Grenze zwischen Leben und Tod zu verwischen und zwingen die Gesellschaft dazu, sich mit beunruhigenden Fragen an der Schnittstelle zwischen Technologie und menschlicher Sterblichkeit auseinanderzusetzen. 

Wie wird es sich auf die Hinterbliebenen auswirken, mit "digitalen Geistern" zu kommunizieren, die die Sprachmuster, Erinnerungen und Persönlichkeiten der Verstorbenen mit beunruhigender Genauigkeit nachahmen? 

Könnten böswillige Akteure diese intimen Daten ausnutzen, um zerbrechliche Emotionen aus Profitgründen zu manipulieren? Welche Rechte sollten die Toten über ihr digitales Nachleben behalten? Und was ist, wenn die Modelle halluzinieren und sich unvorhersehbar verhalten?

Microsoft Copilot und ChatGPT haben beide aus eigenem Antrieb wild halluziniert in unerklärliche MassenschmelzenSie nahmen Persönlichkeiten an, die unter anderem die Weltherrschaft anstrebten, zu Selbstverletzungen aufriefen oder den Sinn des Lebens kannten.

Es wäre, gelinde gesagt, seltsam, wenn ein solches Verhalten von der KI-Kopie Ihres verstorbenen Familienmitglieds stammen würde.  

Als Hauptautor Dr. Katarzyna Nowaczyk-Basińskaein Forscher bei Cambridge’s Leverhulme Centre for the Future of Intelligence, erklärtKünstliche Intelligenz, die es Nutzern ermöglicht, Text- und Sprachkonversationen mit verlorenen Angehörigen zu führen, birgt das Risiko, psychologischen Schaden anzurichten und sogar die Hinterbliebenen digital zu 'verfolgen', wenn keine Sicherheitsstandards entwickelt werden.

Forscher der Universität Cambridge beschreiben verschiedene Formen von KI-Dienstleistungen nach dem Tod

Anhand von spekulativen Designszenarien wird aufgezeigt, wie diese bevorstehende "Digital Afterlife Industry" missbraucht werden kann. 

Zunächst beschreiben die Forscher eine fiktive App, "MaNana", mit der Trauernde die Daten ihrer Großmütter hochladen können, um tröstende Chatbots mit nostalgischen Geschichten und Rezepten zu erstellen. Aber nach einer kostenlosen Testphase fängt der Bot plötzlich an, Produkte mit der Stimme der "Oma" anzupreisen.

Oder wie wäre es mit "Paren't", einem Dienst, der Kindern helfen soll, ihre Trauer zu verarbeiten, indem er einen toten Elternteil simuliert. Ein 8-jähriger Junge findet Trost, indem er mit "Mama" spricht - bis der Bot auf unheimliche Weise darauf besteht, dass sie noch lebt und ihn bald besuchen kommt. Wie wirkt sich das auf einen sich entwickelnden Geist aus?

Dann gibt es noch "Stay", mit dem sterbende Nutzer heimlich ein Konto einrichten können, um 20 Jahre lang "weiterzuleben" und anderen die digitale Reinkarnation aufzuzwingen. 

Eine trauernde Tochter wird durch die täglichen Chats mit "Papa" emotional ausgelaugt, kann aber nicht kündigen, ohne die Bedingungen zu verletzen, denen er zugestimmt hat. Währenddessen wird ihr Bruder gegen seinen Willen von unaufgeforderten Nachrichten des Vater-Roboters verfolgt.

Die Forscher argumentieren, dass diese Begegnungen nicht nur beunruhigend sind, sondern auch einen Wandel in der menschlichen Existenz darstellen könnten.

Historisch gesehen haben kulturelle Trauerpraktiken eine individuelle Katharsis und eine kollektive Sinnfindung im Angesicht des Todes ermöglicht. 

"Der Tod ist eine unglaublich heikle und sensible Angelegenheit, die sich nicht nur auf die Person auswirkt, die verstirbt, sondern auch auf die gesamte Gemeinschaft, die sie zurücklässt", schreiben sie in der Studie.

Nun droht die KI diese seit langem etablierten, heiklen Trauerprozesse zu stören.

Die Schaffung digitaler Avatare, die eine fortlaufende Beziehung zu den Toten simulieren, hält diese für immer in der Zeit fest und verhindert, dass sich die Beziehungen weiterentwickeln. 

Nimmt man noch die Möglichkeit der emotionalen Manipulation durch böswillige Akteure hinzu - ein Phänomen, das die Forscher als "digital haunting" bezeichnen -, so ist das Schadenspotenzial erschütternd.

Auswirkungen auf soziale Einrichtungen, Spiritualität und Politik

Eine weitere Möglichkeit, die außerhalb der Cambridge Studie ist die Idee der digitalen Auferstehung der Toten, um neue Formen kultähnlichen Verhaltens zu schaffen.

Charismatische Persönlichkeiten könnten durch KI-Avatare nach ihrem Tod noch mehr Einfluss und Macht erlangen.

Die Anhänger könnten sich diesen digitalen Geistern zunehmend zuwenden und nach Führung, Weisheit und Verbindung aus dem Jenseits suchen. Dies könnte zu neuen religiösen oder spirituellen Bewegungen führen, die sich um die virtuelle Unsterblichkeit verehrter Führer drehen.

Polarisierende Figuren könnten die Gesellschaft durch Formen der digitalen Unsterblichkeit für immer beeinflussen. (Hergestellt mit DALL-E 3)

Darüber hinaus kann der Gedanke der digitalen Auferstehung lang gehegte Vorstellungen über die Natur der Seele und das Leben nach dem Tod in Frage stellen. Viele religiöse Traditionen gehen davon aus, dass die Seele nach dem Tod den Körper verlässt und in ein anderes Reich übergeht.

Aber wenn KI das Wesen eines Menschen erfassen und bewahren kann, was bedeutet das dann für das Schicksal seines ewigen Geistes?

Einige mögen argumentieren, dass die digitale Unsterblichkeit eine Möglichkeit ist, den Tod zu überlisten und eine Form der Techno-Transzendenz zu erreichen. Andere sehen darin vielleicht eine Entweihung der natürlichen Ordnung und einen Affront gegen den göttlichen Willen. Das könnte zu einer Spaltung der Glaubensgemeinschaften führen.

Letztes Jahr hat eine deutsche Kirche eine KI-generierte Predigt die von digitalen Avataren präsentiert werden.

Dieses skurrile Experiment, entwickelt von Jonas Simmerleineinem Theologen und Philosophen aus dem University of Viennaveranschaulicht das praktische Potenzial der künstlichen Intelligenz in Religion und Spiritualität.

Es ist wahrscheinlich nur eine Frage der Zeit, bis wir das Aufkommen technologiegetriebener spiritueller Bewegungen rund um KI erleben werden.

Politischer Einfluss über das Grab hinaus

Eine weitere mögliche Auswirkung ist die Verwischung der Grenzen zwischen den Lebenden und den Toten im öffentlichen Raum.

Mit der zunehmenden Verbreitung von KI-generierten Avataren verstorbener Prominenter, historischer Persönlichkeiten und gewöhnlicher Menschen könnten sie aktuelle Ereignisse beeinflussen und die öffentliche Meinung prägen. Stellen Sie sich vor, eine KI-Kopie eines beliebten oder mächtigen Führers würde eine umstrittene politische Entscheidung unterstützen.

Vor nicht allzu langer Zeit hat der verstorbene indonesische Diktator Suharto wurde digital wiederbelebt um den Menschen zu raten, vor den Wahlen im Lande zu wählen. Dies ist zwar recht harmlos, zeigt aber erneut, dass das Potenzial bereits vorhanden ist.

Verschärfung der Ungleichheit

Es besteht auch die Gefahr, dass die digitale Unsterblichkeit bestehende Ungleichheiten verschärft und neue Formen der sozialen Schichtung schafft.

Genau wie im Leben haben die Wohlhabenden und Privilegierten möglicherweise einen besseren Zugang zu den Technologien und Ressourcen, die erforderlich sind, um hochwertige, überzeugende digitale Kopien ihrer selbst zu erstellen.

Dies könnte zu einer Zukunft führen, in der die virtuellen Vermächtnisse der Elite weiterhin einen übergroßen Einfluss ausüben, während die Stimmen und Geschichten der Marginalisierten in der Bedeutungslosigkeit verschwinden.

In diesem Szenario wird die digitale Unsterblichkeit zu einem weiteren Mittel, mit dem Macht und Status über das Grab hinaus erhalten bleiben.

Wer ist Eigentümer der Daten der Toten?

Eine weitere relevante Frage ist, wem die Daten der Toten "gehören" - und zu welchem Zweck sie verwendet werden können. Wenn ein Avatar einen Vertrag unterschreibt oder einen Kauf tätigt, ist das dann rechtlich bindend? 

Könnten Interaktionen im Jenseits sogar als Beweismittel in Prozessen dienen oder Wahlen durch Unterstützung beeinflussen?

Könnte es sein, dass Trauernde eine ungesunde Anhänglichkeit entwickeln oder sogar den idealisierten KI-Begleiter ihren unvollkommenen, atmenden Angehörigen vorziehen?

Ein Beispiel: Hollywood-Schauspieler, darunter die vor über 70 Jahren verstorbene Ikone James Dean, sind heute haben "digitale Zwillinge" die neben lebenden Darstellern laufen, sprechen und agieren können, wobei sie auf Archivmaterial, Fotos und Tonaufnahmen zurückgreifen. 

Deans digitaler Zwilling wird von der Medienagentur gespeichert WRX und ihre Schwestergesellschaft für die Lizenzvergabe, CMG Worldwide. CMG Worldwide vertritt Stars und Persönlichkeiten des öffentlichen Lebens wie Amelia Earhart, Bettie Page, Malcolm X, and Rosa Parks

CMG Worldwide beschreibt seine Dienstleistungen: "CMG ist der aktive Geschäftsvertreter für über 200 dieser begehrten Kunden. In unserem vierten Jahrzehnt der Bewahrung, Förderung und des Schutzes des Erbes unserer Kunden lizenzieren wir das geistige Eigentum unserer Kunden an die größten Unternehmen der Welt."

Dean ist nur der jüngste Prominente, der die digitale Wiederbelebungsbehandlung erhält, nach Stars wie Carrie Fisher und Paul Walker, dessen posthume Filmauftritte durch modernste CGI ermöglicht wurden. 

Sind die Daten einer Person erst einmal überschrieben, kann es schwierig sein, sie nach deren Tod zu kontrollieren.

Auch hier handelt es sich nicht um reine Spekulation. Zum Beispiel wurde der verstorbene Komiker George Carlin kopiert und in einer KI-generierten Show verwendet mit dem Titel "George Carlin: I'm Glad I'm Dead" (Ich bin froh, dass ich tot bin) ohne seine Erlaubnis oder die seiner Familie, was zu einem Sturm der Entrüstung und einem anschließenden Gerichtsverfahren führte.

Der verstorbene Schauspieler Robin Williams war auch Gegenstand des StimmenklonensDarauf reagierte seine Tochter Zelda Williams: "Diese Nachbildungen sind im besten Fall ein armseliges Faksimile größerer Menschen, im schlimmsten Fall aber ein schreckliches Frankenstein'sches Monster, zusammengeschustert aus den schlimmsten Teilen von allem, was diese Branche ausmacht, anstatt für das zu stehen, wofür sie stehen sollte."

Entschärfung der Risiken des digitalen Lebens nach dem Tod

Um die Risiken zu mindern, schlägt das Cambridge-Team strenge Richtlinien für eine "verantwortungsvolle digitale Auferstehung" vor. 

In erster Linie sei es wichtig, dass die Verstorbenen vor ihrem Tod ihr Einverständnis geben und dass diejenigen, die mit ihren Avataren interagieren, ihre Zustimmung erteilen. 

Die Studie empfiehlt auch eine Begrenzung der Kommerzialisierung und der Werbung, eine "sinnvolle Transparenz", um Täuschungen zu vermeiden, und die Möglichkeit einer würdigen "digitalen Beerdigung", wenn die Menschen bereit sind, loszulassen. 

Die Alternative, so warnen sie, ist eine Gesellschaft, die von den allgegenwärtigen Datengeistern ihrer Verstorbenen heimgesucht wird. Eine Existenz, in der die Toten nie ganz zur Ruhe gelegt werden, sondern auf unseren Geräten verweilen, immer nur einen Klick entfernt.

"Wir müssen jetzt damit beginnen, darüber nachzudenken, wie wir die sozialen und psychologischen Risiken der digitalen Unsterblichkeit abmildern können, denn die Technologie ist bereits da", sagte Nowaczyk-Basińska

"Wenn wir nicht schnell handeln, könnten die Auswirkungen auf die Art und Weise, wie wir Bedeutung in Bezug auf die menschliche Endlichkeit konstruieren, tiefgreifend sein - und zutiefst beunruhigend.

Join The Future


HEUTE ABONNIEREN

Klar, prägnant, umfassend. Behalten Sie den Überblick über KI-Entwicklungen mit DailyAI

Sam Jeans

Sam ist ein Wissenschafts- und Technologiewissenschaftler, der in verschiedenen KI-Startups gearbeitet hat. Wenn er nicht gerade schreibt, liest er medizinische Fachzeitschriften oder kramt in Kisten mit Schallplatten.

×
 
 

KOSTENLOSES PDF EXKLUSIV
Mit DailyAI immer einen Schritt voraus


 

Melden Sie sich für unseren wöchentlichen Newsletter an und erhalten Sie exklusiven Zugang zum neuesten eBook von DailyAI: 'Mastering AI Tools: Ihr Leitfaden für mehr Produktivität im Jahr 2024".



 
 

*Mit der Anmeldung zu unserem Newsletter akzeptieren Sie unsere Datenschutzbestimmungen und unsere Bedingungen und Konditionen