AI chatbots van de doden kunnen ons voor altijd "digitaal achtervolgen", waarschuwt nieuw onderzoek

13 mei 2024
  • Onderzoekers van de Universiteit van Cambridge analyseerden de gevolgen van AI-diensten na het leven
  • Ze creëerden speculatieve scenario's om mogelijke schade of manipulatie te identificeren
  • Zonder regelgeving veranderen AI-diensten na het leven het rouwproces ten kwade

De dood is een van de meest geduchte tegenstanders van de mensheid - de enige uitdaging die we koste wat het kost willen overwinnen.

Van Ponce de Leons zoektocht naar de Bron van de Eeuwige Jeugd tot cryogeen invriezen, Silicon Valleyen transhumanistische dromen over samensmelting met machines, is er weinig dat mensen niet zouden doen om onze sterfelijke spiraal te ontstijgen.

Nu, met AI, heeft de mensheid misschien eindelijk die kans. Bedrijven zetten de eerste stappen om iemands levensgeschiedenis en biografie, opvattingen en meningen, spraak, 3D-visueel uiterlijk, enz. te digitaliseren en er digitale klonen van te maken die eeuwig 'leven'. 

Natuurlijk is dat niet per se onsterfelijkheid - het is eerder een vorm van digitale persistentie - een progressie van foto's en video's naar een rijkere vorm van memorabilia. 

Als brein-computer interfaces (BCI)neurale systemen zoals Neuralinken bio-geïnspireerde AI-architectuur gemodelleerd naar de evolutie van de hersenen, zou het op een dag mogelijk kunnen zijn om aspecten van iemands bewustzijn te kopiëren naar een digitaal systeem. 

Hoewel dit voorlopig nog zeer speculatief blijft, kloppen primitieve vormen van digitale onsterfelijkheid al aan de deur. 

Verschillende bedrijven bieden al diensten aan die de digitale voetafdrukken van een persoon - berichten op sociale media, teksten, stemopnames - invoeren in grote taalmodellen (LLM's) om griezelige simulaties te maken.

Techgiganten als Microsoft hebben zelfs patenten aangevraagd voor chatbots die de doden nabootsen. In China beweert een vrouw dat ze een bètatest heeft gedaan met Xiaoice - een AI-genoot die is ontworpen om "rouwenden te troosten" - door een versie van haar overleden beste vriend te maken. 

VR en de metaverse zal deze ervaringen alleen maar realistischer maken en ons in staat stellen om te communiceren met levensechte replica's van zowel de levenden als de doden.

We hebben dit onderwerp onlangs aangesneden in een DailyAI interview met David Palmer, CPO of PairPoint by Vodafone and Web3 Asia Alliance bestuurslid.

Zoals Palmer beschreef, zou dit kunnen zijn alsof "er een hele nieuwe wereld wordt gecreëerd. Denk aan begraafplaatsen... in plaats van een grafsteen te zien, kun je naar die mensen toe gaan en er interactie mee hebben. Je hebt een digitale wereld waar mensen voor altijd in kunnen leven.

AI-dood
Mock-up van een digitale afterlife service, waarvan er al een handvol bedrijven zijn. Bron: Universiteit van Cambridge.

Digitaal leven na de dood

Een provocerende nieuw onderzoek van onderzoekers aan de Universiteit van Cambridge waarschuwt dat zelfs primitieve vormen van digitale onsterfelijkheid het rouwproces kunnen verstoren.

Hyperrealistische AI-chatbots die overledenen simuleren dreigen de grens tussen leven en dood te vervagen, waardoor de samenleving gedwongen wordt om te worstelen met verontrustende vragen op het snijvlak van technologie en menselijke sterfelijkheid. 

Hoe zal het de nabestaanden beïnvloeden om te communiceren met "digitale geesten" die de spraakpatronen, herinneringen en persoonlijkheden van overleden dierbaren met verontrustende nauwkeurigheid nabootsen? 

Zouden kwaadwillenden deze intieme gegevens kunnen misbruiken om kwetsbare emoties te manipuleren voor winst? Welke rechten moeten de doden behouden over hun digitale hiernamaals? En hoe zit het als de modellen hallucineren en zich onvoorspelbaar gedragen?

Microsoft Copilot en ChatGPT hebben allebei uit zichzelf wild gehallucineerd in onverklaarbare massale instortingenZe namen onder andere personages aan die zweerden de wereld over te nemen, zelfverminking aanmoedigden of de zin van het leven kenden.

Het zou op zijn minst vreemd zijn als dergelijk gedrag afkomstig is van de AI-replica van je overleden familielid.  

Als hoofdauteur Dr. Katarzyna Nowaczyk-Basińskaonderzoeker bij Cambridge’s Leverhulme Centre for the Future of Intelligence, legt uitKunstmatige intelligentie die gebruikers in staat stelt om tekst- en spraakgesprekken te voeren met verloren dierbaren, loopt het risico psychologische schade te veroorzaken en de achterblijvers zelfs digitaal te 'achtervolgen' zonder ontwerpveiligheidsnormen."

Onderzoekers van de Universiteit van Cambridge beschrijven verschillende vormen van AI-diensten voor na de dood

Door middel van speculatieve ontwerpscenario's illustreert het artikel hoe deze op handen zijnde "digitale leven na de dood industrie" rijp is voor misbruik. 

Eerst beschrijven de onderzoekers een fictieve app, "MaNana", waarmee rouwenden de gegevens van hun grootmoeder kunnen uploaden om troostende chatbots te maken vol nostalgische verhalen en recepten. Maar na een gratis proefperiode begint de bot plotseling producten aan te prijzen met "oma's" stem.

Of denk eens aan "Paren't", een dienst die zogenaamd kinderen helpt bij het verwerken van verdriet door een dode ouder te simuleren. Een 8-jarige jongen vindt troost door met "mama" te praten - totdat de bot griezelig begint aan te dringen dat ze nog leeft en binnenkort naar hem toe komt. Hoe zal dat een ontwikkelende geest beïnvloeden?

Dan is er ook nog "Stay", waarmee stervende gebruikers in het geheim een account kunnen aanmaken om 20 jaar lang te blijven "leven" en zo digitale reïncarnatie aan anderen op te dringen. 

Een rouwende dochter raakt emotioneel uitgeput door de dagelijkse chats met "papa", maar kan niet opzeggen zonder de voorwaarden te schenden waarmee hij heeft ingestemd. Ondertussen wordt haar broer tegen zijn wil gestalkt door ongevraagde berichten van de vader-bot.

De onderzoekers stellen dat, naast de verontrustende aard van deze ontmoetingen, het een verschuiving in de menselijke conditie zou kunnen betekenen.

Historisch gezien hebben culturele rouwpraktijken individuele catharsis en collectieve zingeving mogelijk gemaakt bij de confrontatie met de dood. 

"De dood is een ongelooflijk delicate en gevoelige kwestie, die niet alleen een impact heeft op de persoon die overlijdt, maar ook op de hele gemeenschap die ze achterlaten," schrijven ze in het onderzoek.

Nu dreigt AI deze lang gevestigde, delicate rouwprocessen te verstoren.

Door digitale avatars te creëren die een voortdurende relatie met de doden simuleren, worden ze voor eeuwig in de tijd opgeschort en kunnen relaties niet vooruitgaan. 

Voeg daar de kans op emotionele manipulatie door slechte acteurs aan toe - een fenomeen dat de onderzoekers "digital haunting" noemen - en de kans op schade is duizelingwekkend.

Invloed op sociale instellingen, spiritualiteit en politiek

Een andere mogelijkheid die buiten de Cambridge studie is het idee om de doden digitaal te laten herrijzen en zo nieuwe vormen van sekte-achtig gedrag te laten ontstaan.

Charismatische figuren kunnen mogelijk nog meer invloed en macht vergaren na hun dood via AI-avatars.

Volgelingen kunnen steeds meer toegewijd raken aan deze digitale geesten, op zoek naar begeleiding, wijsheid en verbondenheid van gene zijde van het graf. Dit zou kunnen leiden tot nieuwe religieuze of spirituele bewegingen rond de virtuele onsterfelijkheid van vereerde leiders.

Polariserende figuren zouden de samenleving voor altijd kunnen beïnvloeden door vormen van digitale onsterfelijkheid. (Gemaakt met DALL-E 3)

Bovendien kan het idee van digitale wederopstanding lang gekoesterde overtuigingen over de aard van de ziel en het hiernamaals in twijfel trekken. Veel religieuze tradities stellen dat de ziel bij de dood het lichaam verlaat en naar een ander rijk overgaat.

Maar als AI de essentie van een persoon kan vastleggen en bewaren, wat betekent dat dan voor het lot van hun eeuwige geest?

Sommigen beweren dat digitale onsterfelijkheid een manier is om de dood te omzeilen en een vorm van technotranscendentie te bereiken. Anderen zien het misschien als een ontheiliging van de natuurlijke orde en een belediging van de goddelijke wil. Dat zou kunnen leiden tot schisma's binnen geloofsgemeenschappen.

Vorig jaar leverde een Duitse kerk een AI-gegenereerde preek gepresenteerd door digitale avatars.

Dit eigenzinnige experiment, gemaakt door Jonas Simmerlein, een theoloog en filosoof uit de University of Viennaillustreert het praktische potentieel van AI in religie en spiritualisme.

Het is waarschijnlijk slechts een kwestie van tijd voordat we de opkomst zien van technologisch gedreven spirituele bewegingen rond AI.

Politieke invloed buiten het graf

Een ander mogelijk effect is het vervagen van de grenzen tussen levenden en doden in de publieke sfeer.

Als AI-gegenereerde avatars van overleden beroemdheden, historische figuren en gewone individuen steeds vaker voorkomen, kunnen ze de actualiteit beïnvloeden en de publieke opinie vormen. Stel je een controversiële politieke aanbeveling voor van een AI-kopie van een geliefde of machtige leider.

Niet lang geleden werd de overleden Indonesische dictator Soeharto werd digitaal gereanimeerd om mensen te adviseren om te gaan stemmen in de aanloop naar de verkiezingen in het land. Hoewel het vrij onschuldig is, laat dit opnieuw zien dat het potentieel er al is.

Ongelijkheid verergeren

Er bestaat ook een risico dat digitale onsterfelijkheid bestaande ongelijkheden verergert en nieuwe vormen van sociale stratificatie creëert.

Net als in het leven hebben de rijken en bevoorrechten wellicht meer toegang tot de technologie en middelen die nodig zijn om hoogwaardige, overtuigende digitale replica's van zichzelf te maken.

Dit zou kunnen leiden tot een toekomst waarin de virtuele nalatenschap van de elite buitenproportionele invloed blijft uitoefenen, terwijl de stemmen en verhalen van de gemarginaliseerden in de vergetelheid raken.

In dit scenario wordt digitale onsterfelijkheid nog een middel om macht en status voort te zetten na het graf.

Van wie zijn de gegevens van de doden?

Een andere relevante vraag is wie de gegevens van de doden "bezit" en waarvoor ze kunnen worden gebruikt. Als een avatar een contract tekent of een aankoop doet, is dat dan wettelijk bindend? 

Kunnen interacties in het hiernamaals zelfs dienen als bewijs in rechtszaken of verkiezingen beïnvloeden via steunbetuigingen?

Zouden rouwenden ongezond gehecht raken of zelfs de voorkeur geven aan de geïdealiseerde AI metgezel boven hun imperfecte, ademende dierbaren?

Een goed voorbeeld: Hollywood-acteurs, waaronder icoon James Dean, die meer dan 70 jaar geleden stierf, zijn nu een "digitale tweeling" hebben die kunnen lopen, praten en acteren naast levende artiesten, gebruik makend van archiefbeelden, foto's en geluidsopnames. 

Dean's digitale tweeling wordt opgeslagen door het mediabureau WRX en haar zusterlicentiebedrijf, CMG Worldwide. CMG Worldwide vertegenwoordigt sterren en publieke figuren zoals Amelia Earhart, Bettie Page, Malcolm X, and Rosa Parks

CMG wereldwijd beschrijft zijn diensten: "CMG is de actieve bedrijfsagent voor meer dan 200 van deze gewilde klanten. In ons vierde decennium van behoud, promotie en bescherming van de nalatenschap van onze klanten, geven we het intellectuele eigendom van onze klanten in licentie aan de grootste bedrijven ter wereld."

Dean is de nieuwste beroemdheid die de digitale reanimatiebehandeling krijgt, na sterren als Carrie Fisher en Paul Walkerwiens postume filmoptredens mogelijk werden gemaakt door geavanceerde CGI. 

Als iemands gegevens eenmaal zijn ondertekend, kan het lastig zijn om ze te beheren nadat ze zijn overleden.

Nogmaals, dit is niet alleen speculatie. Bijvoorbeeld, de overleden komiek George Carlin werd gekopieerd en gebruikt in een AI-gegenereerde show genaamd "George Carlin: I'm Glad I'm Dead" zonder zijn toestemming of die van zijn familie, wat leidde tot een storm van controverse en een daaropvolgende rechtszaak.

Overleden acteur Robin Williams was ook onderworpen aan stem klonenwaarop zijn dochter, Zelda Williams, reageerde: "Deze herscheppingen zijn op hun best een slechte kopie van grotere mensen, maar op hun slechtst een afschuwelijk Frankensteiniaans monster, in elkaar geflanst uit de slechtste stukjes van alles wat deze industrie is, in plaats van waar het voor zou moeten staan."

De risico's van het digitale hiernamaals beperken

Om de risico's te beperken, stelt het Cambridge-team strenge richtlijnen voor "verantwoorde digitale opstanding" voor. 

Eerst en vooral, zeggen ze, is het van het grootste belang om duidelijke toestemming van de overledene te krijgen vóór de dood en een positieve opt-in van degenen die met hun avatars willen interageren. 

Het onderzoek beveelt ook beperkingen aan voor commercialisering en reclame, "zinvolle transparantie" om waanvoorstellingen te voorkomen en de mogelijkheid van een waardige "digitale begrafenis" zodra mensen klaar zijn om los te laten. 

Het alternatief, waarschuwen ze, is een maatschappij die achtervolgd wordt door de altijd aanwezige datageesten van de overledenen. Een bestaan waarin de doden nooit volledig te ruste worden gelegd, maar in plaats daarvan blijven hangen op onze apparaten, altijd slechts een klik verwijderd.

"We moeten nu gaan nadenken over hoe we de sociale en psychologische risico's van digitale onsterfelijkheid kunnen beperken, want de technologie is er al," zei Nowaczyk-Basińska

"Als we niet snel actie ondernemen, kan de impact op hoe we betekenis construeren in relatie tot de menselijke eindigheid diepgaand zijn - en diep verontrustend."

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Sam Jeans

Sam is een wetenschap- en technologieschrijver die bij verschillende AI-startups heeft gewerkt. Als hij niet aan het schrijven is, leest hij medische tijdschriften of graaft hij door dozen met vinylplaten.

×

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden