De dødes AI-chatbots kan "hjemsøge" os digitalt for evigt, advarer nyt studie

13. maj 2024
  • Forskere fra University of Cambridge analyserede konsekvenserne af AI-tjenester efter døden
  • De skabte spekulative scenarier for at identificere potentiale for skade eller manipulation
  • Uden regulering ændrer AI-tjenester efter døden sorgprocessen til det værre

Døden er en af menneskehedens mest formidable modstandere - den ene udfordring, som vi er desperate efter at overvinde for enhver pris.

Fra Ponce de Leons søgen efter ungdommens kilde til kryogenisk nedfrysning, Silicon Valleyog transhumanistiske drømme om at smelte sammen med maskiner, er der ikke meget, vi mennesker ikke ville gøre for at overskride vores dødelige hylster.

Nu, med AI, får menneskeheden måske endelig den mulighed. Virksomheder tager de første skridt til at digitalisere en persons livshistorie og biografi, synspunkter og meninger, tale, visuelle 3D-udseende osv. og gøre dem til digitale kloner, der "lever" for evigt. 

Det er selvfølgelig ikke udødelighed i sig selv - det er snarere en form for digital vedholdenhed - en udvikling fra fotos og videoer til en rigere form for memorabilia. 

Som hjerne-computer-grænseflader (BCI), neurale systemer som f.eks. Neuralinkog bio-inspireret AI-arkitektur Med udgangspunkt i hjernens udvikling vil det måske en dag være muligt at kopiere aspekter af en persons bevidsthed ind i et digitalt system. 

Selv om det indtil videre er meget spekulativt, banker primitive former for digital udødelighed allerede på døren. 

Flere virksomheder tilbyder allerede tjenester, der fodrer en persons digitale fodspor - indlæg på sociale medier, tekster, stemmeoptagelser - ind i store sprogmodeller (LLM'er) for at skabe uhyggelige simuleringer.

Teknologigiganter som Microsoft har endda søgt om patent på chatbots, der efterligner de døde. I Kina hævder en kvinde, at hun betatestede Xiaoice - en AI-ledsager, der er designet til at "trøste de sørgende" - ved at skabe en version af hendes afdøde bedste ven. 

VR og metaverse vil kun gøre disse oplevelser mere realistiske og give os mulighed for at interagere med livagtige kopier af både de levende og de døde.

Vi berørte for nylig dette emne i en nylig DailyAI-interview med David Palmer, CPO of PairPoint by Vodafone and Web3 Asia Alliance bestyrelsesmedlem.

Som Palmer beskrev det, kunne det være som "en helt ny verden, der bliver skabt. Tænk på kirkegårde ... i stedet for at se en gravsten, kan du gå hen og interagere med de mennesker. Du har denne digitale verden, som folk i bund og grund kan bebo for evigt."

AI-død
Mock-up af en digital efterlivstjeneste, som der allerede findes en håndfuld virksomheder af. Kilde: Universitetet i Cambridge.

Digitalt liv efter døden

En provokerende nyt studie af forskere ved University of Cambridge advarer om, at selv primitive former for digital udødelighed kan vende op og ned på sorgprocessen.

Hyperrealistiske AI-chatbots, der simulerer afdøde, truer med at udviske grænsen mellem liv og død og tvinger samfundet til at forholde sig til foruroligende spørgsmål i krydsfeltet mellem teknologi og menneskelig dødelighed. 

Hvordan vil det påvirke de efterladte at kommunikere med "digitale spøgelser", der efterligner afdødes talemønstre, minder og personligheder med foruroligende nøjagtighed? 

Kan dårlige aktører udnytte disse intime data til at manipulere med skrøbelige følelser for at tjene penge? Hvilke rettigheder skal de døde have over deres digitale efterliv? Og hvad hvis modellerne hallucinerer og opfører sig uforudsigeligt?

Microsoft Copilot og ChatGPT har begge hallucineret vildt af sig selv i uforklarlige massesmeltningerDe antog personligheder, der blandt andet lovede at overtage verden, opfordrede til selvskade eller vidste, hvad meningen med livet var.

Det ville mildest talt være mærkeligt, hvis en sådan adfærd stammede fra dit afdøde familiemedlems AI-replika.  

Som hovedforfatter Dr. Katarzyna Nowaczyk-Basińskaen forsker ved Cambridge’s Leverhulme Centre for the Future of Intelligence, forklarer"Kunstig intelligens, der giver brugerne mulighed for at føre tekst- og stemmesamtaler med forsvundne kære, risikerer at forårsage psykologisk skade og endda digitalt 'hjemsøge' de efterladte uden designsikkerhedsstandarder."

Forskere fra University of Cambridge beskriver flere former for AI-tjenester efter døden

Gennem spekulative designscenarier illustrerer artiklen, hvordan denne forestående "digitale efterlivsindustri" er moden til at blive misbrugt. 

Først beskriver forskerne en fiktiv app, "MaNana", som lader sørgende uploade deres bedstemødres data for at producere trøstende chatbots fyldt med nostalgiske historier og opskrifter. Men efter en gratis prøveperiode begynder botten pludselig at sælge produkter med "bedstemors" stemme.

Eller tænk på "Paren't", en tjeneste, der angiveligt hjælper børn med at bearbejde sorg ved at simulere en død forælder. En 8-årig dreng finder trøst i at tale med "mor" - indtil boten begynder at insistere på, at hun stadig er i live og snart kommer og besøger ham. Hvordan vil det påvirke et sind i udvikling?

Så er der "Stay", som giver døende brugere mulighed for i al hemmelighed at oprette en konto, så de kan blive ved med at "leve" i 20 år og tvinge andre til digital reinkarnation. 

En efterladt datter bliver følelsesmæssigt drænet af daglige chats med "far", men kan ikke aflyse uden at overtræde de betingelser, han accepterede. I mellemtiden bliver hendes bror forfulgt af uopfordrede beskeder fra far-botten mod hans vilje.

Forskerne hævder, at ud over den foruroligende karakter af disse møder kan det udgøre et skift i den menneskelige tilstand.

Historisk set har kulturelle sorgpraksisser givet mulighed for individuel katarsis og kollektiv meningsdannelse i mødet med døden. 

"Døden er en utrolig delikat og følsom sag, som ikke kun påvirker den person, der går bort, men også hele det samfund, de efterlader sig," skriver de i undersøgelsen.

Nu truer kunstig intelligens med at forstyrre disse veletablerede, delikate sorgprocesser.

Ved at skabe digitale avatarer, der simulerer et løbende forhold til de døde, suspenderes de for evigt i tiden og forhindrer relationerne i at bevæge sig fremad. 

Hvis man dertil lægger risikoen for følelsesmæssig manipulation fra dårlige aktørers side - et fænomen, som forskerne kalder "digital hjemsøgning" - er skadespotentialet svimlende.

Indflydelse på sociale institutioner, spiritualitet og politik

En anden mulighed, der ligger uden for Cambridge er ideen om at genoplive de døde digitalt for at skabe nye former for kultlignende adfærd.

Karismatiske personer kan potentielt få endnu mere indflydelse og magt efter døden gennem AI-avatarer.

Tilhængere kan blive mere og mere hengivne over for disse digitale spøgelser og søge vejledning, visdom og forbindelse fra den anden side af graven. Det kan føre til nye religiøse eller spirituelle bevægelser, der er centreret omkring ærværdige lederes virtuelle udødelighed.

Polariserende figurer kan påvirke samfundet for evigt gennem former for digital udødelighed. (Lavet med DALL-E 3)

Desuden kan forestillingen om digital genopstandelse udfordre gamle overbevisninger om sjælens natur og livet efter døden. Mange religiøse traditioner hævder, at sjælen forlader kroppen ved døden og overgår til et andet rige.

Men hvis AI kan indfange og bevare en persons essens, hvad betyder det så for deres evige ånds skæbne?

Nogle vil måske hævde, at digital udødelighed er en måde at snyde døden på og opnå en form for tekno-transcendens. Andre vil måske se det som en vanhelligelse af den naturlige orden og en fornærmelse mod den guddommelige vilje. Det kan udløse splittelse i trossamfundene.

Sidste år leverede en tysk kirke en AI-genereret prædiken præsenteret af digitale avatarer.

Dette skæve eksperiment, skabt af Jonas Simmerleinen teolog og filosof fra den University of Viennaillustrerer det praktiske potentiale i AI inden for religion og spiritisme.

Det er nok kun et spørgsmål om tid, før vi ser fremkomsten af teknologisk drevne spirituelle bevægelser centreret omkring AI.

Politisk indflydelse ud over graven

En anden mulig effekt er, at grænserne mellem de levende og de døde i det offentlige rum udviskes.

Efterhånden som AI-genererede avatarer af afdøde berømtheder, historiske personer og almindelige mennesker bliver mere udbredte, kan de påvirke aktuelle begivenheder og forme den offentlige mening. Forestil dig en kontroversiel politisk anbefaling fra en AI-kopi af en elsket eller magtfuld leder.

For ikke længe siden blev den afdøde indonesiske diktator Suharto blev digitalt genoplivet for at råde folk til at stemme forud for landets valg. Selvom det er ganske harmløst, viser det igen, hvordan potentialet allerede er der.

Forværring af ulighed

Der er også en risiko for, at digital udødelighed forværrer eksisterende uligheder og skaber nye former for social lagdeling.

Ligesom i virkeligheden har de rige og privilegerede måske større adgang til den teknologi og de ressourcer, der er nødvendige for at skabe overbevisende digitale kopier af sig selv i høj kvalitet.

Det kan føre til en fremtid, hvor elitens virtuelle efterladenskaber fortsat har stor indflydelse, mens de marginaliseredes stemmer og historier forsvinder i glemslen.

I dette scenarie bliver digital udødelighed endnu et middel til at fastholde magt og status ud over graven.

Hvem ejer den dødes data?

Et andet relevant spørgsmål er, hvem der "ejer" de dødes data - og hvad de kan bruges til? Hvis en avatar underskriver en kontrakt eller foretager et køb, er det så juridisk bindende? 

Kunne interaktioner efter døden endda tjene som bevismateriale i retssager eller påvirke valg gennem støtte?

Kan sørgende blive usundt knyttet til eller endda foretrække den idealiserede AI-ledsager frem for deres uperfekte, åndende kære?

Et eksempel: Hollywood-skuespillere, herunder ikonet James Dean, som døde for over 70 år siden, er nu har "digitale tvillinger" der kan gå, tale og optræde sammen med levende kunstnere, og som trækker på arkivoptagelser, fotos og lydoptagelser. 

Deans digitale tvilling gemmes af mediebureauet WRX og dets søsterlicensselskab, CMG Worldwide. CMG Worldwide repræsenterer stjerner og offentlige personer som Amelia Earhart, Bettie Page, Malcolm X, and Rosa Parks

CMG Worldwide beskriver dets tjenester: "CMG er den aktive forretningsagent for over 200 af disse eftertragtede kunder. I vores fjerde årti med at bevare, fremme og beskytte vores kunders arv giver vi licens til vores kunders intellektuelle ejendom til de største virksomheder i verden."

Dean er bare den seneste berømthed, der har fået den digitale genoplivningsbehandling, sammen med stjerner som Carrie Fisher og Paul Walkerhvis posthume filmoptrædener blev muliggjort af banebrydende CGI. 

Når en persons data er overdraget, kan det være vanskeligt at kontrollere dem efter vedkommendes død.

Igen, det er ikke bare spekulationer. For eksempel blev den afdøde komiker George Carlin kopieret og brugt i et AI-genereret show med titlen "George Carlin: I'm Glad I'm Dead" uden hans eller hans families tilladelse, hvilket førte til en storm af kontroverser og en efterfølgende retssag.

Den afdøde skuespiller Robin Williams var også udsat for stemmekloningHans datter, Zelda Williams, reagerede: "Disse genskabelser er i bedste fald en dårlig kopi af større mennesker, men i værste fald et forfærdeligt Frankenstein-monster, der er flikket sammen af de værste dele af alt, hvad denne industri er, i stedet for det, den burde stå for."

Begrænsning af risikoen ved det digitale liv efter døden

For at mindske risikoen foreslår Cambridge-teamet strenge retningslinjer for "ansvarlig digital genopstandelse". 

De siger, at det først og fremmest er vigtigt at sikre et klart samtykke fra den afdøde før døden indtræffer og en bekræftelse fra dem, der skal interagere med deres avatarer. 

Undersøgelsen anbefaler også grænser for kommercialisering og reklame, "meningsfuld gennemsigtighed" for at undgå vildfarelser og mulighed for en værdig "digital begravelse", når folk er klar til at give slip. 

Alternativet, advarer de, er et samfund, der hjemsøges af de afdødes evigt tilstedeværende dataspøgelser. En tilværelse, hvor de døde aldrig helt bliver stedt til hvile, men i stedet bliver hængende på vores enheder, altid kun et klik væk.

"Vi er nødt til at begynde at tænke nu på, hvordan vi mindsker de sociale og psykologiske risici ved digital udødelighed, for teknologien er her allerede", sagde han. Nowaczyk-Basińska

"Hvis vi ikke handler hurtigt, kan indvirkningen på, hvordan vi skaber mening i forhold til menneskets endelighed, blive dybtgående - og dybt bekymrende."

Deltag i fremtiden


TILMELD DIG I DAG

Klar, kortfattet, omfattende. Få styr på AI-udviklingen med DailyAI

Sam Jeans

Sam er videnskabs- og teknologiforfatter og har arbejdet i forskellige AI-startups. Når han ikke skriver, kan han finde på at læse medicinske tidsskrifter eller grave i kasser med vinylplader.

×

GRATIS PDF EKSKLUSIVT
Vær på forkant med DailyAI

Tilmeld dig vores ugentlige nyhedsbrev og få eksklusiv adgang til DailyAI's seneste e-bog: 'Mastering AI Tools: Din 2024-guide til forbedret produktivitet'.

*Ved at tilmelde dig vores nyhedsbrev accepterer du vores Politik for beskyttelse af personlige oplysninger og vores Vilkår og betingelser