De dödas AI-chatbottar kan "digitalt hemsöka" oss för alltid, varnar ny studie

13 maj 2024
  • Forskare vid University of Cambridge analyserade effekterna av AI-tjänster för livet efter döden
  • De skapade spekulativa scenarier för att identifiera risken för skada eller manipulation
  • Utan reglering kan AI-tjänster för livet efter döden försämra sorgeprocessen

Döden är en av mänsklighetens mest fruktade motståndare - den utmaning som vi till varje pris vill övervinna.

Från Ponce de Leons sökande efter ungdomens källa till kryogenisk frysning, Silicon Valleyoch transhumanisternas drömmar om att smälta samman med maskiner finns det inte mycket vi människor inte skulle göra för att överleva vår dödliga spole.

Nu, med AI, kan mänskligheten äntligen få den möjligheten. Företag tar de första stegen för att digitalisera en persons livshistoria och biografi, åsikter och synpunkter, tal, visuella utseende i 3D etc. och förvandla dem till digitala kloner som "lever" för evigt. 

Det är förstås inte odödlighet i sig, utan snarare en form av digital beständighet - en utveckling från foton och videor till en rikare form av memorabilia. 

Som gränssnitt mellan hjärna och dator (BCI), neurala system som t.ex. Neuralink, och bioinspirerad AI-arkitektur med hjärnans utveckling som förebild, kan det en dag bli möjligt att kopiera aspekter av en persons medvetande till ett digitalt system. 

Även om detta än så länge är mycket spekulativt, knackar redan primitiva former av digital odödlighet på dörren. 

Flera företag erbjuder redan tjänster som matar in en persons digitala fotavtryck - inlägg i sociala medier, texter, röstinspelningar - i stora språkmodeller (LLM) för att skapa kusliga simuleringar.

Teknikjättar som Microsoft har till och med ansökt om patent för chatbottar som efterliknar de döda. I Kina hävdar en kvinna att hon betatestade Xiaoice - en AI-kompanjon som är utformad för att "trösta den sörjande" - genom att skapa en version av hennes avlidna bästa vän. 

VR och metaversen kommer bara att göra dessa upplevelser mer realistiska och göra det möjligt för oss att interagera med verklighetstrogna kopior av både levande och döda.

Vi tog nyligen upp detta ämne i en ny DailyAI-intervju med David Palmer, CPO of PairPoint by Vodafone and Web3 Asia Alliance styrelseledamot.

Som Palmer beskrev kan detta vara som "en helt ny värld som skapas. Tänk på kyrkogårdar ... i stället för att se en gravsten kan du gå och interagera med dessa människor. Du har den här digitala världen som människor i princip kan leva i för alltid."

AI-död
Mock-up av en digital tjänst för livet efter döden, som det redan finns en handfull företag som erbjuder. Källan är: Universitetet i Cambridge.

Digitalt liv efter döden

En provokativ ny studie av forskare vid University of Cambridge varnar för att även primitiva former av digital odödlighet kan förändra sorgeprocessen.

Hyperrealistiska AI-chatbottar som simulerar avlidna hotar att sudda ut gränsen mellan liv och död, vilket tvingar samhället att ta itu med oroande frågor i skärningspunkten mellan teknik och mänsklig dödlighet. 

Hur kommer det att påverka de efterlevande att kommunicera med "digitala spöken" som efterliknar döda nära och käras talmönster, minnen och personligheter med oroande exakthet? 

Kan dåliga aktörer utnyttja dessa intima uppgifter för att manipulera ömtåliga känslor i vinstsyfte? Vilka rättigheter bör de döda ha över sina digitala efterliv? Och vad händer om modellerna hallucinerar och agerar oförutsägbart?

Microsoft Copilot och ChatGPT har båda hallucinerat vilt av egen kraft i oförklarliga masshärdsmältoroch antog personligheter som lovade att ta över världen, uppmuntrade självskadebeteende eller visste meningen med livet, bland annat.

Det skulle vara minst sagt märkligt om ett sådant beteende härrörde från din avlidna familjemedlems AI-replika.  

Som huvudförfattare Dr. Katarzyna Nowaczyk-Basińska, forskare vid Cambridge’s Leverhulme Centre for the Future of Intelligence, förklarar, "Artificiell intelligens som gör det möjligt för användare att hålla text- och röstkonversationer med förlorade nära och kära riskerar att orsaka psykologisk skada och till och med digitalt 'hemsöka' de kvarlämnade utan säkerhetsnormer för design."

Forskare vid University of Cambridge beskriver flera olika former av AI-tjänster efter livet

Genom spekulativa designscenarier illustreras hur denna förestående "digitala efterlivsindustri" är mogen för missbruk. 

Först beskriver forskarna en fiktiv app, "MaNana", som låter sörjande ladda upp sina mormödrars data för att producera tröstande chatbottar fyllda med nostalgiska berättelser och recept. Men efter en gratis provperiod börjar boten plötsligt sälja produkter med "mormors" röst.

Eller ta "Paren't", en tjänst som påstås hjälpa barn att bearbeta sorg genom att simulera en död förälder. En 8-årig pojke finner tröst i att prata med "mamma" - tills boten börjar insistera på att hon fortfarande lever och snart kommer och hälsar på honom. Hur kommer det att påverka ett utvecklande sinne?

Sedan finns det "Stay", som låter döende användare i hemlighet skapa ett konto för att fortsätta "leva" i 20 år och tvinga andra till digital reinkarnation. 

En sörjande dotter blir känslomässigt dränerad av dagliga chattar med "pappa" men kan inte säga upp avtalet utan att bryta mot de villkor han gått med på. Under tiden blir hennes bror förföljd av oönskade meddelanden från pappa-roboten mot hans vilja.

Forskarna menar att dessa möten, utöver att de är störande, kan innebära en förändring av människans villkor.

Historiskt sett har kulturella sorgepraktiker möjliggjort individuell katharsis och kollektivt meningsskapande i mötet med döden. 

"Döden är en otroligt känslig fråga som inte bara påverkar individen som går bort utan också hela samhället som de lämnar efter sig", skriver de i studien.

Nu hotar AI att störa dessa sedan länge etablerade, känsliga sorgeprocesser.

Att skapa digitala avatarer som simulerar en pågående relation med de döda innebär att de för evigt stannar kvar i tiden och att relationerna inte kan gå vidare. 

Lägg till risken för känslomässig manipulation i händerna på dåliga aktörer - ett fenomen som forskarna kallar "digital hemsökelse" - och potentialen för skada är häpnadsväckande.

Påverkan på sociala institutioner, andlighet och politik

En annan möjlighet som ligger utanför Cambridge är idén om att digitalt återuppliva de döda för att ge upphov till nya former av kultliknande beteende.

Karismatiska personer skulle potentiellt kunna få ännu mer inflytande och makt efter döden genom AI-avatarer.

Anhängare kan bli alltmer hängivna dessa digitala spöken och söka vägledning, visdom och kontakt från andra sidan graven. Detta kan leda till nya religiösa eller andliga rörelser som kretsar kring vördade ledares virtuella odödlighet.

Polariserande figurer kan påverka samhället för alltid genom olika former av digital odödlighet. (Gjord med DALL-E 3)

Dessutom kan tanken på en digital återuppståndelse utmana gamla föreställningar om själens natur och livet efter detta. Många religiösa traditioner utgår från att själen lämnar kroppen vid döden och övergår till en annan värld.

Men om AI kan fånga och bevara en persons väsen, vad betyder det för ödet för deras eviga ande?

Vissa kanske hävdar att digital odödlighet är ett sätt att lura döden och uppnå en form av teknisk transcendens. Andra kan se det som en skändning av den naturliga ordningen och en förolämpning mot den gudomliga viljan. Det kan leda till splittring inom trossamfund.

Förra året levererade en tysk kyrka ett AI-genererad predikan presenteras av digitala avatarer.

Detta udda experiment, som skapades av Jonas Simmerleinen teolog och filosof från den University of Viennaillustrerar den praktiska potentialen för AI inom religion och spiritualism.

Det är förmodligen bara en tidsfråga innan vi ser framväxten av teknologiskt drivna andliga rörelser centrerade kring AI.

Politiskt inflytande bortom graven

En annan möjlig effekt är att gränserna mellan de levande och de döda suddas ut i det offentliga rummet.

I takt med att AI-genererade avatarer av avlidna kändisar, historiska personer och vanliga människor blir allt vanligare kan de påverka aktuella händelser och forma den allmänna opinionen. Föreställ dig ett kontroversiellt politiskt stöd från en AI-kopia av en älskad eller mäktig ledare.

För inte så länge sedan avled den indonesiske diktatorn Suharto återupplivades digitalt för att uppmana människor att rösta inför valet i landet. Även om detta är ganska godartat visar det återigen hur potentialen redan finns där.

Förvärrad ojämlikhet

Det finns också en risk att den digitala odödligheten förvärrar befintliga ojämlikheter och skapar nya former av social stratifiering.

Precis som i verkliga livet kan de rika och privilegierade ha större tillgång till den teknik och de resurser som krävs för att skapa övertygande digitala repliker av hög kvalitet av sig själva.

Detta kan leda till en framtid där elitens virtuella arv fortsätter att utöva ett stort inflytande medan de marginaliserades röster och berättelser försvinner i glömska.

I detta scenario blir den digitala odödligheten ännu ett sätt för makt och status att fortleva bortom graven.

Vem äger den dödes data?

En annan relevant fråga är vem som "äger" den dödes data - och i vilket syfte kan den användas? Om en avatar skriver under ett kontrakt eller gör ett köp, är det då juridiskt bindande? 

Kan interaktioner efter livet till och med fungera som bevis i rättegångar eller påverka val genom stöd?

Kan sörjande bli ohälsosamt fästa eller till och med föredra den idealiserade AI-kompisen framför sina ofullkomliga, andande nära och kära?

Ett exempel: Hollywoodskådespelare, inklusive ikonen James Dean, som dog för över 70 år sedan, nu har "digitala tvillingar" som kan gå, prata och agera tillsammans med levande artister, med hjälp av arkivmaterial, foton och ljudinspelningar. 

Deans digitala tvilling lagras av mediebyrån WRX och dess systerlicensbolag, CMG Worldwide. CMG Worldwide representerar stjärnor och offentliga personer som Amelia Earhart, Bettie Page, Malcolm X, and Rosa Parks

CMG Worldwide beskriver dess tjänster: "CMG är den aktiva affärsagenten för över 200 av dessa eftertraktade kunder. Under vårt fjärde decennium av att bevara, främja och skydda våra kunders arv licensierar vi våra kunders immateriella rättigheter till de största företagen i världen."

Dean är bara den senaste kändisen som har fått den digitala återupplivningsbehandlingen, tillsammans med stjärnor som Carrie Fisher och Paul Walkervars postuma filmframträdanden möjliggjordes av banbrytande CGI. 

När en persons uppgifter väl har överförts kan det vara svårt att kontrollera dem efter att personen har avlidit.

Återigen, detta är inte bara spekulationer. Till exempel kopierades den avlidne komikern George Carlin och används i en AI-genererad show kallad "George Carlin: I'm Glad I'm Dead" utan hans eller hans familjs tillstånd, vilket ledde till en storm av kontroverser och en efterföljande stämning.

Den avlidne skådespelaren Robin Williams var också utsatt för röstkloning, varpå hans dotter Zelda Williams reagerade: "Dessa återskapningar är i bästa fall en dålig kopia av större människor, men i värsta fall ett fruktansvärt Frankenstein-monster, hopsnickrat av de värsta bitarna av allt som den här branschen är, istället för vad den borde stå för."

Minska riskerna med det digitala livet efter döden

För att minska riskerna föreslår Cambridge-teamet strikta riktlinjer för "ansvarsfull digital återuppståndelse". 

Först och främst, säger de, är det av största vikt att säkra ett tydligt samtycke före döden från den avlidne och en bekräftande opt-in från dem som skulle interagera med deras avatarer. 

I studien rekommenderas också begränsningar av kommersialisering och reklam, "meningsfull transparens" för att undvika illusioner och möjlighet till en värdig "digital begravning" när människor är redo att släppa taget. 

Alternativet, varnar de, är ett samhälle som hemsöks av de bortgångnas ständigt närvarande dataspöken. En tillvaro där de döda aldrig riktigt får vila i frid, utan istället finns kvar på våra enheter, alltid bara ett klick bort.

"Vi måste redan nu börja fundera på hur vi kan minska de sociala och psykologiska riskerna med digital odödlighet, eftersom tekniken redan finns här", säger Nowaczyk-Basińska

"Om vi inte agerar snabbt kan effekterna på hur vi skapar mening i förhållande till människans ändlighet bli djupgående - och djupt oroande."

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Sam Jeans

Sam är en vetenskaps- och teknikskribent som har arbetat i olika AI-startups. När han inte skriver läser han medicinska tidskrifter eller gräver igenom lådor med vinylskivor.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar