I chatbot AI dei morti potrebbero "perseguitarci digitalmente" per sempre, avverte un nuovo studio

13 maggio 2024
  • I ricercatori dell'Università di Cambridge hanno analizzato gli impatti dei servizi di IA per la vita dopo la morte
  • Hanno creato scenari speculativi per identificare il potenziale di danno o di manipolazione.
  • Senza regolamentazione, i servizi di IA per l'aldilà alterano in peggio il processo di elaborazione del lutto

La morte è uno degli avversari più temibili dell'umanità - l'unica sfida che vogliamo superare a tutti i costi.

Dalla ricerca della Fonte della Giovinezza di Ponce de Leon al congelamento criogenico, Silicon Valleye l'ossessione per la longevità e i sogni transumanisti di fondersi con le macchine, c'è poco che gli esseri umani non farebbero per trascendere la nostra spoglia mortale.

Ora, con l'intelligenza artificiale, l'umanità potrebbe finalmente avere questa opportunità. Le aziende stanno compiendo i primi passi per digitalizzare la storia e la biografia di una persona, i suoi punti di vista e le sue opinioni, i suoi discorsi, il suo aspetto visivo in 3D, ecc. e trasformarli in cloni digitali che "vivono" perennemente. 

Naturalmente non si tratta di immortalità in sé, ma piuttosto di una forma di persistenza digitale, una progressione da foto e video a una forma più ricca di memorabilia. 

Come interfacce cervello-computer (BCI), sistemi neurali come Neuralink, e architettura AI bio-ispirata modellata sull'evoluzione del cervello, un giorno potrebbe essere possibile copiare aspetti della coscienza di una persona in un sistema digitale. 

Anche se per ora si tratta di un'ipotesi altamente speculativa, forme primitive di immortalità digitale stanno già bussando alla porta. 

Diverse aziende offrono già servizi che inseriscono le impronte digitali di una persona - post sui social media, testi, registrazioni vocali - in modelli linguistici di grandi dimensioni (LLM) per creare simulazioni inquietanti.

Giganti tecnologici come Microsoft hanno persino depositato brevetti per chatbot che emulano i morti. In Cina, una donna sostiene di aver testato in beta Xiaoice - un compagno AI progettato per "confortare chi è in lutto", creando una versione della sua migliore amica defunta. 

VR e metaverso non farà altro che rendere queste esperienze più realistiche, permettendoci di interagire con repliche realistiche sia dei vivi che dei morti.

Abbiamo affrontato questo argomento in un recente Intervista di DailyAI a David Palmer, CPO of PairPoint by Vodafone and Web3 Asia Alliance membro del consiglio di amministrazione.

Come ha descritto Palmer, questo potrebbe essere come "la creazione di un mondo completamente nuovo". Pensate ai cimiteri... invece di vedere una lapide, potete andare a interagire con quelle persone. C'è questo mondo digitale in cui le persone possono essenzialmente abitare per sempre".

Morte dell'intelligenza artificiale
Mock-up di un servizio digitale per l'aldilà, di cui esistono già alcune aziende. Fonte: Università di Cambridge.

Vita digitale dopo la morte

Una provocazione nuovo studio di ricercatori dell'Università di Cambridge mette in guardia sul fatto che anche forme primitive di immortalità digitale potrebbero sconvolgere il processo di elaborazione del lutto.

I chatbot AI iperrealistici che simulano i defunti minacciano di confondere il confine tra la vita e la morte, costringendo la società a confrontarsi con domande inquietanti all'incrocio tra tecnologia e mortalità umana. 

Che impatto avrà sul lutto la comunicazione con "fantasmi digitali" che imitano con inquietante precisione i modi di parlare, i ricordi e le personalità dei propri cari? 

I malintenzionati potrebbero sfruttare questi dati intimi per manipolare le emozioni più fragili a scopo di lucro? Quali diritti dovrebbero avere i morti sulle loro vite digitali? E cosa succede se i modelli hanno allucinazioni e agiscono in modo imprevedibile?

Microsoft Copilot e ChatGPT hanno entrambi avuto allucinazioni selvagge di loro spontanea volontà in inspiegabili crolli di massaadottando personaggi che giurano di conquistare il mondo, incoraggiano l'autolesionismo o conoscono il significato della vita, tra le altre cose.

Sarebbe quantomeno strano se questo comportamento provenisse dalla replica dell'IA del vostro familiare defunto.  

Come autore principale Dr. Katarzyna Nowaczyk-Basińska, ricercatore presso Cambridge’s Leverhulme Centre for the Future of Intelligence, spiegaL'intelligenza artificiale che consente agli utenti di tenere conversazioni testuali e vocali con i propri cari corre il rischio di causare danni psicologici e persino di 'perseguitare' digitalmente le persone rimaste senza standard di sicurezza.

I ricercatori dell'Università di Cambridge descrivono diverse forme di servizi di IA per la vita dopo la morte

Attraverso scenari di progettazione speculativa, il documento illustra come questa imminente "industria dell'aldilà digitale" sia pronta per un uso improprio. 

In primo luogo, i ricercatori descrivono un'applicazione fittizia, "MaNana", che consente ai lutti di caricare i dati delle loro nonne per produrre chatbot confortanti pieni di storie e ricette nostalgiche. Ma dopo una prova gratuita, il bot inizia improvvisamente a vendere prodotti con la voce della "nonna".

Oppure si pensi a "Paren't", un servizio che dovrebbe aiutare i bambini a elaborare il lutto simulando la morte di un genitore. Un bambino di 8 anni si consola parlando con la "mamma", finché il bot non inizia a insistere in modo inquietante che è ancora viva e che presto verrà a trovarlo. Che impatto avrà questo su una mente in via di sviluppo?

Poi c'è "Stay", che permette agli utenti in fin di vita di creare segretamente un account per continuare a "vivere" per 20 anni, imponendo agli altri la reincarnazione digitale. 

Una figlia in lutto viene svuotata emotivamente dalle chat quotidiane con "papà", ma non può cancellarle senza violare i termini che ha accettato. Nel frattempo, il fratello viene perseguitato da messaggi non richiesti del padre-robot, contro la sua volontà.

I ricercatori sostengono che, al di là della natura inquietante di questi incontri, ciò potrebbe costituire un cambiamento nella condizione umana.

Storicamente, le pratiche culturali di lutto hanno permesso la catarsi individuale e la creazione di senso collettivo nell'incontro con la morte. 

"La morte è una questione incredibilmente delicata e sensibile, che ha un impatto non solo sull'individuo che muore ma anche sull'intera comunità che si lascia alle spalle", scrivono nello studio.

Ora l'intelligenza artificiale minaccia di sconvolgere questi processi di lutto delicati e consolidati da tempo.

La creazione di avatar digitali che simulano una relazione continua con i morti li sospende eternamente nel tempo e impedisce alle relazioni di andare avanti. 

Se si aggiunge la possibilità di manipolazione emotiva da parte di malintenzionati - un fenomeno che i ricercatori definiscono "ossessione digitale" - il potenziale di danno è impressionante.

Impatto sulle istituzioni sociali, sulla spiritualità e sulla politica

Un'altra possibilità che si trova al di fuori della Cambridge studio è l'idea di resuscitare digitalmente i morti per dare origine a nuove forme di comportamento cultuale.

Le figure carismatiche potrebbero potenzialmente accumulare ancora più influenza e potere dopo la morte attraverso gli avatar dell'IA.

I seguaci potrebbero diventare sempre più devoti a questi fantasmi digitali, cercando una guida, una saggezza e una connessione dall'oltretomba. Questo potrebbe portare a nuovi movimenti religiosi o spirituali incentrati sull'immortalità virtuale di leader venerati.

Le figure polarizzanti potrebbero influenzare la società per sempre attraverso forme di immortalità digitale. (Realizzato con DALL-E 3)

Inoltre, la nozione di resurrezione digitale può mettere in discussione credenze di lunga data sulla natura dell'anima e dell'aldilà. Molte tradizioni religiose sostengono che l'anima lasci il corpo alla morte e passi a un altro regno.

Ma se l'intelligenza artificiale è in grado di catturare e conservare l'essenza di una persona, cosa significa per il destino del suo spirito eterno?

Alcuni possono sostenere che l'immortalità digitale sia un modo per ingannare la morte e raggiungere una forma di tecno-trascendenza. Altri potrebbero vederla come una profanazione dell'ordine naturale e un affronto alla volontà divina. Questo potrebbe scatenare scismi all'interno delle comunità religiose.

L'anno scorso, una chiesa tedesca ha consegnato un Sermone generato dall'intelligenza artificiale presentati da avatar digitali.

Questo bizzarro esperimento, creato da Jonas Simmerlein, un teologo e filosofo del University of Vienna, illustra il potenziale pratico dell'IA nella religione e nello spiritismo.

Probabilmente è solo una questione di tempo prima di assistere all'emergere di movimenti spirituali tecnologicamente guidati e incentrati sull'IA.

Influenza politica oltre la tomba

Un altro possibile impatto è l'attenuazione dei confini tra i vivi e i morti nella sfera pubblica.

Con la crescente diffusione di avatar generati dall'intelligenza artificiale di celebrità decedute, personaggi storici e persone comuni, essi potrebbero influenzare gli eventi attuali e formare l'opinione popolare. Immaginiamo un appoggio politico controverso da parte di una copia IA di un leader amato o potente.

Non molto tempo fa, il defunto dittatore indonesiano Suharto è stato rianimato digitalmente per consigliare alle persone di votare in vista delle elezioni del Paese. Sebbene si tratti di un'azione del tutto benevola, questo dimostra come il potenziale sia già presente.

Esacerbare le disuguaglianze

C'è anche il rischio che l'immortalità digitale aggravi le disuguaglianze esistenti e crei nuove forme di stratificazione sociale.

Proprio come nella vita, i ricchi e i privilegiati possono avere maggiore accesso alla tecnologia e alle risorse necessarie per creare repliche digitali di alta qualità e convincenti di se stessi.

Questo potrebbe portare a un futuro in cui le eredità virtuali dell'élite continueranno a esercitare un'influenza enorme, mentre le voci e le storie degli emarginati svaniranno nell'oscurità.

In questo scenario, l'immortalità digitale diventa un altro mezzo con cui il potere e lo status si perpetuano oltre la tomba.

Chi possiede i dati dei morti?

Un'altra domanda pertinente è: chi "possiede" i dati dei morti e a quale scopo possono essere utilizzati? Se un avatar firma un contratto o fa un acquisto, è legalmente vincolante? 

Le interazioni nell'aldilà potrebbero persino servire come prova nei processi o influenzare le elezioni attraverso i consensi?

Le persone in lutto potrebbero affezionarsi in modo malsano o addirittura preferire il compagno idealizzato dell'IA ai loro cari imperfetti e respiranti?

Un esempio: gli attori hollywoodiani, tra cui l'icona James Dean, morto più di 70 anni fa, oggi hanno "gemelli digitali" che possono camminare, parlare e agire accanto a interpreti viventi, attingendo a filmati d'archivio, foto e registrazioni audio. 

Il gemello digitale di Dean è conservato dall'agenzia di media WRX e la sua consociata che si occupa di licenze, CMG Worldwide. CMG Worldwide rappresenta star e personaggi pubblici come Amelia Earhart, Bettie Page, Malcolm X, and Rosa Parks

CMG Worldwide descrive i suoi servizi: "CMG è l'agente commerciale attivo per oltre 200 di questi clienti ricercati. Nel nostro quarto decennio di conservazione, promozione e protezione dell'eredità dei nostri clienti, concediamo in licenza la proprietà intellettuale dei nostri clienti alle più grandi aziende del mondo".

Dean è solo l'ultima celebrità a ricevere il trattamento di rianimazione digitale, unendosi a star come Carrie Fisher e Paul Walker, le cui apparizioni cinematografiche postume sono state rese possibili da una CGI all'avanguardia. 

Una volta che i dati di una persona sono stati firmati, controllarli dopo la sua morte potrebbe essere una pratica complicata.

Anche in questo caso, non si tratta solo di speculazioni. Per esempio, il comico deceduto George Carlin è stato copiato e utilizzato in uno spettacolo generato dall'intelligenza artificiale intitolato "George Carlin: I'm Glad I'm Dead" senza il permesso suo o della sua famiglia, provocando una tempesta di polemiche e una successiva causa legale.

Anche l'attore deceduto Robin Williams è stato soggetto a clonazione vocaleQueste ricostruzioni sono, nel migliore dei casi, un misero facsimile di persone più grandi, ma nel peggiore un orrendo mostro di Frankenstein, messo insieme con i pezzi peggiori di tutto ciò che questa industria è, invece di ciò che dovrebbe rappresentare".

Mitigare i rischi dell'aldilà digitale

Per ridurre i rischi, il team di Cambridge propone linee guida rigorose per una "resurrezione digitale responsabile". 

In primo luogo, è fondamentale ottenere un chiaro consenso pre-mortem da parte del defunto e un opt-in affermativo da parte di coloro che interagiranno con i loro avatar. 

Lo studio raccomanda anche limiti alla commercializzazione e alla pubblicità, una "trasparenza significativa" per evitare illusioni e il ricorso a una "sepoltura digitale" dignitosa una volta che le persone sono pronte a lasciarsi andare. 

L'alternativa, avvertono, è una società perseguitata dai fantasmi sempre presenti dei dati dei suoi defunti. Un'esistenza in cui i morti non sono mai del tutto riposati, ma rimangono sui nostri dispositivi, sempre a portata di clic.

"Dobbiamo iniziare a pensare ora a come mitigare i rischi sociali e psicologici dell'immortalità digitale, perché la tecnologia è già qui", ha affermato Nowaczyk-Basińska

"Se non agiamo rapidamente, l'impatto sul modo in cui costruiamo il significato in relazione alla finitudine umana potrebbe essere profondo - e profondamente preoccupante".

Partecipa al futuro


ISCRIVITI OGGI

Chiaro, conciso, completo. Per conoscere gli sviluppi dell'IA con DailyAI

Sam Jeans

Sam è uno scrittore di scienza e tecnologia che ha lavorato in diverse startup di intelligenza artificiale. Quando non scrive, lo si può trovare a leggere riviste mediche o a scavare tra scatole di dischi in vinile.

×
 
 

PDF GRATUITO ESCLUSIVO
Rimanere all'avanguardia con DailyAI


 

Iscriviti alla nostra newsletter settimanale e ricevi l'accesso esclusivo all'ultimo eBook di DailyAI: 'Mastering AI Tools: La tua guida 2024 per una maggiore produttività".



 
 

*Iscrivendosi alla nostra newsletter si accetta la nostra Informativa sulla privacy e il nostro Termini e condizioni