Une nouvelle étude met en garde contre les chatbots d'IA des morts qui pourraient nous hanter numériquement à jamais

13 mai 2024
  • Des chercheurs de l'université de Cambridge ont analysé l'impact des services d'IA après la mort.
  • Ils ont créé des scénarios spéculatifs afin d'identifier les risques de préjudice ou de manipulation.
  • En l'absence de réglementation, les services d'IA pour l'après-vie altèrent le processus de deuil

La mort est l'un des plus redoutables adversaires de l'humanité - le seul défi que nous voulons relever à tout prix.

De la quête de la fontaine de jouvence par Ponce de Leon à la congélation cryogénique, Silicon ValleyAvec l'obsession de la longévité et les rêves transhumanistes de fusion avec les machines, il n'y a pas grand-chose que les humains ne feraient pas pour transcender leur enveloppe mortelle.

Aujourd'hui, grâce à l'IA, l'humanité pourrait enfin avoir cette possibilité. Des entreprises prennent les premières mesures pour numériser l'histoire de la vie et la biographie d'une personne, ses points de vue et ses opinions, son discours, son apparence visuelle en 3D, etc. et les transformer en clones numériques qui "vivent" perpétuellement. 

Bien sûr, il ne s'agit pas d'immortalité en soi, mais plutôt d'une forme de persistance numérique, d'une progression des photos et des vidéos vers une forme plus riche de souvenirs. 

En tant que les interfaces cerveau-ordinateur (BCI)Les systèmes neuronaux tels que Neuralinket Architecture d'IA bio-inspirée En s'inspirant de l'évolution du cerveau, il sera peut-être un jour possible de copier certains aspects de la conscience d'une personne dans un système numérique. 

Bien que cela reste hautement spéculatif pour l'instant, des formes primitives d'immortalité numérique frappent déjà à la porte. 

Plusieurs entreprises proposent déjà des services qui intègrent les empreintes numériques d'une personne - messages sur les médias sociaux, textes, enregistrements vocaux - dans de grands modèles de langage (LLM) afin de créer des simulations troublantes.

Des géants de la technologie comme Microsoft ont même déposé des brevets pour des chatbots qui imitent les morts. En Chine, une femme affirme avoir testé la version bêta d'un chatbot. Xiaoice - un compagnon IA conçu pour "réconforter les personnes en deuil" - en créant une version de son meilleur ami décédé. 

La RV et le métavers ne fera que rendre ces expériences plus réalistes, en nous permettant d'interagir avec des répliques réalistes des vivants et des morts.

Nous avons récemment abordé ce sujet dans un Entretien de DailyAI avec David Palmer, CPO of PairPoint by Vodafone and Web3 Asia Alliance membre du conseil d'administration.

Comme l'a décrit M. Palmer, il pourrait s'agir de la création d'un "tout nouveau monde". Pensez aux cimetières... Au lieu de voir une pierre tombale, vous pouvez interagir avec ces personnes. Il s'agit d'un monde numérique que les gens peuvent habiter pour toujours.

Mort de l'IA
Maquette d'un service numérique d'aide à la vie après la mort, qui compte déjà une poignée d'entreprises. Source : Université de Cambridge.

La vie numérique après la mort

Un projet provocateur nouvelle étude réalisée par des chercheurs de l'université de Cambridge, met en garde contre le fait que même des formes primitives d'immortalité numérique pourraient bouleverser le processus de deuil.

Les chatbots d'IA hyperréalistes qui simulent les personnes décédées menacent de brouiller la frontière entre la vie et la mort, obligeant la société à s'attaquer à des questions troublantes à l'intersection de la technologie et de la mortalité humaine. 

Quel sera l'impact sur les personnes endeuillées de la communication avec des "fantômes numériques" qui imitent avec une précision troublante les modes d'élocution, les souvenirs et les personnalités de leurs proches décédés ? 

Des acteurs malveillants pourraient-ils exploiter ces données intimes pour manipuler des émotions fragiles à des fins lucratives ? Quels droits les morts devraient-ils conserver sur leur vie numérique après la mort ? Et que se passe-t-il si les modèles ont des hallucinations et agissent de manière imprévisible ?

Microsoft Copilot et ChatGPT ont tous deux été victimes d'hallucinations sauvages de leur propre chef en Fusions massives inexpliquéesLes enfants ont été invités à participer à de nombreuses activités, notamment en adoptant des personnages qui ont juré de conquérir le monde, encouragé l'automutilation ou connu le sens de la vie, entre autres choses.

Il serait pour le moins étrange qu'un tel comportement provienne de la réplique de l'IA d'un membre de votre famille décédé.  

En tant qu'auteur principal Dr. Katarzyna Nowaczyk-Basińska, chercheur à l'institut de recherche Cambridge’s Leverhulme Centre for the Future of Intelligence, expliqueL'intelligence artificielle qui permet aux utilisateurs de tenir des conversations textuelles et vocales avec des êtres chers disparus risque de causer des dommages psychologiques et même de "hanter" numériquement ceux qui sont restés sans normes de sécurité.

Des chercheurs de l'université de Cambridge décrivent plusieurs formes de services d'IA après la mort

Par le biais de scénarios de conception spéculatifs, l'article illustre comment cette imminente "industrie de l'après-vie numérique" est mûre pour une utilisation abusive. 

Tout d'abord, les chercheurs décrivent une application fictive, "MaNana", qui permet aux personnes endeuillées de télécharger les données de leurs grands-mères afin de produire des chatbots réconfortants remplis d'histoires et de recettes nostalgiques. Mais après un essai gratuit, le robot se met soudain à vendre des produits avec la voix de "grand-mère".

Ou encore "Paren't", un service censé aider les enfants à faire leur deuil en simulant la mort d'un parent. Un garçon de 8 ans se console en parlant à sa "maman" - jusqu'à ce que le robot commence à insister de manière effrayante sur le fait qu'elle est toujours en vie et qu'elle viendra bientôt le voir. Quel impact cela aura-t-il sur un esprit en plein développement ?

Il y a aussi "Stay", qui permet aux utilisateurs mourants de créer secrètement un compte pour continuer à "vivre" pendant 20 ans, en imposant la réincarnation numérique à d'autres personnes. 

Une fille en deuil se sent émotionnellement épuisée par les conversations quotidiennes avec son "père", mais elle ne peut pas les annuler sans violer les conditions qu'il a acceptées. Pendant ce temps, son frère est harcelé par des messages non sollicités du père-robot, contre son gré.

Les chercheurs estiment qu'au-delà du caractère troublant de ces rencontres, il pourrait s'agir d'un changement dans la condition humaine.

Historiquement, les pratiques culturelles de deuil ont permis une catharsis individuelle et la création d'un sens collectif face à la mort. 

"La mort est un sujet incroyablement délicat et sensible, qui a un impact non seulement sur la personne qui décède, mais aussi sur toute la communauté qu'elle laisse derrière elle", écrivent-ils dans l'étude.

Aujourd'hui, l'IA menace de perturber ces processus de deuil délicats et établis de longue date.

La création d'avatars numériques qui simulent une relation continue avec les morts les suspend éternellement dans le temps et empêche les relations d'aller de l'avant. 

Si l'on ajoute à cela le risque de manipulation émotionnelle par de mauvais acteurs - un phénomène que les chercheurs ont baptisé "hantise numérique" - le potentiel de nuisance est stupéfiant.

Impacts sur les institutions sociales, la spiritualité et la politique

Une autre possibilité qui se situe en dehors du champ d'application de la Cambridge est l'idée de ressusciter numériquement les morts pour donner naissance à de nouvelles formes de comportements sectaires.

Les personnalités charismatiques pourraient potentiellement acquérir encore plus d'influence et de pouvoir après leur mort grâce aux avatars de l'IA.

Les adeptes peuvent devenir de plus en plus dévoués à ces fantômes numériques, recherchant des conseils, de la sagesse et des liens d'outre-tombe. Cela pourrait conduire à de nouveaux mouvements religieux ou spirituels centrés sur l'immortalité virtuelle de leaders vénérés.

Les figures polarisantes pourraient affecter la société pour toujours grâce à des formes d'immortalité numérique. (Réalisé avec DALL-E 3)

En outre, la notion de résurrection numérique peut remettre en question des croyances de longue date sur la nature de l'âme et la vie après la mort. De nombreuses traditions religieuses affirment que l'âme quitte le corps à la mort et passe dans un autre monde.

Mais si l'IA peut capturer et préserver l'essence d'une personne, qu'est-ce que cela signifie pour le sort de son esprit éternel ?

Certains diront que l'immortalité numérique est un moyen de tromper la mort et d'atteindre une forme de techno-transcendance. D'autres y verront une profanation de l'ordre naturel et un affront à la volonté divine. Cela pourrait provoquer un schisme au sein des communautés religieuses.

L'année dernière, une église allemande a délivré un Sermon généré par l'IA présentés par des avatars numériques.

Cette expérience originale, créée par Jonas Simmerleinthéologien et philosophe de l'époque de la University of Viennaillustre le potentiel pratique de l'IA dans le domaine de la religion et du spiritisme.

Ce n'est probablement qu'une question de temps avant que l'on assiste à l'émergence de mouvements spirituels axés sur la technologie et centrés sur l'IA.

L'influence politique au-delà de la tombe

Un autre effet possible est de brouiller les frontières entre les vivants et les morts dans la sphère publique.

Les avatars générés par l'IA et représentant des célébrités, des personnages historiques ou des personnes ordinaires décédées étant de plus en plus répandus, ils pourraient influencer l'actualité et façonner l'opinion publique. Imaginez un soutien politique controversé de la part d'une copie IA d'un dirigeant aimé ou puissant.

Il y a peu de temps, le défunt dictateur indonésien Suharto a été réanimé numériquement pour conseiller aux gens de voter avant les élections nationales. Bien qu'il soit tout à fait bénin, cet exemple montre une fois de plus que le potentiel existe déjà.

Exacerber les inégalités

L'immortalité numérique risque également d'exacerber les inégalités existantes et de créer de nouvelles formes de stratification sociale.

Tout comme dans la vie, les riches et les privilégiés peuvent avoir un meilleur accès à la technologie et aux ressources nécessaires pour créer des répliques numériques de haute qualité et convaincantes d'eux-mêmes.

Cela pourrait conduire à un avenir où les héritages virtuels de l'élite continueraient à exercer une influence considérable tandis que les voix et les histoires des marginaux s'évanouiraient dans l'obscurité.

Dans ce scénario, l'immortalité numérique devient un autre moyen de perpétuer le pouvoir et le statut au-delà de la tombe.

À qui appartiennent les données des morts ?

Une autre question pertinente est de savoir qui "possède" les données des morts et à quelles fins elles peuvent être utilisées. Si un avatar signe un contrat ou effectue un achat, est-il juridiquement contraignant ? 

Les interactions avec la vie après la mort pourraient-elles même servir de preuves dans les procès ou influencer les élections par le biais d'appuis ?

Les personnes en deuil pourraient-elles s'attacher de manière malsaine ou même préférer le compagnon idéal de l'IA à leurs proches imparfaits qui respirent ?

Exemple : les acteurs hollywoodiens, dont l'icône James Dean, décédé il y a plus de 70 ans, sont aujourd'hui en train de se faire une place dans la société. ont des "jumeaux numériques" qui peuvent marcher, parler et agir aux côtés d'artistes vivants, en s'appuyant sur des images d'archives, des photos et des enregistrements audio. 

Le jumeau numérique de Dean est stocké par l'agence de presse WRX et sa société sœur d'octroi de licences, CMG Worldwide. CMG Worldwide représente des stars et des personnalités publiques telles que Amelia Earhart, Bettie Page, Malcolm X, and Rosa Parks

CMG Worldwide décrit ses services: "CMG est l'agent commercial actif de plus de 200 de ces clients recherchés. Au cours de notre quatrième décennie de préservation, de promotion et de protection de l'héritage de nos clients, nous concédons des licences sur la propriété intellectuelle de nos clients aux plus grandes entreprises du monde."

Dean n'est que la dernière célébrité à recevoir le traitement de réanimation numérique, rejoignant des stars comme Carrie Fisher et Paul Walkerdont les apparitions posthumes dans les films ont été rendues possibles grâce à des images de synthèse de pointe. 

Une fois que les données d'une personne ont été cédées, leur contrôle après son décès peut s'avérer délicat.

Là encore, il ne s'agit pas de simples spéculations. Par exemple, l'humoriste George Carlin, aujourd'hui décédé, a été copié et utilisé dans un spectacle généré par l'IA intitulé "George Carlin : I'm Glad I'm Dead" sans son autorisation ou celle de sa famille, ce qui a déclenché une tempête de controverses et entraîné des poursuites judiciaires.

L'acteur Robin Williams, décédé, a également été sujet au clonage vocalSa fille, Zelda Williams, a réagi en déclarant : "Ces recréations sont, au mieux, un pauvre fac-similé de personnes plus importantes, mais au pire, un horrible monstre de Frankenstein, assemblé à partir des pires éléments de tout ce que cette industrie est, au lieu de ce qu'elle devrait représenter".

Atténuer les risques de l'après-vie numérique

Pour limiter les risques, l'équipe de Cambridge propose des lignes directrices rigoureuses pour une "résurrection numérique responsable". 

Selon eux, il est primordial de s'assurer du consentement clair de la personne décédée avant sa mort et de l'accord des personnes qui interagissent avec ses avatars. 

L'étude recommande également de limiter la commercialisation et la publicité, d'instaurer une "transparence significative" pour éviter les illusions et de prévoir un "enterrement numérique" digne une fois que les gens sont prêts à lâcher prise. 

L'alternative, avertissent-ils, est une société hantée par les fantômes de données toujours présents de ses défunts. Une existence où les morts ne sont jamais totalement enterrés, mais où ils s'attardent sur nos appareils, toujours à portée de clic.

"Nous devons commencer à réfléchir dès maintenant à la manière d'atténuer les risques sociaux et psychologiques de l'immortalité numérique, car la technologie est déjà là", a déclaré le commissaire européen à l'environnement, à la santé et à la sécurité. Nowaczyk-Basińska

"Si nous n'agissons pas rapidement, l'impact sur la façon dont nous construisons le sens en relation avec la finitude humaine pourrait être profond - et profondément troublant".

Rejoindre l'avenir


SOUSCRIRE AUJOURD'HUI

Clair, concis, complet. Maîtrisez les développements de l'IA avec DailyAI

Sam Jeans

Sam est un rédacteur scientifique et technologique qui a travaillé dans diverses start-ups spécialisées dans l'IA. Lorsqu'il n'écrit pas, on peut le trouver en train de lire des revues médicales ou de fouiller dans des boîtes de disques vinyles.

×
 
 

PDF GRATUIT EXCLUSIF
Gardez une longueur d'avance avec DailyAI


 

Inscrivez-vous à notre newsletter hebdomadaire et recevez un accès exclusif au dernier eBook de DailyAI : 'Mastering AI Tools : Your 2024 Guide to Enhanced Productivity" (Maîtriser les outils de l'IA : votre guide 2024 pour une meilleure productivité).



 
 

*En vous abonnant à notre lettre d'information, vous acceptez nos conditions d'utilisation. Politique de confidentialité et notre Conditions générales d'utilisation