Le ministère américain de la justice (DOJ) a invoqué les risques de désinformation par l'IA et de "deepfakes" pour justifier le fait qu'il ne publiera pas l'enregistrement de l'entretien de Joe Biden avec l'avocat spécial sur sa gestion de documents classifiés.
Le ministère de la justice a conclu qu'il n'y avait pas lieu de poursuivre M. Biden, mais la transcription de l'entretien a alimenté les critiques sur les facultés mentales de M. Biden et sur sa capacité à briguer un nouveau mandat.
Lire une transcription est une chose, entendre le président américain s'efforcer de se souvenir de la date de la mort de son fils ou oublier qui est le président du Mexique en est une autre.
Le ministère de la justice affirme que son incapacité à lutter contre la désinformation liée à l'IA est la raison pour laquelle il ne publiera pas l'audio.
"Le temps qui passe et les progrès réalisés dans les domaines de l'audio, de l'intelligence artificielle et des technologies de 'deep fake' ne font qu'amplifier les inquiétudes concernant la manipulation malveillante des fichiers audio. Si l'enregistrement audio est publié ici, il est facile de prévoir qu'il pourrait être modifié de manière inappropriée, et que le fichier modifié pourrait passer pour un enregistrement authentique et être largement distribué", a déclaré le ministère. a écrit dans son dossier.
Le vice-procureur général adjoint du ministère de la justice, Bradley Weinsheimer, a déclaré que si l'enregistrement était rendu public, il y aurait un "risque substantiel que des acteurs malveillants le modifient pour (par exemple) insérer des mots que le président Biden n'a pas prononcés ou pour supprimer des mots qu'il a prononcés".
Clones vocaux générés par l'IA n'ont besoin que de quelques secondes de la voix d'une personne pour produire un son convaincant. Un clone de la voix de Joe Biden a été utilisé dans le cadre d'un projet de recherche. Campagne de faux appels téléphoniques (robocall) en janvier, ce qui a découragé les électeurs de voter aux primaires.
Le dossier reconnaît qu'il était déjà possible de créer un clone de la voix de M. Biden.
Il a déclaré. "Certes, d'autres matières premières permettant de créer une imitation de la voix du président Biden sont déjà disponibles, mais la diffusion de l'enregistrement audio présente des risques particuliers : s'il était de notoriété publique que l'enregistrement audio a été diffusé, il deviendrait plus facile pour les acteurs malveillants de faire passer un fichier altéré pour le véritable enregistrement."
Mike Howell, directeur exécutif du projet Oversight de la Heritage Foundation, estime que le ministère de la justice se sert de l'IA deepfakes comme d'une excuse commode.
"Ils ne veulent absolument pas divulguer cet enregistrement... Ils adoptent l'approche de l'évier de cuisine et sont absolument effrayés de ne pas avoir d'argument juridique valable à faire valoir", a déclaré M. Howell.
Le sénateur Mark Warner, président démocrate de la commission sénatoriale du renseignement, a reconnu le risque de manipulation par l'IA, mais a déclaré que les enregistrements devaient être diffusés avec des "composants en filigrane" afin que les manipulations puissent être détectées.
Ironiquement, certains républicains ont publiquement émis l'hypothèse que la transcription ne reflétait pas fidèlement l'entretien.
La désinformation par l'IA et les "deepfakes" ont eu un effet perturbateur indéniable. impact sur la politique mondiale.
Mais la facilité avec laquelle il est possible de créer de fausses images, de faux sons et de fausses vidéos a également fourni une excuse commode aux hommes politiques qui se trouvent dans une situation délicate.
