Les législateurs américains ont proposé un nouveau projet de loi intitulé "Disrupt Explicit Forged Images and Non-Consensual Edits" (DEFIANCE).
DEFIANCE s'attaque au problème croissant des images explicites générées par l'IA, telles que les récentes représentations explicites de Taylor Swift créées par l'IA et qui ont suscité la controverse.
Taylor Swift a été la cible d'une série de fausses images générées par l'IA qui réactions déclenchées de la Maison Blanche, du PDG de Microsoft, Satya Nadella, et de millions de personnes dans le monde.
En réponse à la diffusion des deepfakes de Swift, ses fans, connus sous le nom de "Swifties", ont lancé une campagne sur les médias sociaux en utilisant l'expression "Taylor Swift AI" pour éclipser le contenu explicite par des clips de performance. Ils ont également lancé un chasse à l'homme numérique.
En attendant, faux politiques profonds sont devenus de plus en plus réalistes et alarmants, et les faux sons profonds sont de plus en plus fréquents. deviennent beaucoup plus difficiles à détecter.
Cette législation bipartisane vise à responsabiliser les individus en leur permettant d'intenter une action en dommages et intérêts s'ils sont représentés dans des "contrefaçons numériques" sans leur consentement.
Introduit par Dick Durbin (D-IL), whip de la majorité au Sénat, et soutenu par les sénateurs Lindsey Graham (R-SC), Amy Klobuchar (D-MN) et Josh Hawley (R-MO), le projet de loi étend le cadre juridique établi par la loi de 2022 sur la réautorisation de la loi sur la violence à l'égard des femmes (Violence Against Women Act Reauthorization Act of 2022), qui traitait de manière similaire des images explicites non imitées.
La loi DEFIANCE répond à ce que les législateurs considèrent comme un problème en augmentation "exponentielle" d'images d'IA explicites manipulées numériquement.
Le sénateur Durbin a déclaré : "Ce mois-ci, de fausses images sexuellement explicites de Taylor Swift, générées par une intelligence artificielle, ont déferlé sur les plateformes de médias sociaux. Bien que les images soient fausses, le préjudice causé aux victimes par la diffusion de "deep fakes" sexuellement explicites est bien réel.
Avec l'avènement d'outils d'IA générative accessibles, il est devenu extrêmement simple de créer des "deep fakes", même à l'aide d'outils développés par des sociétés telles que Microsoft et OpenAI, avec de graves conséquences en termes de désinformation, de harcèlement et de chantage.
La loi DEFIANCE ne concerne pas seulement les images générées par l'IA, mais aussi toute image sexuellement explicite créée ou modifiée par des moyens technologiques de manière à ce qu'il soit impossible de la distinguer d'une représentation authentique de l'individu.
Cette définition large englobe des outils plus anciens comme Photoshop, à condition que les résultats soient suffisamment réalistes.
Le sénateur Josh Hawley a souligné l'importance de cette législation en déclarant : "Personne - ni les célébrités ni les Américains ordinaires - ne devrait jamais avoir à se retrouver dans de la pornographie infantile. Les personnes innocentes ont le droit de défendre leur réputation et de demander des comptes aux auteurs de ces actes devant les tribunaux. Ce projet de loi fera de ce droit une réalité.
"Personne, qu'il s'agisse de célébrités ou d'Américains ordinaires, ne devrait jamais avoir à se retrouver dans de la pornographie liée à l'IA", a déclaré M. Hawley.
"Les personnes innocentes ont le droit de défendre leur réputation et de demander des comptes aux auteurs devant les tribunaux.https://t.co/qRNhqo5c8Y
- Bureau de presse du sénateur Hawley (@SenHawleyPress) 31 janvier 2024
Le projet de loi est également confronté à des défis potentiels et à des questions concernant son impact sur l'expression artistique et la parodie politique, mais on peut penser que la ligne entre la parodie et le préjudice est assez facile à tracer lorsqu'il s'agit d'images sexuellement explicites, au moins.
Dans l'ensemble, la loi DEFIANCE semble être un pas en avant pour combler les lacunes juridiques entourant l'imagerie explicite non consensuelle générée par l'IA, mais il s'agit d'une cible mouvante.
