Des nus contrefaits, générés par l'IA, d'élèves du lycée de Westfield dans le New Jersey (États-Unis) ont été distribués à leurs camarades, et il n'y a pas d'action légale clairement définie à l'encontre des auteurs de ces actes.
La directrice de l'école, Mary Asfendis, a décrit la situation dans un courriel adressé aux parents comme un "incident très grave".
TL'école garde le silence sur les détails de l'incident, y compris le nombre de personnes touchées ou les mesures disciplinaires prises à l'encontre des auteurs, en invoquant des raisons de confidentialité.
Le courriel envoyé par le directeur a été divulgué à la presse :
"Je vous écris pour vous informer d'une situation qui a donné lieu à une désinformation généralisée et qui a suscité une grande inquiétude parmi les élèves du lycée de Westfield. Plus tôt dans la journée, des élèves ont attiré notre attention sur le fait que certains d'entre eux avaient utilisé l'intelligence artificielle pour créer des images pornographiques à partir de photos originales. On s'est beaucoup interrogé sur les personnes dont les images avaient été créées et sur le fait qu'elles avaient été partagées.
À l'heure actuelle, nous pensons que les images créées ont été supprimées et ne sont pas diffusées. Il s'agit d'un incident très grave. Nous poursuivons notre enquête et nous informerons les personnes et les familles des élèves concernés une fois l'enquête terminée. Cela se fera avant le week-end. Nous avons mis des services de conseil à la disposition de tous les élèves concernés et les avons encouragés à retourner en classe dès qu'ils s'en sentaient capables. En outre, notre responsable des ressources scolaires et la police de Westfield ont été informés de notre enquête. Si un parent/tuteur pense que son enfant est victime d'un acte criminel en relation avec cet incident, il est prié de le signaler à la police de Westfield.
Je tenais à vous informer de la situation car, outre le fait qu'elle porte préjudice aux élèves concernés et qu'elle perturbe la journée scolaire, il est extrêmement important de parler avec vos enfants de leur utilisation de la technologie et de ce qu'ils publient, enregistrent et partagent sur les médias sociaux. Les nouvelles technologies ont rendu possible la falsification d'images et les élèves doivent connaître l'impact et les dommages que ces actions peuvent causer aux autres.
Nous continuerons à éduquer vos enfants sur l'importance d'une utilisation responsable des technologies et nous espérons que vous renforcerez ces messages à la maison".
Cette situation n'est pas propre au lycée de Westfield. L'Espagne a connu un événement similaire en septembre, et des personnalités publiques et divers influenceurs en ligne ont également été impliqués dans des controverses sur la pornographie fictive.
Dans le New Jersey, il n'existe pas de législation sanctionnant la création et la diffusion de faux nus créés par l'IA.
Le 10 octobre, le gouverneur Phil Murphy a mis sur pied un groupe de travail sur l'IA chargé d'étudier les avantages, la croissance et les risques de cette technologie, mais il n'existe toujours pas de loi définitive sur la question.
Le décret du président Biden sur la réglementation de l'IA propose des mesures de supervision, la mise en place de garde-fous et des investissements technologiques. Toutefois, il ne prévoit pas d'instituer une loi fédérale générale contre les faux nus profonds, et il n'y a pas de calendrier pour une telle législation.
Bradley Waldstreicher, rédacteur associé à Revue de droit de CardozoEn mai 2021, la Commission européenne a souligné la complexité de la législation fédérale sur les deepfakes, en déclarant : "Si une législation fédérale sur les deepfakes est adoptée pour cibler spécifiquement les deepfakes pornographiques, alors, pour être constitutionnels, les deepfakes pornographiques pourraient devoir s'inscrire dans l'exception catégorique du premier amendement en étant une catégorie distincte comme la pornographie enfantine....[L]a solution n'est pas évidente. À tout le moins, avant l'adoption d'une législation fédérale de fond, les chercheurs doivent mener davantage d'études pour connaître l'impact des deepfakes pornographiques sur les victimes et les utilisateurs d'Internet."
Un examen plus approfondi de l'essor des faux nus générés par l'IA révèle des chiffres stupéfiants. Selon le Washington PostSelon Genevieve Oh, analyste du secteur, il y a eu une augmentation de 290% de ce type de contenu depuis 2018 sur d'importants sites web hébergeant des photos pornographiques générées par l'IA.
UN ROYAUME-UNI enquête de la BBC a révélé l'augmentation étonnante de la pornographie de type "deep fake", y compris celle d'enfants, sur des sites tels que Patreon.
Rien qu'en 2023, 143 000 vidéos pornographiques deepfake ont été publiées sur des plateformes populaires, générant plus de 4,2 milliards de vues - un bond considérable par rapport aux années précédentes. Sensity AI rapporte que 90 à 95% de ces vidéos présentent des images féminines non consensuelles.
Le FBI a également mis en évidence une augmentation des cas de "sextorsion", avec 26 800 victimes américaines signalées jusqu'en septembre de cette année, soit une augmentation de 149% par rapport à 2019.
Les "deep fakes" constituent l'un des risques les plus imminents et les plus pressants de l'IA, et ils sont exceptionnellement difficiles à contenir.
Des contrefaçons apparaissent tout au long de l'année Conflit israélo-palestinien a également mis en évidence la possibilité que des images authentiques soient faussement étiquetées comme étant générées par l'IA, un exemple de "dividende du menteur" où des informations réelles peuvent être ignorées comme étant fausses.
Cela vaut également pour les voix et les vidéos générées par l'IA, visant souvent les dirigeants politiquesOn craint que cela n'influence le comportement des électeurs.
