De fausses images explicites et profondes de Taylor Swift ont déclenché un vif débat sur le potentiel de l'IA à créer et à diffuser de la désinformation.
S'exprimant au milieu d'une cascade de réactions de la part de l'industrie technologique et du public, le PDG de Microsoft, Satya Nadella, a abordé la tendance inquiétante des faux nus générés par l'IA.
Lors d'une interview exclusive avec NBC NewsDans un communiqué de presse, M. Nadella s'est dit préoccupé par la situation, qualifiant la prolifération de ce type de contenu d'"alarmante et terrible".
Il a insisté sur l'urgence d'agir en déclarant : "Je pense qu'il est de notre devoir d'agir rapidement dans ce domaine". M. Nadella a souligné l'importance de mettre en place des "garde-fous" plus stricts autour de la technologie de l'IA afin de garantir un contenu en ligne plus sûr.
Le problème, c'est que les glissières de sécurité ne fonctionnent tout simplement pas très bien. Étude après étude a révélé que les modèles d'IA les plus sophistiqués sont vulnérables à de nombreuses formes de manipulation.
M. Nadella a reconnu les efforts déployés pour lutter contre les "deep fakes", mais il a souligné la nécessité d'un consensus sociétal mondial sur le moment où les forces de l'ordre et les plateformes technologiques doivent collaborer pour régir les contenus.
Cela pourrait être une pente glissante pour la vie privée, et transférer la responsabilité des produits de Big Tech aux forces de l'ordre est un angle d'attaque discutable.
Entre-temps, des progrès ont été réalisés dans la recherche des coupables des images de Taylor Swiftqui pourrait découler d'un rapport de 404 Médiasqui a retracé les images jusqu'à un groupe Telegram connu pour produire des contenus pornographiques non consensuels.
Ce groupe a précédemment recommandé de créer ces images à l'aide du générateur d'images Designer de Microsoft, en exploitant une faille dans les garde-fous de l'IA.
Bien qu'il ne soit pas définitivement prouvé que Designer a été utilisé dans ce cas, cela met en évidence l'inefficacité des méthodes actuelles pour limiter les dommages.
Microsoft a ensuite fait une déclaration à NBC : "Nous prenons ces rapports très au sérieux et nous nous engageons à offrir une expérience sûre à tous. Nous avons enquêté sur ces rapports et n'avons pas été en mesure de reproduire les images explicites qu'ils contiennent."
"Nos filtres de sécurité pour les contenus explicites fonctionnaient et nous n'avons trouvé aucune preuve qu'ils aient été contournés jusqu'à présent. Par excès de prudence, nous avons pris des mesures pour renforcer nos messages-guides de filtrage de texte et lutter contre l'utilisation abusive de nos services".
Réactions généralisées
La réaction ne s'est pas limitée à l'industrie technologique.
SAG-AFTRA, le syndicat représentant les acteurs et autres professionnels des médias, a décrit les images La Commission européenne a qualifié le discours de Taylor Swift de "bouleversant, nuisible et profondément inquiétant" et a préconisé une action en justice.
Le syndicat, qui a participé à la grève historique des acteurs hollywoodiens l'année dernière, soutient une législation complète sur l'IA, qui fait cruellement défaut lorsqu'il s'agit de risques à court terme tels que les "deep fakes" (contrefaçons profondes).
Pendant ce temps, le mot-clé #ProtectTaylorSwift s'est répandu dans le monde entier, les gens se joignant à la condamnation.
Justice d'autodéfense ?
Taylor Swift est soutenue par des millions de "Swifties", qui ont la redoutable réputation d'affronter ceux qui disent du mal de la star.
Un profil X nommé Zubera Abdi, identifié comme l'utilisateur canadien ayant potentiellement diffusé les images NSFW de Swift générées par l'IA, est devenu la cible d'une chasse à l'homme numérique.
Abdi a raillé avec assurance : "Peu importe la puissance des Swifties, ils ne me trouveront jamais", sous-estimant la détermination de la base de fans de Swift.
La défiance d'Abdi a été de courte durée car les Swifties se sont mobilisés et ont retrouvé son nom complet, Zubear Mohamed Abdi.
zubear abdi aka @zvbear
toronto, ontario, canada
étudié : Université de Toronto Scarborough
Somalien mais vit au CanadaIl faut quand même une adresse exacte. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25 janvier 2024
La situation s'est envenimée lorsque les informations personnelles d'Abdi ont été largement partagées par les Swifties, l'un d'entre eux commentant : "Ils ont mis ce (nom) du gouvernement à la une des journaux, maintenant il est FINI".
Un autre utilisateur, @Melodic_Lemons3, a fait allusion aux conséquences juridiques potentielles auxquelles Abdi pourrait être confronté, notant que "Zubear Mohamed Abdi est cuit", en particulier à la lumière de l'inquiétude exprimée par la Maison Blanche au sujet des images explicites de Swift générées par l'IA.
Zubear Mohamed Abdi est cuit https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26 janvier 2024
Face à l'ampleur des réactions et à la perspective de problèmes juridiques, Abdi a cédé à la pression, optant pour une "retraite tactique" en rendant son compte privé.
"Maintenant, j'ai affaire à des Swifties. Un tout autre animal", a-t-il déclaré. "Il s'agit d'une retraite tactique, comme l'ont fait toutes les grandes armées.
Abdi, s'il est responsable, a sans aucun doute joué avec la mauvaise personne, mais toutes les victimes d'un faux crime profond n'ont pas des millions de supporters pour les soutenir.
