Unas imágenes explícitamente falsas de Taylor Swift han encendido un encendido debate sobre el potencial de la IA para crear y difundir desinformación.
En medio de una cascada de reacciones de la industria tecnológica y del público, Satya Nadella, consejero delegado de Microsoft, abordó la inquietante tendencia de los desnudos falsos generados por IA.
Durante una entrevista exclusiva con Noticias NBC, Nadella expresó su preocupación por la situación, describiendo la proliferación de este tipo de contenidos como "alarmante y terrible".
Hizo hincapié en la necesidad urgente de actuar, afirmando: "Creo que nos corresponde movernos rápido en esto". Nadella destacó la importancia de implantar "guardarraíles" más estrictos en torno a la tecnología de IA para garantizar contenidos en línea más seguros.
La cuestión es que los guardarraíles simplemente no funcionan tan bien. Estudio tras estudio ha revelado cómo los modelos de IA más sofisticados son vulnerables a numerosas formas de manipulación.
Nadella reconoció los esfuerzos para hacer frente a las falsificaciones profundas, pero subrayó la necesidad de un consenso social global sobre cuándo deben colaborar las fuerzas del orden y las plataformas tecnológicas para gobernar los contenidos.
Eso podría ser una pendiente resbaladiza para la privacidad, y traspasar la responsabilidad de los productos de las grandes tecnológicas a las fuerzas de seguridad es un ángulo cuestionable.
Mientras tanto, se ha avanzado en el rastreo de la culpables de las imágenes de Taylor Swiftque puede derivarse de un informe de 404 Medios de comunicaciónque rastreó las imágenes hasta un grupo de Telegram conocido por producir contenidos pornográficos no consentidos.
Este grupo ya había recomendado anteriormente la creación de este tipo de imágenes utilizando el generador de imágenes Designer de Microsoft, aprovechando una laguna en los guardarraíles de la IA.
Aunque no está definitivamente probado que se utilizara Designer en este caso, pone de relieve la ineficacia de los métodos actuales para restringir los daños.
Microsoft emitió posteriormente un comunicado a la NBC: "Nos tomamos estos informes muy en serio y estamos comprometidos a proporcionar una experiencia segura para todos. Hemos investigado estos informes y no hemos podido reproducir las imágenes explícitas de estos informes."
"Nuestros filtros de seguridad de contenidos explícitos estaban en funcionamiento y no hemos encontrado pruebas de que hayan sido eludidos hasta ahora. Por precaución, hemos tomado medidas para reforzar nuestros avisos de filtrado de texto y hacer frente al uso indebido de nuestros servicios."
Reacciones generalizadas
La respuesta no se ha limitado a la industria tecnológica.
SAG-AFTRA, el sindicato que representa a los actores y otros profesionales de los medios de comunicación, describió las imágenes de Taylor Swift como "molesto, dañino y profundamente preocupante" y abogó por emprender acciones legales.
El sindicato, que el año pasado protagonizó una huelga histórica de actores de Hollywood, apoya una legislación exhaustiva en materia de IA, que sigue siendo muy deficiente cuando se trata de riesgos a corto plazo como las falsificaciones profundas.
Mientras tanto, la etiqueta #ProtectTaylorSwift fue tendencia en todo el mundo al unirse la gente a la condena.
¿Justicia justiciera?
Taylor Swift cuenta con el apoyo de millones de "Swifties", que tienen la temible reputación de enfrentarse a quienes hablan mal de la estrella.
Un perfil X llamado Zubera Abdi, identificado como el usuario canadiense que potencialmente difundió las imágenes NSFW de Swift generadas por la IA, se convirtió en el objetivo de una cacería humana digital.
Abdi se burló con confianza: "No me importa lo poderosos que sean los Swifties, nunca me encontrarán", subestimando la determinación de la base de fans de Swift.
El desafío de Abdi duró poco, ya que los Swifties se movilizaron y localizaron su nombre completo, Zubear Mohamed Abdi.
zubear abdi alias @zvbear
toronto, ontario, canadá
estudiado: Universidad de Toronto Scarborough
Somalí pero vive en Canadápero necesito una dirección exacta. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25 de enero de 2024
La situación se agravó cuando la información personal de Abdi se difundió ampliamente entre los Swifties, y uno de ellos comentó: "Tienen a ese (nombre) del gobierno completo en los titulares ahora dawg está ACABADO".
Otro usuario, @Melodic_Lemons3, insinuó las posibles consecuencias legales a las que podría enfrentarse Abdi, señalando: "Zubear Mohamed Abdi está cocinado", especialmente a la luz de la alarma expresada por la Casa Blanca por las imágenes explícitas de Swift generadas por IA.
Zubear Mohamed Abdi se cocina https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26 de enero de 2024
Ante la abrumadora reacción y la perspectiva de problemas legales, Abdi cedió a la presión y optó por una "retirada táctica" haciendo privada su cuenta.
"Ahora trato con suifties. Un animal completamente diferente", dijo. "Esta es una retirada táctica, todos los grandes ejércitos han hecho esto".
Abdi, si fue el responsable, sin duda se metió con la persona equivocada en este caso, pero no todas las víctimas de falsos delitos graves tienen millones de seguidores que las respalden.
