Le immagini esplicite e falsificate di Taylor Swift hanno acceso un acceso dibattito sul potenziale dell'intelligenza artificiale nel creare e diffondere disinformazione.
Parlando in mezzo a una cascata di reazioni da parte dell'industria tecnologica e del pubblico, il CEO di Microsoft Satya Nadella ha affrontato l'inquietante tendenza dei falsi nudi generati dall'intelligenza artificiale.
Durante un'intervista esclusiva con Notizie NBCNadella ha espresso la sua preoccupazione per la situazione, descrivendo la proliferazione di tali contenuti come "allarmante e terribile".
Ha sottolineato l'urgente necessità di agire, affermando: "Penso che sia opportuno muoversi rapidamente su questo fronte". Nadella ha sottolineato l'importanza di implementare "guardrail" più severi intorno alla tecnologia AI per garantire contenuti online più sicuri.
Il problema è che i guardrail semplicemente non funzionano così bene. Studio dopo studio ha rivelato come i modelli di intelligenza artificiale più sofisticati siano vulnerabili a numerose forme di manipolazione.
Nadella ha riconosciuto gli sforzi per affrontare il problema dei falsi profondi, ma ha sottolineato la necessità di un consenso globale della società su quando le forze dell'ordine e le piattaforme tecnologiche dovrebbero collaborare per governare i contenuti.
Questo potrebbe essere un terreno scivoloso per la privacy e il passaggio della responsabilità per i prodotti di Big Tech alle forze dell'ordine è una prospettiva discutibile.
Nel frattempo, sono stati compiuti progressi nel rintracciare la colpevoli delle immagini di Taylor Swiftche potrebbe derivare da un rapporto di 404 Mediache ha ricondotto le immagini a un gruppo Telegram noto per la produzione di contenuti pornografici non consensuali.
Questo gruppo ha precedentemente raccomandato di creare tali immagini utilizzando il generatore di immagini Designer di Microsoft, sfruttando una lacuna nei guardrail dell'IA.
Anche se non è definitivamente provato che in questo caso sia stato usato il Designer, ciò evidenzia l'inefficacia dei metodi attuali per limitare i danni.
Microsoft ha poi rilasciato una dichiarazione alla NBC: "Prendiamo molto sul serio queste segnalazioni e ci impegniamo a fornire un'esperienza sicura a tutti. Abbiamo indagato su queste segnalazioni e non siamo stati in grado di riprodurre le immagini esplicite riportate".
"I nostri filtri di sicurezza per i contenuti espliciti erano in funzione e finora non abbiamo trovato alcuna prova che siano stati aggirati. Per abbondanza di cautela, abbiamo preso provvedimenti per rafforzare le nostre indicazioni per il filtraggio dei testi e affrontare l'uso improprio dei nostri servizi."
Reazioni diffuse
La risposta non si è limitata all'industria tecnologica.
SAG-AFTRA, il sindacato che rappresenta gli attori e altri professionisti dei media, ha descritto le immagini di Taylor Swift come "sconvolgente, dannoso e profondamente preoccupante" e ha auspicato un'azione legale.
Il sindacato, che l'anno scorso è stato coinvolto nello sciopero degli attori di Hollywood, è favorevole a una legislazione completa sull'IA, che è ancora molto carente per quanto riguarda i rischi a breve termine come i falsi profondi.
Nel frattempo, il tag #ProtectTaylorSwift ha fatto tendenza in tutto il mondo, mentre la gente si univa alla condanna.
Giustizia vigilante?
Taylor Swift è sostenuta da milioni di "Swifties", che hanno la temibile reputazione di affrontare chi parla male della star.
Un profilo X di nome Zubera Abdi, identificato come l'utente canadese che potenzialmente ha diffuso le immagini NSFW generate dall'AI di Swift, è diventato l'obiettivo di una caccia all'uomo digitale.
Abdi ha affermato con sicurezza: "Non mi importa quanto siano potenti le Swifties, non mi troveranno mai", sottovalutando la determinazione della fanbase della Swift.
La sfida di Abdi è durata poco, perché gli Swifties si sono mobilitati e hanno individuato il suo nome completo, Zubear Mohamed Abdi.
zubear abdi alias @zvbear
toronto, ontario, canada
studiato: Università di Toronto Scarborough
Somalo ma vive in CanadaTuttavia, ho ancora bisogno di un indirizzo esatto. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25 gennaio 2024
La situazione è degenerata quando le informazioni personali di Abdi sono state ampiamente condivise tra gli Swifties, con uno che ha commentato: "Hanno messo quel governo completo (nome) nei titoli dei giornali ora dawg è FINITO".
Un altro utente, @Melodic_Lemons3, ha accennato alle potenziali conseguenze legali a cui Abdi potrebbe andare incontro, osservando: "Zubear Mohamed Abdi è cotto", soprattutto alla luce del fatto che la Casa Bianca ha espresso allarme per le immagini esplicite di Swift generate dall'AI.
Zubear Mohamed Abdi è cotto https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26 gennaio 2024
Di fronte all'enorme reazione e alla prospettiva di problemi legali, Abdi ha ceduto alle pressioni, optando per una "ritirata tattica" e rendendo privato il suo account.
"Ora ho a che fare con gli Swifties. Un animale completamente diverso", disse. "Questa è una ritirata tattica, ogni grande esercito l'ha fatta".
Abdi, se è stato responsabile, ha indubbiamente sbagliato persona, ma non tutte le vittime di un falso crimine hanno milioni di sostenitori che le appoggiano.
