Expliciete deep fake afbeeldingen van Taylor Swift hebben een heftig debat ontketend over het potentieel van AI voor het creëren en verspreiden van verkeerde informatie.
Te midden van een stortvloed aan reacties uit de tech-industrie en het publiek, sprak Microsoft CEO Satya Nadella over de verontrustende trend van door AI gegenereerde nepnaaktfoto's.
Tijdens een exclusief interview met NBC NieuwsNadella uitte zijn bezorgdheid over de situatie en beschreef de proliferatie van dergelijke inhoud als "alarmerend en verschrikkelijk".
Hij benadrukte de dringende noodzaak van actie en zei: "Ik denk dat het ons aangaat om hier snel werk van te maken." Nadella benadrukte het belang van het implementeren van strengere "vangrails" rond AI-technologie om veiligere online content te garanderen.
Het probleem is dat vangrails gewoon niet zo goed werken. Studie na studie heeft onthuld hoe de meeste geavanceerde AI-modellen kwetsbaar zijn voor talloze vormen van manipulatie.
Nadella erkende dat er inspanningen worden gedaan om vervalsingen op grote schaal aan te pakken, maar benadrukte dat er behoefte is aan een wereldwijde maatschappelijke consensus over wanneer wetshandhaving en technologieplatforms moeten samenwerken om inhoud te beheren.
Dat kan gevaarlijk zijn voor de privacy en het is twijfelachtig om de verantwoordelijkheid voor de producten van Big Tech door te schuiven naar wetshandhaving.
Ondertussen is er vooruitgang geboekt bij het opsporen van de daders van de Taylor Swift-afbeeldingendie mogelijk voortvloeit uit een rapport van 404 Mediadie de beelden terugleidde naar een Telegram-groep die bekend staat om het produceren van niet-consensuele pornografische inhoud.
Deze groep heeft eerder aanbevolen om zulke afbeeldingen te maken met behulp van Microsofts Designer-afbeeldingsgenerator, gebruikmakend van een achterpoortje in de AI-richtlijnen.
Hoewel het niet definitief bewezen is dat Designer in dit geval gebruikt werd, benadrukt het de ineffectiviteit van de huidige methodes om schade te beperken.
Microsoft gaf later een verklaring uit aan NBC: "We nemen deze meldingen zeer serieus en zetten ons in om iedereen een veilige ervaring te bieden. We hebben deze meldingen onderzocht en zijn niet in staat geweest om de expliciete afbeeldingen in deze meldingen te reproduceren."
"Onze inhoudsveiligheidsfilters voor expliciete inhoud waren actief en we hebben tot nu toe geen bewijs gevonden dat ze zijn omzeild. Uit voorzichtigheid hebben we stappen ondernomen om onze tekstfilterprompts te versterken en misbruik van onze diensten aan te pakken."
Wijdverspreide reacties
De reactie is niet beperkt gebleven tot de techindustrie.
SAG-AFTRA, de vakbond die acteurs en andere mediaprofessionals vertegenwoordigt, de beelden beschreven van Taylor Swift als "schokkend, schadelijk en zeer verontrustend" en pleitte voor juridische stappen.
De vakbond, die vorig jaar verwikkeld was in de historische staking van Hollywoodacteurs, is voorstander van uitgebreide AI-wetgeving, die ernstig tekortschiet als het gaat om risico's op de korte termijn, zoals diepe vervalsingen.
Ondertussen was de tag #ProtectTaylorSwift wereldwijd trended toen mensen zich aansloten bij de veroordeling.
Vigilante gerechtigheid?
Taylor Swift wordt gesteund door miljoenen "Swifties", die een geduchte reputatie hebben in het confronteren van mensen die kwaadspreken over de ster.
Een X-profiel met de naam Zubera Abdi, geïdentificeerd als de Canadese gebruiker die mogelijk de door AI gegenereerde NSFW-afbeeldingen van Swift verspreidde, werd het doelwit van een digitale klopjacht.
Abdi beschimpte zelfverzekerd, "Het kan me niet schelen hoe machtig de Swifties zijn, ze zullen me nooit vinden", waarmee hij de vastberadenheid van de fanbase van Swift onderschatte.
Abdi's trotsering was van korte duur toen Swifties mobiliseerden en zijn volledige naam, Zubear Mohamed Abdi, vonden.
zubear abdi aka @zvbeer
toronto, ontario, canada
gestudeerd: Universiteit van Toronto Scarborough
Somaliër maar woont in CanadaIk heb nog steeds een exact adres nodig. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25 januari 2024
De situatie escaleerde toen Abdi's persoonlijke informatie op grote schaal werd gedeeld onder Swifties, waarbij iemand opmerkte: "Ze hebben die volledige overheids(naam) in de krantenkoppen nu dawg hij is FINISHED."
Een andere gebruiker, @Melodic_Lemons3, zinspeelde op de mogelijke juridische gevolgen die Abdi zou kunnen krijgen, met de opmerking: "Zubear Mohamed Abdi is gekookt," vooral in het licht van het feit dat het Witte Huis zijn bezorgdheid heeft geuit over de expliciete AI-gegenereerde afbeeldingen van Swift.
Zubear Mohamed Abdi is gekookt https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26 januari 2024
Geconfronteerd met het overweldigende verzet en het vooruitzicht van juridische problemen, gaf Abdi toe aan de druk en koos hij voor een "tactische terugtrekking" door zijn account privé te maken.
"Nu heb ik te maken met Swifties. Een heel ander dier," zei hij. "Dit is een Tactical Retreat, elk groot leger heeft dit gedaan."
Abdi, als hij verantwoordelijk was, heeft hier ongetwijfeld met de verkeerde persoon gerotzooid, maar niet elk slachtoffer van een diepgewortelde nepmisdaad heeft miljoenen supporters achter zich staan.
