Amerikanska lagstiftare lade fram ett nytt lagförslag med titeln Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE).
DEFIANCE riktar in sig på den växande frågan om AI-genererade explicita bilder, som till exempel de senaste kontroversiella AI-skapade explicita avbildningarna av Taylor Swift.
Taylor Swift utsattes för en serie djupt fejkade AI-genererade bilder som utlösta reaktioner från Vita huset, Microsofts VD Satya Nadella och miljontals människor världen över.
Som svar på spridningen av Swifts deepfakes startade hennes fans, så kallade "Swifties", en kampanj i sociala medier med frasen "Taylor Swift AI" för att överskugga det explicita innehållet med performanceklipp. De lanserade också en digital jakt på gärningsmannen.
Under tiden, politiska djupa förfalskningar har blivit alltmer realistiska och alarmerande, och djupa falska ljud är blir mycket svårare att upptäcka.
Denna partiöverskridande lagstiftning syftar till att stärka enskilda personers ställning genom att göra det möjligt för dem att kräva skadestånd om de avbildas i "digitala förfalskningar" utan samtycke.
Lagförslaget, som presenterades av senatens majoritetsinpiskare Dick Durbin (D-IL) och stöddes av senatorerna Lindsey Graham (R-SC), Amy Klobuchar (D-MN) och Josh Hawley (R-MO), utvidgar det rättsliga ramverket som inrättades genom lagen Violence Against Women Act Reauthorization Act of 2022, som på liknande sätt behandlade explicita bilder som inte är facklade.
DEFIANCE-lagen är ett svar på vad lagstiftarna ser som ett "exponentiellt" ökande problem med digitalt manipulerade explicita AI-bilder.
Senator Durbin kommenterade: "Den här månaden spreds falska, sexuellt explicita bilder av Taylor Swift som genererats av artificiell intelligens på sociala medieplattformar. Även om bilderna kan vara falska är skadan för offren från distributionen av sexuellt explicita 'deep fakes' mycket verklig."
Med hjälp av tillgängliga generativa AI-verktyg har det blivit extremt enkelt att skapa djupa förfalskningar, till och med med verktyg som utvecklats av Microsoft och OpenAI, med allvarliga konsekvenser i form av felaktig information, trakasserier och utpressning.
DEFIANCE-lagen behandlar inte bara AI-genererade bilder utan omfattar även alla sexuellt explicita bilder som skapats eller modifierats med tekniska medel för att framstå som omöjliga att skilja från en autentisk avbildning av individen.
Denna breda definition omfattar även äldre verktyg som Photoshop, förutsatt att resultatet är tillräckligt realistiskt.
Senator Josh Hawley betonade vikten av denna lagstiftning och sade: "Ingen - varken kändisar eller vanliga amerikaner - ska någonsin behöva finna sig själva i AI-pornografi. Oskyldiga människor har rätt att försvara sitt rykte och hålla förövare ansvariga i domstol. Det här lagförslaget kommer att göra det till verklighet."
"Ingen, varken kändisar eller vanliga amerikaner, ska någonsin behöva finna sig själva i AI-pornografi", sade Hawley.
"Oskyldiga människor har rätt att försvara sitt rykte och ställa förövare till svars i domstol."https://t.co/qRNhqo5c8Y
- Senator Hawleys presstjänst (@SenHawleyPress) 31 januari 2024
Lagförslaget står också inför potentiella utmaningar och frågor om dess inverkan på konstnärliga uttryck och politiska parodier, men man skulle kunna tro att gränsen mellan parodi och skada är ganska lätt att dra åtminstone när det gäller sexuellt explicita bilder.
Sammantaget känns DEFIANCE-lagen som ett steg mot att åtgärda de rättsliga luckorna kring icke-konsensuella, AI-genererade explicita bilder, men detta är ett rörligt mål.
