Amerikanske lovgivere har fremsat et nyt lovforslag med titlen Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE).
DEFIANCE er rettet mod det stigende problem med AI-genererede eksplicitte billeder, som f.eks. de seneste kontroversielle AI-skabte eksplicitte afbildninger af Taylor Swift.
Taylor Swift blev ramt af en række dybt falske AI-genererede billeder, der udløste reaktioner fra Det Hvide Hus, Microsofts CEO Satya Nadella og millioner af mennesker verden over.
Som reaktion på spredningen af Swifts deepfakes startede hendes fans, kendt som "Swifties", en kampagne på de sociale medier, hvor de brugte udtrykket "Taylor Swift AI" for at overskygge det eksplicitte indhold med performanceklip. De lancerede også en Digital menneskejagt på gerningsmanden.
I mellemtiden, politiske dybe forfalskninger er blevet mere og mere realistiske og alarmerende, og deep fake audio er bliver meget sværere at opdage.
Denne tværpolitiske lovgivning har til formål at styrke enkeltpersoner ved at give dem mulighed for at kræve erstatning, hvis de afbildes i "digitale forfalskninger" uden samtykke.
Lovforslaget, der blev præsenteret af Senatets flertalsindpisker Dick Durbin (D-IL) og støttet af senatorerne Lindsey Graham (R-SC), Amy Klobuchar (D-MN) og Josh Hawley (R-MO), udvider de juridiske rammer, der blev etableret af Violence Against Women Act Reauthorization Act of 2022, som på samme måde behandlede eksplicitte billeder, der ikke var falske.
DEFIANCE-loven er et svar på, hvad lovgiverne ser som et "eksponentielt" stigende problem med digitalt manipulerede eksplicitte AI-billeder.
Senator Durbin bemærkede: "I denne måned fejede falske, seksuelt eksplicitte billeder af Taylor Swift, der var genereret af kunstig intelligens, hen over de sociale medieplatforme. Selv om billederne måske er falske, er skaden på ofrene fra distributionen af seksuelt eksplicitte 'deep fakes' meget reel."
Med fremkomsten af tilgængelige generative AI-værktøjer er deep fakes blevet ekstremt enkle at skabe, selv ved hjælp af værktøjer udviklet af Microsoft og OpenAI, med alvorlige konsekvenser i form af misinformation, chikane og afpresning.
DEFIANCE-loven omhandler ikke kun AI-genererede billeder, men omfatter også ethvert seksuelt eksplicit billede, der er skabt eller modificeret med teknologiske midler, så det ikke kan skelnes fra en autentisk afbildning af personen.
Denne brede definition omfatter ældre værktøjer som Photoshop, forudsat at resultaterne er realistiske nok.
Senator Josh Hawley understregede vigtigheden af denne lovgivning og sagde: "Ingen - hverken berømtheder eller almindelige amerikanere - bør nogensinde være nødt til at finde sig selv i AI-pornografi. Uskyldige mennesker har ret til at forsvare deres omdømme og holde gerningsmænd ansvarlige i retten. Dette lovforslag vil gøre det til en realitet."
"Ingen, hverken berømtheder eller almindelige amerikanere, bør nogensinde opleve at blive vist i AI-pornografi", sagde Hawley.
"Uskyldige mennesker har ret til at forsvare deres omdømme og holde gerningsmænd ansvarlige i retten."https://t.co/qRNhqo5c8Y
- Senator Hawleys pressekontor (@SenHawleyPress) 31. januar 2024
Lovforslaget står også over for potentielle udfordringer og spørgsmål om dets indvirkning på kunstnerisk udtryk og politisk parodi, men man skulle tro, at grænsen mellem parodi og skade er ret nem at trække, i hvert fald når det gælder seksuelt eksplicitte billeder.
Alt i alt føles DEFIANCE-loven som et skridt i retning af at afhjælpe de juridiske huller omkring ikke-samtykkebaserede, AI-genererede eksplicitte billeder, men det er et mål i bevægelse.
