Amerikanske lovgivere har fremmet et nytt lovforslag med tittelen Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE).
DEFIANCE retter søkelyset mot det økende problemet med AI-genererte eksplisitte bilder, som for eksempel de kontroversielle AI-skapte eksplisitte avbildningene av Taylor Swift.
Taylor Swift ble utsatt for en rekke falske AI-genererte bilder som utløste reaksjoner fra Det hvite hus, Microsoft-sjef Satya Nadella og millioner av mennesker verden over.
Som svar på spredningen av Swifts deepfakes startet fansen hennes, kjent som "Swifties", en kampanje på sosiale medier der de brukte uttrykket "Taylor Swift AI" for å overskygge det eksplisitte innholdet med performanceklipp. De lanserte også en digital menneskejakt på gjerningsmannen.
I mellomtiden.., politiske dypforfalskninger blitt stadig mer realistisk og alarmerende, og dyp falsk lyd er blir mye vanskeligere å oppdage.
Dette tverrpolitiske lovforslaget har som mål å gi enkeltpersoner mulighet til å kreve erstatning dersom de blir avbildet i "digitale forfalskninger" uten samtykke.
Lovforslaget, som ble introdusert av senatets majoritetsinnpisker Dick Durbin (D-IL) og støttet av senatorene Lindsey Graham (R-SC), Amy Klobuchar (D-MN) og Josh Hawley (R-MO), utvider det juridiske rammeverket som ble etablert av Violence Against Women Act Reauthorization Act of 2022, som på samme måte tok for seg eksplisitte bilder som ikke var falske.
DEFIANCE-loven er et svar på det lovgiverne ser som et "eksponentielt" økende problem med digitalt manipulerte, eksplisitte AI-bilder.
Senator Durbin bemerket: "Denne måneden spredte falske, seksuelt eksplisitte bilder av Taylor Swift som var generert av kunstig intelligens, seg på sosiale medier. Selv om bildene kan være falske, er skaden ofrene påføres av distribusjonen av seksuelt eksplisitte 'deep fakes' svært reell."
Med fremveksten av tilgjengelige generative AI-verktøy har det blitt ekstremt enkelt å lage dype forfalskninger, til og med ved hjelp av verktøy utviklet av Microsoft og OpenAI, med alvorlige konsekvenser i form av feilinformasjon, trakassering og utpressing.
DEFIANCE-loven omfatter ikke bare AI-genererte bilder, men også alle seksuelt eksplisitte bilder som er skapt eller modifisert ved hjelp av teknologiske hjelpemidler slik at de ikke kan skilles fra en autentisk avbildning av en person.
Denne brede definisjonen omfatter også eldre verktøy som Photoshop, forutsatt at resultatene er realistiske nok.
Senator Josh Hawley understreket viktigheten av denne lovgivningen og uttalte: "Ingen - verken kjendiser eller vanlige amerikanere - skal noen gang måtte oppleve å bli omtalt i AI-pornografi. Uskyldige mennesker har rett til å forsvare sitt rykte og holde gjerningsmennene ansvarlige i retten. Dette lovforslaget vil gjøre dette til en realitet."
"Ingen, verken kjendiser eller vanlige amerikanere, skal noen gang måtte finne seg selv i AI-pornografi", sa Hawley.
"Uskyldige mennesker har rett til å forsvare sitt omdømme og stille gjerningsmennene til ansvar i retten."https://t.co/qRNhqo5c8Y
- Senator Hawleys pressekontor (@SenHawleyPress) 31. januar 2024
Lovforslaget står også overfor potensielle utfordringer og spørsmål om hvordan det påvirker kunstneriske uttrykk og politisk parodi, men man skulle tro at grensen mellom parodi og skade er ganske enkel å trekke, i hvert fall når det gjelder seksuelt eksplisitte bilder.
Alt i alt føles DEFIANCE-loven som et skritt i retning av å tette de juridiske hullene rundt ikke-samtykkebaserte, AI-genererte eksplisitte bilder, men dette er et mål i bevegelse.
