Amerikaanse wetgevers hebben een nieuw wetsvoorstel ingediend met de titel Disrupt Explicit Forged Images and Non-Consensual Edits (DEFIANCE).
DEFIANCE richt zich op het opkomende probleem van door AI gegenereerde expliciete beelden, zoals de recente controversiële door AI gemaakte expliciete afbeeldingen van Taylor Swift.
Taylor Swift was het doelwit van een reeks neppe AI-gegenereerde afbeeldingen die uitgelokte reacties van het Witte Huis, Microsoft CEO Satya Nadella en miljoenen wereldwijd.
Als reactie op de verspreiding van de Swift deepfakes begonnen haar fans, bekend als "Swifties", een sociale mediacampagne met de zin "Taylor Swift AI" om de expliciete inhoud te overschaduwen met optredens. Ze lanceerden ook een digitale klopjacht op de dader.
Ondertussen, politieke neppers zijn steeds realistischer en alarmerender geworden, en deep fake audio is veel moeilijker op te sporen.
Deze tweepartijdige wetgeving wil individuen mondiger maken door hen in staat te stellen een schadeclaim in te dienen als ze zonder toestemming zijn afgebeeld in "digitale vervalsingen".
Het wetsvoorstel, dat is ingediend door senator Dick Durbin (D-IL) en wordt gesteund door de senatoren Lindsey Graham (R-SC), Amy Klobuchar (D-MN) en Josh Hawley (R-MO), breidt het wettelijke kader uit dat is ingesteld door de Violence Against Women Act Reauthorization Act van 2022, die op vergelijkbare wijze niet-gefilmd expliciet beeldmateriaal aanpakte.
De DEFIANCE-wet is een reactie op wat de wetgevers zien als een "exponentieel" groeiend probleem van digitaal gemanipuleerde expliciete AI-beelden.
Senator Durbin merkte op: "Deze maand werden de sociale mediaplatforms overspoeld met valse, seksueel expliciete afbeeldingen van Taylor Swift die waren gegenereerd door kunstmatige intelligentie. Hoewel de beelden misschien nep zijn, is de schade voor de slachtoffers door de verspreiding van seksueel expliciete 'deep fakes' zeer reëel."
Met de komst van toegankelijke generatieve AI-tools zijn diepe vervalsingen extreem eenvoudig geworden om te maken, zelfs met behulp van tools ontwikkeld door Microsoft en OpenAI, met ernstige gevolgen van verkeerde informatie, pesterijen en chantage.
De DEFIANCE-wet heeft niet alleen betrekking op door AI gegenereerde afbeeldingen, maar omvat ook elke seksueel expliciete afbeelding die door technologische middelen is gemaakt of aangepast om niet te onderscheiden van een authentieke afbeelding van het individu.
Deze brede definitie omvat oudere gereedschappen zoals Photoshop, op voorwaarde dat de resultaten realistisch genoeg zijn.
Senator Josh Hawley benadrukte het belang van deze wetgeving door te zeggen: "Niemand - noch beroemdheden noch gewone Amerikanen - zou ooit in AI-pornografie moeten voorkomen. Onschuldige mensen hebben het recht om hun reputatie te verdedigen en daders voor de rechter te slepen. Dit wetsvoorstel maakt dat mogelijk."
"Niemand, noch beroemdheden noch gewone Amerikanen, zou ooit in AI-porno moeten staan," zei Hawley.
"Onschuldige mensen hebben het recht om hun reputatie te verdedigen en daders in de rechtszaal ter verantwoording te roepen."https://t.co/qRNhqo5c8Y
- Senator Hawley Persbureau (@SenHawleyPress) 31 januari 2024
Het wetsvoorstel wordt ook geconfronteerd met mogelijke uitdagingen en vragen over de impact op artistieke expressie en politieke parodie, maar je zou denken dat de grens tussen parodie en schade vrij gemakkelijk te trekken is als het gaat om seksueel expliciete beelden.
Al met al voelt de DEFIANCE-wet als een stap in het aanpakken van de juridische leemtes rondom niet-consensueel, door AI gegenereerd expliciet beeldmateriaal, maar dit is een bewegend doel.
