AI-bedrijven worden aangeklaagd wegens schending van het auteursrecht, maar AI-gegenereerde beelden vormen ook een potentieel juridisch risico voor eindgebruikers.
In een artikel gepubliceerd op IEEE Spectrumschetsten cognitiewetenschapper Dr. Gary Marcus en filmconceptkunstenaar Reid Southen het groeiende probleem van visueel plagiaat dat AI-kunstgeneratoren hebben.
We eerder gemeld op de beelden die Southen en anderen konden genereren met behulp van Tussentijdse reis v6. Met wat voorzichtige aanwijzingen leken de gegenereerde afbeeldingen extreem veel op screen grabs van auteursrechtelijk beschermde kaskrakers.
Midjourney's Ts&C's waarschuwen gebruikers nu dat als ze het platform gebruiken om materiaal te produceren dat inbreuk maakt op het auteursrecht, ze gebanned kunnen worden en juridische stappen tegemoet kunnen zien. Southen werd vervolgens verbannen toen hij wees op het plagiaatprobleem dat Midjourney v6 had.
Als je Midjourney of DALL-E opzettelijk zou vragen om een afbeelding te maken met een Disney personage erin, dan zou je waarschijnlijk niet verbaasd zijn als een Disney advocaat je zou bellen. Marcus en Southen wezen erop dat er een subtieler risico zit aan het gebruik van deze tools.
Ze ontdekten dat zelfs algemene prompts vaak auteursrechtelijk beschermd materiaal teruggaven. Als een gebruiker onschuldig "populaire tekenfilm uit de jaren 90 met gele huid" vroeg, kreeg je dit.
Ze zullen het niet toegeven, maar het lijkt erop dat het model van Midjourney heeft genoten van een paar afleveringen van de Simpsons.
Misschien forceerde die prompt een demonstratie van het probleem. Als je AI zou gebruiken om een boek voor kinderen te schrijven en je wilde dat Midjourney een afbeelding van "geanimeerd speelgoed" zou leveren, dan zou je dit kunnen krijgen.
Als je een van de weinige mensen bent die Toy Story niet heeft gezien, dan kun je je boek publiceren met afbeeldingen die je vrijwel zeker een rechtszaak over auteursrecht opleveren.
DALL-E genereert ook een leuke verzameling bekende personages uit films als Monsters Inc. en Cars op diezelfde eenvoudige vraag van twee woorden. Zelfs een eenvoudig bewerkingsverzoek kan een gebruiker in een duister gebied brengen waar auteursrecht wordt geschonden, zoals deze gebruiker op X plaatste.
Controleer AI-hype altijd zelf. Hier is mijn eigen snelle test van een redelijk verzoek van een eindgebruiker op DALL-E 3.
Het begint goed, ondanks een verdacht rode hoed. Maar een klein beetje herhalen en opeens... ben ik het, Mario!@GaryMarcus @OpenAI @Nintendo pic.twitter.com/qK23XJcsZj- NLeseul (@NLeseul) 30 december 2023
Dus hoe lossen we dit op? Marcus en Southen stellen voor om het beledigende trainingsmateriaal te verwijderen, de prompt filtering te verbeteren en nog een aantal andere opties. Ze erkennen echter dat het een uitdaging is om een AI-afbeeldingsgenerator te maken die echt goed is en geen wettelijke en ethische regels overtreedt.
DALL-E heeft een aantal filters om te proberen te voorkomen dat illegale inhoud wordt gegenereerd, maar het lijkt veel gemakkelijker te omzeilen dan het zou moeten. Eenvoudige prompt jailbreaks zoals deze zouden niet moeten werken.
Als gebruikers deze tools opzettelijk willen gebruiken om content te maken die inbreuk maakt op het auteursrecht, dan lijkt het er niet op dat generatieve AI-bedrijven dat snel zullen kunnen voorkomen. Het grotere probleem is de mogelijkheid van onopzettelijke inbreuken.
Als je prachtige zwart-witfoto die DALL-E heeft gemaakt veel lijkt op een Getty-afbeelding waarop auteursrecht rust, wie draagt dan de juridische verantwoordelijkheid? Voor nu is het misschien het beste om elke afbeelding die je wilt publiceren door te spitten om er zeker van te zijn dat je niet meedoet aan de AI-rechtszaak.
