AI-företag stäms för upphovsrättsintrång, men AI-genererade bilder utgör också en potentiell juridisk risk för slutanvändarna.
I en artikel publicerad på IEEE-spektrumI en rapport från AI-generatorer beskrev kognitionsforskaren Dr. Gary Marcus och filmkonceptkonstnären Reid Southen det växande problemet med visuell plagiering hos AI-generatorer.
Vi tidigare rapporterat på de bilder som Southen och andra kunde generera med hjälp av Midjourney v6. Med lite försiktiga uppmaningar såg de genererade bilderna extremt lika ut som skärmdumpar från upphovsrättsskyddade blockbusterfilmer.
Midjourneys villkor varnar nu användare att om de använder sin plattform för att producera material som bryter mot upphovsrätten kan de förbjudas och kan få rättsliga åtgärder. Southen blev därefter bannlyst när han påpekade plagiatproblemet som Midjourney v6 hade.
Om du avsiktligt uppmanade Midjourney eller DALL-E att skapa en bild med en Disney-karaktär i skulle du förmodligen inte bli förvånad om en Disney-advokat ringde dig. Marcus och Southen påpekade att det finns en mer subtil risk med att använda dessa verktyg.
De fann att även generiska frågor ofta returnerade upphovsrättsskyddat material. Om en användare oskyldigt frågade "populär 90-tals animerad tecknad serie med gul hud" skulle du få detta.
De vill inte erkänna det, men det verkar som om Midjourneys modell har tittat på några avsnitt av Simpsons.
Kanske tvingade den prompten fram en demonstration av problemet. Om du använde AI för att skriva en bok för barn och ville att Midjourney skulle leverera en bild av "animerade leksaker" skulle du kunna få det här.
Om du var en av de få personer som inte har sett Toy Story kunde du potentiellt trycka på publicera på din bok som nu innehöll bilder som nästan säkert skulle ge dig en upphovsrättsstämning.
DALL-E genererar också en fin samling av bekanta karaktärer från filmer som Monsters Inc. och Cars till samma enkla tvåordsfråga. Även en enkel redigeringsbegäran kan få en användare att hamna i ett skumt upphovsrättsintrångsområde som den här användaren publicerade på X.
Verifiera alltid AI-hype själv. Så här är mitt eget snabba test av en rimlig slutanvändarförfrågan på DALL-E 3.
Det börjar okej, trots en misstänkt röd hatt. Men bara lite iteration, och plötsligt... är det jag, Mario!@GaryMarcus @OpenAI @Nintendo pic.twitter.com/qK23XJcsZj- NLeseul (@NLeseul) 30 december 2023
Så hur löser vi det här? Marcus och Southen föreslår att man tar bort det stötande utbildningsmaterialet, förbättrar snabbfiltreringen och några andra alternativ. De erkänner dock att det är en utmaning att skapa en AI-bildgenerator som är riktigt bra men som inte bryter mot juridiska och etiska regler.
DALL-E har några filter för att försöka förhindra att olagligt innehåll genereras men det verkar mycket lättare att komma runt än det borde. Enkla snabba jailbreaks som detta borde inte fungera.
Om användare avsiktligt vill använda dessa verktyg för att skapa innehåll som gör intrång i upphovsrätten verkar det inte som om generativa AI-företag kommer att kunna förhindra det inom en snar framtid. Den större frågan är potentialen för oavsiktliga intrång.
Om ditt vackra svartvita foto som DALL-E gjorde ser ut som en upphovsrättsskyddad Getty-bild, vem bär då det juridiska ansvaret? För närvarande kan det vara bäst att köra alla bilder du planerar att publicera genom en omvänd bildsökning för att se till att du inte går med i AI:s upphovsrättsstämningar.
