AI-selskaper blir saksøkt for brudd på opphavsretten, men AI-genererte bilder utgjør også en potensiell juridisk risiko for sluttbrukerne.
I en artikkel publisert på IEEE SpectrumI sin artikkel om AI-generatorer, skisserte kognitiv forsker Dr. Gary Marcus og filmkonseptkunstner Reid Southen det økende problemet med visuelt plagiat.
Vi tidligere rapportert på bildene som Southen og andre var i stand til å generere ved hjelp av Midjourney v6. Med litt forsiktig veiledning lignet de genererte bildene ekstremt mye på skjermbilder fra opphavsrettsbeskyttede storfilmer.
Midjourneys vilkår og betingelser advarer nå brukerne om at hvis de bruker plattformen til å produsere materiale som krenker opphavsretten, kan de bli utestengt og bli utsatt for rettslige skritt. Southen ble senere utestengt da han påpekte plagiatproblemet Midjourney v6 hadde.
Hvis du med vilje fikk Midjourney eller DALL-E til å lage et bilde med en Disney-figur i, ville du sannsynligvis ikke bli overrasket hvis en Disney-advokat ringte deg. Marcus og Southen påpekte at det er en mer subtil risiko ved å bruke disse verktøyene.
De fant ut at selv generiske spørsmål ofte returnerte opphavsrettsbeskyttet materiale. Hvis en bruker uskyldig ba om "populær 90-talls tegnefilm med gul hud", ville du få dette.
De vil ikke innrømme det, men det ser ut til at Midjourneys modell likte noen episoder av Simpsons.
Kanskje den ledeteksten tvang frem en demonstrasjon av problemet. Hvis du brukte AI til å skrive en bok for barn og ville at Midjourney skulle levere et bilde av "animerte leker", kunne du få dette.
Hvis du var en av de få som ikke har sett Toy Story, kunne du potensielt trykke på publiser på boken din som nå inneholdt bilder som nesten helt sikkert ville gitt deg et opphavsrettssøksmål.
DALL-E genererer også en fin samling av kjente figurer fra filmer som Monsters Inc. og Cars til den samme enkle to-ords-ledeteksten. Selv en enkel redigeringsforespørsel kan få en bruker til å havne i en grumsete situasjon med brudd på opphavsretten, slik denne brukeren gjorde på X.
Du må alltid verifisere AI-hype selv. Så her er min egen raske test av en rimelig sluttbrukerforespørsel på DALL-E 3.
Det begynner greit, til tross for en mistenkelig rød hatt. Men bare litt iterasjon, og plutselig... er det meg, Mario!@GaryMarcus @OpenAI @Nintendo pic.twitter.com/qK23XJcsZj- NLeseul (@NLeseul) 30. desember 2023
Så hvordan fikser vi dette? Marcus og Southen foreslår å fjerne det krenkende opplæringsmateriellet, forbedre prompt-filtreringen og noen andre alternativer. De erkjenner imidlertid at det er en utfordring å lage en AI-bildegenerator som er virkelig god, men som ikke bryter med juridiske og etiske regler.
DALL-E har noen filtre for å prøve å forhindre at ulovlig innhold genereres, men det virker mye lettere å omgå enn det burde være. Enkle prompt jailbreaks som dette burde ikke fungere.
Hvis brukere ønsker å bruke disse verktøyene til å skape innhold som krenker opphavsretten, ser det ikke ut til at generativ AI-selskaper vil være i stand til å forhindre det med det første. Det største problemet er potensialet for utilsiktede krenkelser.
Hvis det vakre svart-hvitt-bildet ditt som DALL-E har laget, ligner veldig på et opphavsrettsbeskyttet Getty-bilde, hvem har da det juridiske ansvaret? Inntil videre kan det være best å kjøre alle bilder du planlegger å publisere, gjennom et omvendt bildesøk for å sikre at du ikke blir en del av AI-søksmålene om opphavsrett.
