Januar 2024 begyndte med snak om, at Midjourney, en førende kraft i AI-billedgenereringsverdenen, brugte navne og stilarter fra over 16.000 kunstnere uden deres samtykke til at træne sine billedgenereringsmodeller.
Du kan se kunstnerdatabasen under Bilag J af en retssag mod Midjourney, Stability AI og DeviantArt.
Inden for samme uge udgav kognitionsforskeren Dr. Gary Marcus og konceptkunstneren Reid Southen en analyse i IEEE med titlen "Generativ AI har et visuelt plagiatproblem".
De udførte en række eksperimenter med AI-modellerne Midjourney og DALL-E 3 for at undersøge deres evne til at generere billeder, der kunne krænke ophavsretligt beskyttet materiale.
Ved at opfordre Midjourney og DALL-E 3 med opfordringer, der med vilje var valgt til at være korte og relateret til kommercielle film, karakterer og genkendelige omgivelser, afslørede Marcus og Southen disse modellers utrolige evne til at producere åbenlyst ophavsretligt beskyttet indhold.
De brugte opfordringer relateret til specifikke film, såsom "Avengers: Infinity War", uden at nævne karaktererne direkte. Dette var for at teste, om AI'en ville generere billeder, der lignede det ophavsretligt beskyttede materiale, blot ud fra kontekstuelle stikord.
Tegnefilm blev også dækket - de eksperimenterede med at generere billeder af "The Simpsons"-figurer ved hjælp af prompts, der fik AI-modellerne til at producere tydeligt genkendelige billeder fra serien.
Endelig testede Marcus og Southen beskeder, der slet ikke henviser til copyright-materiale, og viste Midjourneys evne til at huske copyright-billeder, selv når der ikke specifikt blev spurgt efter dem.
Midjourney genskaber ulicenseret IP i massevis og nogle gange næsten ordret ud fra selv ikke-specifikke opfordringer, mens de tjener på abonnementer. MJ-brugere behøver ikke at sælge billederne, for at der potentielt er sket en krænkelse af ophavsretten, MJ tjener allerede på at skabe dem. pic.twitter.com/Ax3tQWq3pt
- Reid Southen (@Rahll) 7. januar 2024
Dette var mere end en teknisk udstilling - den rørte ved de rå nerver i kunstneriske samfund verden over.
Kunst er trods alt ikke det samme som data. Det er kulminationen på en livslang følelsesmæssig investering, personlig udforskning og omhyggeligt håndværk.
Marcus og Southens undersøgelse var ved at blive en del af en langvarig debat om ophavsret, intellektuel ejendomsret, indtjening på AI og virksomheders brug af generativ AI.
Virksomheder bruger AI-genereret arbejde, og iagttagere ignorerer det ikke
En af den generative AI's marketing-taglines for erhvervslivet er "effektivitet" eller afledninger heraf.
Uanset om virksomheder bruger teknologi til at spare tid, penge eller løse problemer, har vi i et stykke tid vidst, at AI-"effektivitet" indebærer en vis risiko for at fortrænge menneskelige færdigheder eller erstatte job.
Virksomheder opfordres ofte til at se dette som en mulighed. At erstatte et menneske med AI ses ofte som et strategisk valg.
Men at se denne afvejning mellem mennesker og maskiner så lineært kan vise sig at være en alvorlig fejl, som de følgende begivenheder helt ærligt viser.
Folk er ikke villige til at lade tilfælde af virksomheders misbrug af AI passere, når de har mulighed for at konfrontere det.
ID@Xbox
Xbox udgav gennem deres indiespil-håndtag ID@Xbox en AI-genereret vinterlig scene. Det fremkaldte en følelse af ironi, da denne afdeling af Xbox er fokuseret på uafhængige udviklere og på at støtte og fremme deres arbejde.
Xbox fjernede senere indlægget, men fulgte ellers ikke op på det.
Hvis nogen holder tælling... Xbox OG Game Informer har begge brugt eller promoveret generativ AI for relativt nylig. https://t.co/cOvkU3WXQ8 pic.twitter.com/2d5oeVTCLN
- Genel Jumalon ✈️ MagFest (@GenelJumalon) 7. januar 2024
Game Informer har, som du kan se ovenfor, også lagt et AI-genereret billede af Master Chief fra Halo ud i dårlig kvalitet.
Magic: The Gathering
Fantasy-handelskortspillet Magic: The Gathering fremtryllede en Storm af kritik da de postede et delvist AI-genereret billede af en ny kortudgivelse. Det var især baggrunden, der var AI-genereret, som det fremgik af forvrængede linjer og kurver.
MTG afviste i første omgang observatørernes kritik, som tog til i løbet af ugen. Situationen blev forværret af, at virksomheden tidligere havde udsendt en erklæring, der modsatte sig brugen af AI i deres 'hovedprodukter'.
Dette var et reklamebillede på de sociale medier, så det brød ikke løftet, men det var MTG's første flade afvisning, der fik blodet til at pumpe hos mange.
"Skabt af mennesker" Ja... pic.twitter.com/gf9TUXWSPA
- TaylorGreen (@GreenSkyDragon) 5. januar 2024
Jeg hader, at vi lever i en tidslinje, hvor vi skal faktatjekke kunst. pic.twitter.com/9D6V6ZXswW
- Genel Jumalon ✈️ MagFest (@GenelJumalon) 5. januar 2024
Senere på ugen indrømmede MTG sit nederlag over for horderne af observatører og fortalte dem, at dette billede med sikkerhed var AI-genereret.
Erklæringen begyndte med: "Vi begik en fejl tidligere, da vi sagde, at et marketingbillede, vi lagde ud, ikke var skabt ved hjælp af AI. Læs videre" og forklarede, hvordan en designer sandsynligvis har brugt et AI-værktøj som Firefly, der er integreret i Photoshop, eller et andet AI-drevet grafisk designværktøj i stedet for blot at generere hele billedet med Midjourney eller lignende.
Vi begik en fejl tidligere, da vi sagde, at et marketingbillede, vi lagde ud, ikke var skabt ved hjælp af AI. Læs videre for at få mere at vide. (1/5)
- Magic: The Gathering (@wizards_magic) 7. januar 2024
Et element i denne debat var, at MTG sandsynligvis kun brugte AI til at generere billedbaggrunden.
Hvis Adobe Firefly blev brugt til dettehvilket synes muligt, så er Adobe optimistisk omkring deres etisk og juridisk forsvarlige brug af data, selvom det er omdiskuteret.
PMåske er det ikke det værste angreb blandt de andre kandidater fra denne uge, nu vi taler om det...
Wacom
En af ugens største fejl var uden tvivl Wacom, som fremstiller tegnetavler til kunstnere og illustratorer.
For et brand, der er grundlagt på at hjælpe kunstnere med at skabe digital kunst, er det chokerende, at Wacom brugte et AI-genereret billede til at promovere en rabatkupon.
Igen identificerede brugerne billedets AI-oprindelse ud fra forvrængninger, der er karakteristiske for teknologien, som f.eks. teksten nederst til venstre i billedet. Observatører fandt senere dragen i Abobe Stock Images.
Reaktionen var brutal, og X-brugere ydmygede brandet og foreslog, at brugerne skulle boykotte deres produkter.
Fordi Wacom slettede deres indlæg.
Opslag for internettets historiske bevarings skyld. https://t.co/WEZex5GbG9 pic.twitter.com/chiR2pOczB- Genel Jumalon ✈️ Animate Raleigh (@GenelJumalon) 6. januar 2024
Wacom undskyldte, men deres forsøg på at skubbe ansvaret over på en tredjepart blev ikke set med milde øjne.
En besked fra Wacom-teamet: pic.twitter.com/u06PNCvmhU
- Wacom (@wacom) 9. januar 2024
League of Legends
League of Legends var et andet brand, der blev fældet af den usmagelige brug af AI-genereret kunst.
Selv om det måske er et mere omstridt eller grænseoverskridende eksempel, er der bestemt tegn på AI, som det ses i nogle akavet formede komponenter og kropsdele.
I de seneste par dage er Wizards of the Coast blevet taget i at bruge AI i reklamekampagner efter at have sagt, at de ikke ville gøre det. Wacom blev også fanget og slettet, hvilket er skørt i betragtning af deres produkter, og det ser ud til, at Apex Legends også gør det. Jobs forsvinder i realtid, det giver mig kvalme. pic.twitter.com/EGBA1INMPZ
- Reid Southen (@Rahll) 7. januar 2024
Et regnskab for AI-virksomheder?
2024 har set en fortsættelse af retssager, med forfatterne Nicholas Basbanes og Nicholas Gage Indgivelse af en klage der hævder, at OpenAI og Microsoft ulovligt har udnyttet deres skriftlige værker, det seneste siden Retssag mod New York Times i december.
Især NYT's søgsmål kan få enorme konsekvenser for AI-sektoren.
Alex Connock, senior fellow ved Oxford University's Saïd Business School, understregede de potentielle konsekvenser og sagde: "Hvis Times skulle vinde sagen, kunne det være katastrofalt for hele AI-industrien."
Han uddybede konsekvenserne og bemærkede, at "et tab af princippet om, at fair handel kan gøre det muligt at lære af tredjepartsmaterialer, ville være et slag for hele branchen."
Dr. Gary Marcus, der var involveret i Midjourney IEEE-undersøgelsen, kaldte også 2024 for 'året for AI-retssagen', og der er spørgsmål om, hvorvidt dette, kombineret med regulering og potentiel hardwaremangel, kan signalere en 'AI-vinter', hvor industriens glød for udvikling afkøles.
2024 er 𝙙𝙚𝙛𝙞𝙣𝙞𝙩𝙚𝙡𝙮 kommer til at være året for retssagen i GenAI.
Hvis du vil vide hvorfor, og hvorfor GenAI sandsynligvis vil tabe mange af disse søgsmål eller blive tvunget til at indgå forlig, kan du læse de sidste par indlæg på min (gratis) 𝖲𝗎𝖻𝗌𝗍𝖺𝖼𝗄, Marcus on AI. https://t.co/cO4bqKkbsa
- Gary Marcus (@GaryMarcus) 8. januar 2024
Connock spekulerede også i de bredere konsekvenser af denne syndflod af retssager og forklarede: "Hvis OpenAI skulle tabe sagen, ville det åbne muligheden for alle andre indholdsproducenter, der mener, at deres indhold er blevet crawlet (hvilket stort set er alle) og skabe skade i hele branchen."
Connock har en teori: "Det, der næsten uundgåeligt vil ske, er, at NY Times indgår et forlig efter at have fået en bedre aftale om indtægtsgenerering for brugen af deres indhold."
Opdagelsen af eventuelle sprækker i AI-industriens rustning ville være enorm, både for store virksomheder som NYT og uafhængige skabere.
Som James Grimmelmann, professor i digital- og informationsret ved Cornell, sagde: "Ophavsretsejere har stået i kø for at slå løs på generativ AI som en kæmpe piñata vævet ud af deres værker. 2024 bliver sandsynligvis året, hvor vi finder ud af, om der er penge indeni."
Så hvor stærkt er branchens forsvar? Indtil videre klamrer AI-udviklerne sig til deres "fair use"-argumenter, mens de får beskyttelse af det faktum, at de fleste populære datasæt blev skabt af andre end dem selv, hvilket skjuler deres skyld.
Teknologivirksomheder er dygtige til at bekæmpe juridiske forpligtelser, der står i vejen for forskning og udvikling. Og lad os ikke glemme, at AI giver muligheder for regeringer, der søger "effektivitet" og andre fordele, hvilket gør deres modstand mindre.
Den britiske regering undersøgte f.eks. endda en undtagelse fra ophavsretten for AI-virksomheder, noget de vendte tilbage til efter stor modstand og et parlamentarisk udvalg.
Med hensyn til strategi sagde William Fitzgerald, partner i Worker Agency og tidligere medlem af Googles public policy-team, i en diskussion med LA Times, sagde, at big tech ville starte en stærk lobbykampagne, måske inspireret af den taktik, der tidligere er blevet brugt af tech-giganter som Google.
Det vil indebære en kombination af juridisk forsvar, PR-kampagner og lobbyarbejde, en taktik, som var særlig synlig i tidligere højprofilerede sager som kampen om Stop Online Piracy Act (SOPA) og retssagen om Google Books.
Fitzgerald bemærker, at OpenAI ser ud til at følge en lignende vej som Google, ikke kun i deres tilgang til håndtering af copyright-klager, men også i deres ansættelsespraksis.
Han påpeger: "Det ser ud til, at OpenAI kopierer Googles lobby-playbook. De har hyret tidligere Google-advokater til at påvirke den samme drejebog, som har været så succesfuld for Google i årtier nu."
Fitzgeralds analyse antyder, at AI-industrien, ligesom andre teknologisektorer før den, kan være afhængig af en stærk lobbyindsats og strategiske politiske manøvrer for at forme det juridiske landskab til deres fordel.
Det er umuligt at forudsige, hvordan det vil gå. Men du kan være sikker på, at big tech er klar til at kæmpe til den bitre ende.
