Januar 2024 begynte med at Midjourney, en ledende aktør innen AI-bildegenerering, brukte navnene og stilene til over 16 000 artister uten deres samtykke for å trene opp bildegenereringsmodellene sine.
Du kan se artistdatabasen under Bilag J av et søksmål mot Midjourney, Stability AI og DeviantArt.
Samme uke som avsløringen kom, lanserte kognitiv forskeren Dr. Gary Marcus og konseptkunstneren Reid Southen en analyse i IEEE med tittelen "Generativ AI har et visuelt plagiatproblem".
De utførte en rekke eksperimenter med AI-modellene Midjourney og DALL-E 3 for å undersøke deres evne til å generere bilder som kan krenke opphavsrettslig beskyttet materiale.
Ved å be Midjourney og DALL-E 3 om å gi korte beskjeder som med vilje var knyttet til kommersielle filmer, karakterer og gjenkjennelige miljøer, avslørte Marcus og Southen disse modellenes utrolige evne til å produsere åpenbart opphavsrettsbeskyttet innhold.
De brukte spørsmål knyttet til spesifikke filmer, som for eksempel "Avengers: Infinity War", uten å navngi karakterene direkte. Dette var for å teste om den kunstige intelligensen ville generere bilder som lignet på det opphavsrettsbeskyttede materialet bare ut fra kontekstuelle hint.
De eksperimenterte med å generere bilder av "The Simpsons"-karakterer ved hjelp av instruksjoner som fikk AI-modellene til å produsere tydelig gjenkjennelige bilder fra serien.
Til slutt testet Marcus og Southen spørsmål som ikke henviser til opphavsrettslig beskyttet materiale i det hele tatt, noe som viser Midjourneys evne til å gjenkalle opphavsrettslig beskyttede bilder selv når de ikke spesifikt blir bedt om det.
Midjourney gjenskaper ulisensiert IP i massevis og noen ganger nesten ordrett fra selv ikke-spesifikke instruksjoner, samtidig som de tjener penger på abonnementer. MJ-brukere trenger ikke å selge bildene for at det potensielt kan ha skjedd brudd på opphavsretten, MJ tjener allerede på å skape dem. pic.twitter.com/Ax3tQWq3pt
- Reid Southen (@Rahll) 7. januar 2024
Dette var mer enn en teknisk exposé - den berører de rå nervene i kunstmiljøer verden over.
Kunst er tross alt ikke det samme som data. Det er kulminasjonen av et helt livs følelsesmessige investeringer, personlig utforskning og omhyggelig håndverk.
Marcus og Southens studie var i ferd med å bli en del av en langvarig debatt om opphavsrett, immaterielle rettigheter, inntektsgenerering fra AI og bedrifters bruk av generativ AI.
Bedrifter bruker AI-generert arbeid, og observatører ignorerer det ikke
Et av slagordene i markedsføringen av generativ AI er "effektivitet" eller avledninger av dette.
Enten virksomheter bruker teknologi for å spare tid, penger eller løse problemer, har vi lenge visst at AI-"effektivitet" innebærer en viss risiko for å fortrenge menneskelig kompetanse eller erstatte arbeidsplasser.
Bedrifter oppfordres ofte til å se dette som en mulighet. Å erstatte et menneske med kunstig intelligens blir ofte sett på som et strategisk valg.
Men å se denne avveiningen mellom mennesker og maskiner så lineært kan vise seg å være en alvorlig feil, noe de følgende hendelsene viser med all tydelighet.
Folk er ikke villige til å la tilfeller av misbruk av AI i bedrifter passere når de har mulighet til å konfrontere det.
ID@Xbox
Xbox, gjennom deres indiespillavdeling ID@Xbox, lanserte et AI-generert vinterlandskap. Det vakte en følelse av ironi, siden denne avdelingen av Xbox fokuserer på uavhengige utviklere og på å støtte og fremme arbeidet deres.
Xbox fjernet senere innlegget, men fulgte ikke opp ellers.
I tilfelle noen holder tellingen ... Xbox OG Game Informer har begge brukt eller fremmet generativ AI relativt nylig. https://t.co/cOvkU3WXQ8 pic.twitter.com/2d5oeVTCLN
- Genel Jumalon ✈️ MagFest (@GenelJumalon) 7. januar 2024
Game Informer, som du kan se ovenfor, la også ut et AI-generert bilde av Master Chief fra Halo av dårlig kvalitet.
Magic: The Gathering
Fantasy-kortspillet Magic: The Gathering tryllet frem en storm av kritikk da de la ut et delvis AI-generert bilde av en ny kortutgivelse. Det var spesielt bakgrunnen som var AI-generert, noe som fremgikk av forvrengte linjer og kurver.
MTG avviste først observatørenes kritikk, som skjøt fart utover i uken. Situasjonen ble forverret av at selskapet tidligere hadde gått ut med en uttalelse der de motsatte seg bruk av kunstig intelligens i sine "hovedprodukter".
Dette var et reklamebilde i sosiale medier, så det brøt ikke det løftet, men det var MTGs første flate dementi som fikk blodet til å pumpe for mange.
"skapt av mennesker"... pic.twitter.com/gf9TUXWSPA
- TaylorGreen (@GreenSkyDragon) 5. januar 2024
Jeg hater at vi lever i en tidslinje der vi må faktasjekke kunst. pic.twitter.com/9D6V6ZXswW
- Genel Jumalon ✈️ MagFest (@GenelJumalon) 5. januar 2024
Senere i uken innrømmet MTG nederlag overfor horder av observatører, og fortalte dem at dette bildet beviselig var AI-generert.
Uttalelsen begynte slik: "Vi gjorde en feil tidligere da vi sa at et markedsføringsbilde vi la ut, ikke var laget ved hjelp av kunstig intelligens. Les videre for mer" og forklarte hvordan en designer sannsynligvis har brukt et AI-verktøy som Firefly, integrert i Photoshop, eller et annet AI-drevet grafisk designverktøy, i stedet for bare å generere hele bildet med Midjourney eller lignende.
Vi gjorde en feil tidligere da vi sa at et markedsføringsbilde vi la ut, ikke var skapt ved hjelp av AI. Les videre for mer informasjon. (1/5)
- Magic: The Gathering (@wizards_magic) 7. januar 2024
Et element i denne debatten var at MTG sannsynligvis bare brukte AI til å generere bildebakgrunnen.
Hvis Adobe Firefly ble brukt til dette, noe som virker mulig, så er Adobe optimistiske når det gjelder deres etisk og juridisk forsvarlige bruk av data, selv om det er omdiskutert.
PDet er kanskje ikke det verste lovbruddet blant ukens andre kandidater, apropos det...
Wacom
En av ukens største feil var utvilsomt Wacom, som produserer tegnebrett for kunstnere og illustratører.
Det er sjokkerende at Wacom, til å være et varemerke som er grunnlagt på å hjelpe kunstnere med å skape digital kunst, brukte et AI-generert bilde for å markedsføre en rabattkupong.
Igjen identifiserte brukerne AI-opprinnelsen til bildet ut fra forvrengninger som er karakteristiske for teknologien, for eksempel teksten nederst til venstre i bildet. Observatører fant senere dragen i Abobe Stock Images.
Reaksjonene var brutale, med X-brukere som ydmyket merkevaren og foreslo at brukerne skulle boikotte produktene deres.
Fordi Wacom slettet innlegget sitt.
Legger ut for internettets historiske bevarings skyld. https://t.co/WEZex5GbG9 pic.twitter.com/chiR2pOczB- Genel Jumalon ✈️ Animate Raleigh (@GenelJumalon) 6. januar 2024
Wacom ba om unnskyldning, men deres forsøk på å skyve ansvaret over på en tredjepart ble ikke sett på med blide øyne.
En melding fra Wacom-teamet: pic.twitter.com/u06PNCvmhU
- Wacom (@wacom) 9. januar 2024
League of Legends
League of Legends var et annet merke som ble felt av den usmakelige bruken av AI-genererte kunst.
Selv om det kanskje er et mer omstridt eller grensesprengende eksempel, finnes det absolutt tegn på kunstig intelligens, noe som kan observeres i noen vanskelig formede komponenter og kroppsdeler.
I løpet av de siste dagene ble Wizards of the Coast fanget i å bruke AI på reklamekampanjer etter å ha sagt at de ikke ville gjøre det. Wacom ble også fanget og slettet, noe som er gal med tanke på produktene deres, og ser ut som Apex Legends også. Jobber går i sanntid, gjør meg kvalm. pic.twitter.com/EGBA1INMPZ
- Reid Southen (@Rahll) 7. januar 2024
Et oppgjør for AI-selskaper?
2024 har sett en fortsettelse av søksmål, med forfatterne Nicholas Basbanes og Nicholas Gage sende inn en klage OpenAI og Microsoft ulovlig har utnyttet deres skriftlige arbeider, den siste siden Søksmål mot New York Times i desember.
Søksmålet fra NYT kan få enorme konsekvenser for AI-sektoren.
Alex Connock, seniorforsker ved Saïd Business School ved Oxford University, understreket de potensielle konsekvensene og sa: "Hvis Times skulle vinne saken, kan det være katastrofalt for hele AI-bransjen."
Han utdypet konsekvensene og bemerket at "et tap av prinsippet om at fair dealing kan gjøre det mulig å lære av tredjeparts materiale, ville være et slag mot hele bransjen".
Dr. Gary Marcus, som var involvert i Midjourney IEEE-studien, kalte også 2024 for "året for AI-søksmålet", og det er spørsmål om dette, kombinert med regulering og potensiell maskinvaremangel, kan signalisere en "AI-vinter", der bransjens glød for utvikling avtar.
2024 er 𝙙𝙚𝙛𝙞𝙣𝙞𝙩𝙚𝙡𝙮 kommer til å bli året for søksmålet i GenAI.
Hvis du vil vite hvorfor, og hvorfor GenAI sannsynligvis vil tape mange av disse søksmålene eller bli tvunget til å inngå forlik, kan du sjekke ut de siste innleggene på min (gratis) 𝖲𝗎𝖻𝗌𝗍𝖺𝖼𝗄, Marcus on AI. https://t.co/cO4bqKkbsa
- Gary Marcus (@GaryMarcus) 8. januar 2024
Connock spekulerte også i de videre konsekvensene av denne flommen av søksmål, og forklarte: "Hvis OpenAI skulle tape saken, ville det åpne muligheten for alle andre innholdsprodusenter som mener at innholdet deres har blitt gjennomsøkt (noe som i utgangspunktet er alle), og føre til skade på en bransjeomfattende skala."
Connock har en teori om at "det som nesten uunngåelig vil skje, er at NY Times vil inngå forlik etter å ha fått en bedre avtale for å tjene penger på bruken av innholdet sitt".
Hvis AI-industrien oppdaget noen hull i rustningen, ville det få enorme konsekvenser, både for store selskaper som NYT og uavhengige skapere.
James Grimmelmann, professor i digital- og informasjonsrett ved Cornell, uttalte: "Opphavsrettsinnehavere har stått i kø for å slå løs på generativ AI som en gigantisk piñata vevd ut av verkene deres. 2024 blir sannsynligvis året da vi finner ut om det er penger inni."
Så hvor sterkt er bransjens forsvar? Så langt klamrer AI-utviklerne seg til sine "fair use"-argumenter, samtidig som de får beskyttelse av det faktum at de fleste populære datasettene er skapt av andre enn dem selv, noe som tilslører deres skyld.
Teknologiselskaper er flinke til å bekjempe juridiske forpliktelser som står i veien for FoU. Og la oss ikke glemme at kunstig intelligens gir muligheter for myndigheter som ønsker "effektivitet" og andre fordeler, noe som demper motstanden.
Den britiske regjeringen utredet for eksempel til og med et unntak fra opphavsretten for AI-selskaper, noe de gikk tilbake på etter massiv motstand og en parlamentarisk komité.
William Fitzgerald, partner i Worker Agency og tidligere medlem av Googles team for offentlig politikk, uttalte følgende i en diskusjon med LA Times sa at big tech ville starte en sterk lobbykampanje, kanskje etter modell av taktikker som tidligere er brukt av teknologigiganter som Google.
Dette vil innebære en kombinasjon av juridisk forsvar, PR-kampanjer og lobbyvirksomhet, en taktikk som var spesielt synlig i tidligere høyprofilerte saker som kampen om Stop Online Piracy Act (SOPA) og rettssaken mot Google Books.
Fitzgerald bemerker at OpenAI ser ut til å følge en lignende vei som Google, ikke bare når det gjelder håndtering av opphavsrettsklager, men også når det gjelder ansettelsespraksis.
Han påpeker: "Det ser ut til at OpenAI kopierer Googles lobbyvirksomhet. De har ansatt tidligere Google-advokater for å påvirke den samme dreieboken som har vært så vellykket for Google i flere tiår nå."
Fitzgeralds analyse tyder på at AI-industrien, i likhet med andre teknologisektorer før den, kan være avhengig av kraftig lobbyvirksomhet og strategiske politiske manøvrer for å forme det juridiske landskapet i sin favør.
Hvordan dette vil slå ut, er umulig å forutsi. Men du kan være sikker på at Big Tech er klar til å slite til den bitre enden.
