Januari 2024 inleddes med samtal om att Midjourney, en ledande aktör inom AI-bildgenerering, använt namn och stilar från över 16.000 konstnärer utan deras medgivande för att träna sina bildgenereringsmodeller.
Du kan se artistdatabasen enligt bilaga J av en stämningsansökan som lämnats in mot Midjourney, Stability AI och DeviantArt.
Samma vecka som detta offentliggjordes släppte kognitionsforskaren Dr. Gary Marcus och konceptkonstnären Reid Southen en analys i IEEE med titeln "Generativ AI har ett visuellt plagiatproblem".
De genomförde en serie experiment med AI-modellerna Midjourney och DALL-E 3 för att undersöka deras förmåga att generera bilder som kan göra intrång i upphovsrättsskyddat material.
Genom att uppmana Midjourney och DALL-E 3 med uppmaningar som avsiktligt valts för att vara korta och relaterade till kommersiella filmer, karaktärer och igenkännbara miljöer, avslöjade Marcus och Southen dessa modellers otroliga förmåga att producera uppenbart upphovsrättsskyddat innehåll.
De använde uppmaningar som var relaterade till specifika filmer, till exempel "Avengers: Infinity War", utan att direkt nämna karaktärerna. Detta för att testa om AI:n skulle generera bilder som var mycket lika det upphovsrättsskyddade materialet bara utifrån kontextuella ledtrådar.
Tecknade serier ingick också - man experimenterade med att generera bilder av "The Simpsons"-karaktärer och använde uppmaningar som fick AI-modellerna att producera tydligt igenkännbara bilder från serien.
Slutligen testade Marcus och Southen uppmaningar som inte alls anspelade på upphovsrättsligt material, vilket visade Midjourneys förmåga att komma ihåg upphovsrättsligt skyddade bilder även när de inte specifikt efterfrågades.
Midjourney återskapar olicensierad IP i massor och ibland nästan ordagrant från även icke-specifika uppmaningar, samtidigt som de tjänar på prenumerationer. MJ-användare behöver inte sälja bilderna för att upphovsrättsintrång potentiellt ska ha inträffat, MJ tjänar redan på dess skapande. pic.twitter.com/Ax3tQWq3pt
- Reid Southen (@Rahll) 7 januari 2024
Detta var mer än en teknisk exposé - det berörde de råa nerverna i konstnärliga samhällen över hela världen.
Konst är trots allt inte likvärdigt med data. Det är kulmen på en livstid av känslomässiga investeringar, personligt utforskande och omsorgsfullt hantverk.
Marcus och Southens studie var på väg att bli en del av en utdragen debatt som omfattade upphovsrätt, immateriella rättigheter, AI-intäktsgenerering och företagens användning av generativ AI.
Företag använder AI-genererat arbete, och observatörer ignorerar det inte
Ett av de slagord som används i marknadsföringen av generativ AI är "effektivitet" eller derivat därav.
Oavsett om företag använder teknik för att spara tid, pengar eller lösa problem, har vi vetat ett tag nu att AI-"effektivitet" innebär en viss risk för att mänskliga färdigheter trängs undan eller att jobb ersätts.
Företag uppmuntras ofta att se detta som en möjlighet. Att ersätta en människa med AI ses ofta som ett strategiskt val.
Att se denna avvägning mellan människor och maskiner så linjärt kan dock visa sig vara ett allvarligt misstag, vilket följande händelser visar på ett uppriktigt sätt.
Människor är inte villiga att låta exempel på företags missbruk av AI passera när de har möjlighet att konfrontera det.
ID@Xbox
Xbox, genom sin avdelning för indiespel ID@Xbox, släppte en AI-genererad vinterscen. Det framkallade en känsla av ironi eftersom denna division av Xbox är inriktad på oberoende utvecklare och på att stödja och främja deras arbete.
Xbox tog senare bort inlägget men följde inte upp det på annat sätt.
Om någon håller räkningen ... Xbox OCH Game Informer har båda använt eller främjat generativ AI relativt nyligen. https://t.co/cOvkU3WXQ8 pic.twitter.com/2d5oeVTCLN
- Genel Jumalon ✈️ MagFest (@GenelJumalon) 7 januari 2024
Game Informer, som du kan se ovan, publicerade också en AI-genererad bild av Master Chief från Halo av dålig kvalitet.
Magic: The Gathering
Fantasy-kortspelet Magic: The Gathering trollade fram en storm av kritik när de publicerade en delvis AI-genererad bild av en ny kortutgåva. Det var särskilt bakgrunden som var AI-genererad, vilket framgår av förvrängda linjer och kurvor.
MTG avvisade inledningsvis observatörernas kritik, som tilltog under veckans gång. Situationen förvärrades av det faktum att bolaget tidigare hade släppt ett uttalande där man motsatte sig användningen av AI i sina "huvudprodukter".
Detta var en reklambild för sociala medier, så den bröt inte det löftet, men det var MTG:s inledande platta förnekande som fick blodet att pumpa för många.
"skapad av människor" Just det... pic.twitter.com/gf9TUXWSPA
- TaylorGreen (@GreenSkyDragon) 5 januari 2024
Jag hatar att vi lever i en tidslinje där vi måste faktagranska konst. pic.twitter.com/9D6V6ZXswW
- Genel Jumalon ✈️ MagFest (@GenelJumalon) 5 januari 2024
Senare under veckan erkände MTG sig besegrat av horderna av observatörer och berättade att bilden var AI-genererad.
Uttalandet inleddes med "Vi gjorde ett misstag tidigare när vi sa att en marknadsföringsbild som vi publicerade inte skapades med hjälp av AI. Läs vidare för mer" och förklarade hur en designer sannolikt använt ett AI-verktyg som Firefly, integrerat i Photoshop, eller ett annat AI-drivet grafiskt designverktyg snarare än att bara generera hela bilden med Midjourney eller liknande.
Vi gjorde ett misstag tidigare när vi sa att en marknadsföringsbild som vi publicerade inte skapades med hjälp av AI. Läs vidare för mer information. (1/5)
- Magic: The Gathering (@wizards_magic) 7 januari 2024
En del av denna debatt var att MTG förmodligen bara använde AI för att generera bildbakgrunden.
Om Adobe Firefly användes för dettavilket verkar möjligt, så är Adobe positiva till sin etiskt och juridiskt sunda användning av data, även om det är omtvistat.
Pkanske är det inte det värsta brottet bland andra kandidater från den här veckan, på tal om det...
Wacom
Ett av veckans största misstag var utan tvekan Wacom, som tillverkar ritplattor för konstnärer och illustratörer.
För att vara ett varumärke som bygger på att hjälpa konstnärer att skapa digital konst använde Wacom en AI-genererad bild för att marknadsföra en rabattkupong.
Återigen identifierade användare bildens AI-ursprung utifrån förvrängningar som är karakteristiska för tekniken, till exempel texten längst ned till vänster i bilden. Observatörer hittade senare draken i Abobe Stock Images.
Reaktionen var brutal och X-användare förödmjukade varumärket och föreslog att användarna skulle bojkotta deras produkter.
Eftersom Wacom raderade sitt inlägg.
Postar för att bevara historiken på internet. https://t.co/WEZex5GbG9 pic.twitter.com/chiR2pOczB- Genel Jumalon ✈️ Animate Raleigh (@GenelJumalon) 6 januari 2024
Wacom bad om ursäkt, men deras försök att skjuta över ansvaret på en tredje part sågs inte med blida ögon.
Ett meddelande från Wacom-teamet: pic.twitter.com/u06PNCvmhU
- Wacom (@wacom) 9 januari 2024
League of Legends
League of Legends var ett annat varumärke som drabbades av den osmakliga användningen av AI-genererad konst.
Även om det kanske är ett mer omtvistat eller gränsöverskridande exempel, finns det verkligen bevis på AI, vilket observerats i vissa obekvämt formade komponenter och kroppsdelar.
Under de senaste dagarna fångades Wizards of the Coast med att använda AI på reklamkampanjstycken efter att ha sagt att de inte skulle göra det. Wacom fångades också och raderades, vilket är galet med tanke på deras produkter, och ser ut som Apex Legends också. Jobb går i realtid, gör mig illamående. pic.twitter.com/EGBA1INMPZ
- Reid Southen (@Rahll) 7 januari 2024
En uppgörelse för AI-bolagen?
2024 har sett en fortsättning på stämningarna, med författarna Nicholas Basbanes och Nicholas Gage Lämna in ett klagomål som hävdar att OpenAI och Microsoft olovligen utnyttjat deras skriftliga verk, den senaste sedan Stämning mot New York Times i december.
I synnerhet NYT:s stämningsansökan kan få monumentala konsekvenser för AI-sektorn.
Alex Connock, senior fellow vid Oxford University's Saïd Business School, betonade den potentiella effekten och sade: "Om Times skulle vinna målet skulle det kunna vara katastrofalt för hela AI-industrin."
Han utvecklade konsekvenserna och konstaterade att "en förlust av principen om att rättvis handel kan möjliggöra lärande från material från tredje part skulle vara ett slag mot hela branschen".
Dr. Gary Marcus, som deltog i Midjourney IEEE-studien, kallade också 2024 för "året för AI-stämningen", och det finns frågor om detta, i kombination med reglering och potentiella hårdvarubrister, kan signalera en "AI-vinter", där branschens glöd för utveckling svalnar.
2024 är 𝙙𝙚𝙛𝙞𝙣𝙞𝙩𝙚𝙡𝙮 kommer att vara året för stämningen i GenAI.
Om du vill veta varför, och varför GenAI förmodligen kommer att förlora många av dessa stämningar eller tvingas till förlikning, kolla in de senaste inläggen på min (gratis) 𝖲𝗎𝖻𝗌𝗍𝖺𝖼𝗄, Marcus on AI. https://t.co/cO4bqKkbsa
- Gary Marcus (@GaryMarcus) 8 januari 2024
Connock spekulerade också i de bredare konsekvenserna av denna flodvåg av stämningar och förklarade: "Om OpenAI skulle förlora målet skulle det öppna upp möjligheten för alla andra innehållsproducenter som tror att deras innehåll har genomsökts (vilket i princip är alla) och orsaka skada på en branschomfattande skala."
Connocks teori är att "det som nästan oundvikligen kommer att hända är att NY Times kommer att förlikas efter att ha fått ett bättre avtal för att tjäna pengar på användningen av sitt innehåll".
Om AI-industrin skulle få några sprickor i sin rustning skulle det få enorma konsekvenser, både för stora företag som NYT och för oberoende kreatörer.
James Grimmelmann, professor i digital- och informationsrätt vid Cornell, konstaterade: "Upphovsrättsinnehavare har stått i kö för att få slå till mot generativ AI som en gigantisk piñata vävd av deras verk. År 2024 kommer sannolikt att bli året då vi får reda på om det finns pengar inuti."
Så hur starkt är branschens försvar? Hittills håller AI-utvecklarna fast vid sina argument om "rättvis användning" samtidigt som de får skydd av det faktum att de mest populära dataseten skapades av andra enheter än dem själva, vilket döljer deras skuld.
Teknikföretag är duktiga på att bekämpa rättsliga förpliktelser som står i vägen för FoU. Och låt oss inte glömma att AI innebär möjligheter för regeringar som söker "effektivitet" och andra fördelar, vilket mildrar deras motstånd.
Den brittiska regeringen har t.ex. till och med undersökt ett undantag från upphovsrätten för AI-företag, något som de ändrade sig om efter stort motstånd och en parlamentarisk kommitté.
När det gäller strategi, i en diskussion med LA Times, William Fitzgerald, en partner på Worker Agency och tidigare Google public policy team medlem, sa att big tech skulle inleda en stark lobbyingkampanj, kanske med samma taktik som tidigare använts av teknikjättar som Google.
Detta skulle innebära en kombination av rättsligt försvar, PR-kampanjer och lobbying, en taktik som var särskilt synlig i tidigare uppmärksammade fall som kampen mot Stop Online Piracy Act (SOPA) och tvisten om Google Books.
Fitzgerald konstaterar att OpenAI verkar följa en liknande väg som Google, inte bara när det gäller deras sätt att hantera upphovsrättsliga klagomål utan också när det gäller deras anställningsrutiner.
Han påpekar, "Det verkar som om OpenAI replikerar Googles lobbying playbook. De har anställt tidigare Google-förespråkare för att påverka samma spelbok som har varit så framgångsrik för Google i årtionden nu."
Fitzgeralds analys tyder på att AI-industrin, liksom andra tekniksektorer före den, kan förlita sig på kraftfulla lobbyinsatser och strategiska politiska manövrer för att forma det juridiska landskapet till sin fördel.
Hur det här kommer att gå är omöjligt att förutse. Men du kan vara säker på att big tech är redo att mala ut saker och ting till det bittra slutet.
