Januari 2024 begon met gesprekken over Midjourney, een toonaangevende speler in de wereld van AI-beeldgeneratie, die de namen en stijlen van meer dan 16.000 artiesten zonder hun toestemming gebruikte om zijn beeldgeneratiemodellen te trainen.
Je kunt de artiestendatabase bekijken onder Bijlage J van een rechtszaak tegen Midjourney, Stability AI en DeviantArt.
In dezelfde week na die onthulling brachten cognitiewetenschapper Dr. Gary Marcus en conceptkunstenaar Reid Southen het volgende uit een analyse in IEEE getiteld "Generatieve AI heeft een visueel plagiaatprobleem".
Ze voerden een reeks experimenten uit met de AI-modellen Midjourney en DALL-E 3 om hun vermogen te onderzoeken om afbeeldingen te genereren die inbreuk zouden kunnen maken op auteursrechtelijk beschermd materiaal.
Door Midjourney en DALL-E 3 te vragen om prompts die met opzet kort zijn gekozen en gerelateerd aan commerciële films, personages en herkenbare omgevingen, onthulden Marcus en Southen het ongelooflijke vermogen van deze modellen om schaamteloos auteursrechtelijk beschermde inhoud te produceren.
Ze gebruikten prompts die betrekking hadden op specifieke films, zoals "Avengers: Infinity War", zonder de personages direct te noemen. Dit was om te testen of de AI beelden zou genereren die sterk leken op het auteursrechtelijk beschermde materiaal, alleen op basis van contextuele aanwijzingen.
Ook tekenfilms kwamen aan bod - ze experimenteerden met het genereren van beelden van "The Simpsons" personages, waarbij ze prompts gebruikten die de AI-modellen duidelijk herkenbare beelden uit de serie lieten produceren.
Tenslotte hebben Marcus en Southen prompts getest die helemaal niet refereren aan auteursrechtelijk beschermd materiaal, wat laat zien dat Midjourney in staat is om auteursrechtelijk beschermde afbeeldingen op te roepen, zelfs als er niet specifiek om wordt gevraagd.
Midjourney herschept massaal en soms bijna woordelijk IP zonder licentie van zelfs niet-specifieke prompts, terwijl het profiteert van abonnementen. Gebruikers van MJ hoeven de afbeeldingen niet te verkopen om inbreuk te maken op het auteursrecht, MJ profiteert al van de creatie ervan. pic.twitter.com/Ax3tQWq3pt
- Reid Southen (@Rahll) 7 januari 2024
Dit was meer dan een technisch exposé - het raakt de rauwe zenuwen van artistieke gemeenschappen wereldwijd.
Kunst is tenslotte niet gelijk aan gegevens. Het is het hoogtepunt van een leven lang emotionele investering, persoonlijk onderzoek en nauwgezet handwerk.
De studie van Marcus en Southen stond op het punt om onderdeel te worden van een langdurig debat over auteursrecht, intellectueel eigendom, het te gelde maken van AI en het gebruik van generatieve AI door bedrijven.
Bedrijven gebruiken AI-gegenereerd werk en waarnemers negeren het niet
Een van de marketing slogans voor de adoptie van generatieve AI is "efficiëntie" of afgeleiden daarvan.
Of bedrijven nu technologie gebruiken om tijd te besparen, geld te besparen of problemen op te lossen, we weten al een tijdje dat AI 'efficiëntie' gepaard gaat met een zeker risico op het vervangen van menselijke vaardigheden of banen.
Bedrijven worden vaak aangemoedigd om dit als een kans te zien. Een mens vervangen door AI wordt vaak gezien als een strategische keuze.
Maar om deze afweging tussen mens en machine zo lineair te zien, kan een ernstige fout blijken te zijn, zoals de volgende gebeurtenissen heel eerlijk aantonen.
Mensen zijn niet bereid om gevallen van AI-misbruik door bedrijven te laten gebeuren als ze de mogelijkheid hebben om ze te confronteren.
ID@Xbox
Xbox heeft via hun handvat voor indiegames ID@Xbox een door AI gegenereerde winterse scène uitgebracht. Het veroorzaakte een gevoel van ironie omdat deze divisie van Xbox zich richt op onafhankelijke ontwikkelaars en het ondersteunen en promoten van hun werk.
Xbox heeft het bericht later verwijderd, maar er verder geen vervolg aan gegeven.
Voor het geval iemand de tel bijhoudt... Xbox EN Game Informer hebben allebei vrij recent generatieve AI gebruikt of gepromoot. https://t.co/cOvkU3WXQ8 pic.twitter.com/2d5oeVTCLN
- Genel Jumalon
MagFest (@GenelJumalon) 7 januari 2024
Game Informer plaatste, zoals je hierboven kunt zien, ook een AI-gegenereerde afbeelding van slechte kwaliteit van Master Chief uit Halo.
Magie: het verzamelen
Fantasy-handelskaartspel Magic: The Gathering toverde een storm van kritiek toen ze een gedeeltelijk door AI gegenereerde afbeelding van een nieuwe kaart publiceerden. Het was vooral de achtergrond die door AI was gegenereerd, zoals te zien was aan de vervormde lijnen en curves.
MTG verwierp aanvankelijk de kritiek van waarnemers, die in de loop van de week toenam. De situatie werd verergerd door het feit dat het bedrijf eerder een verklaring had uitgebracht waarin het zich uitsprak tegen het gebruik van AI in hun 'hoofdproducten'.
Dit was een promotieafbeelding op sociale media, dus die belofte werd niet verbroken, maar het was MTG's eerste platte ontkenning die bij velen het bloed deed stromen.
"gecreëerd door mensen" Juist... pic.twitter.com/gf9TUXWSPA
- TaylorGreen (@GreenSkyDragon) 5 januari 2024
Ik haat het dat we in een tijdlijn leven waarin we kunst op feiten moeten controleren. pic.twitter.com/9D6V6ZXswW
- Genel Jumalon
Later in de week gaf MTG zijn nederlaag toe aan de hordes waarnemers en vertelde hen dat dit beeld aantoonbaar door AI was gegenereerd.
De verklaring begon met: "We hebben ons eerder vergist toen we zeiden dat een marketingafbeelding die we plaatsten niet was gemaakt met behulp van AI. Lees verder voor meer" en legde uit hoe een ontwerper waarschijnlijk een AI-tool zoals Firefly, geïntegreerd in Photoshop, of een andere AI-aangedreven grafische ontwerptool heeft gebruikt in plaats van alleen de hele afbeelding te genereren met Midjourney of iets dergelijks.
Nou, we hebben ons eerder vergist toen we zeiden dat een marketingafbeelding die we plaatsten niet was gemaakt met behulp van AI. Lees verder voor meer. (1/5)
- Magic: The Gathering (@wizards_magic) 7 januari 2024
Een onderdeel van dit debat was dat MTG waarschijnlijk alleen AI gebruikte om de achtergrond van de afbeelding te genereren.
Als Hiervoor is Adobe Firefly gebruiktwat mogelijk lijkt, dan is Adobe optimistisch over hun ethisch en wettelijk verantwoord gebruik van gegevens, hoewel dat ter discussie staat.
PMisschien is het niet de slechtste overtreding onder andere kanshebbers van deze week, nu we het er toch over hebben...
Wacom
Een van de grootste fouten van de week was ongetwijfeld Wacom, dat tekentabletten maakt voor kunstenaars en illustratoren.
Schokkend, voor een merk dat is opgericht om kunstenaars te helpen digitale kunst te maken, gebruikte Wacom een AI-gegenereerde afbeelding om een kortingsbon te promoten.
Opnieuw identificeerden gebruikers de AI-herkomst van de afbeelding aan de hand van vervormingen die kenmerkend zijn voor de technologie, zoals de tekst linksonder in de afbeelding. Waarnemers vonden de draak later in Abobe Stock Images.
De reactie was brutaal: X-gebruikers vernederden het merk en stelden voor dat gebruikers hun producten zouden boycotten.
Omdat Wacom hun bericht heeft verwijderd.
Posten om de geschiedenis van het internet te bewaren. https://t.co/WEZex5GbG9 pic.twitter.com/chiR2pOczB- Genel Jumalon
Wacom verontschuldigde zich, maar hun poging om de verantwoordelijkheid af te schuiven op een derde partij werd niet met sympathie bekeken.
Een bericht van het Wacom-team: pic.twitter.com/u06PNCvmhU
- Wacom (@wacom) 9 januari 2024
League of Legends
League of Legends was een ander merk dat werd geveld door het onsmakelijke gebruik van AI-gegenereerde kunst.
Hoewel dit misschien een meer controversieel of grensgeval is, is er zeker bewijs van AI, zoals te zien is in sommige onhandig gevormde onderdelen en lichaamsdelen.
De afgelopen dagen werd Wizards of the Coast betrapt op het gebruik van AI in advertentiecampagnes nadat ze hadden gezegd dat ze dat niet zouden doen. Wacom werd ook betrapt en verwijderd, wat gek is gezien hun producten, en het lijkt erop dat Apex Legends dat ook is. Banen gaan in real time, ik word er misselijk van. pic.twitter.com/EGBA1INMPZ
- Reid Southen (@Rahll) 7 januari 2024
Een afrekening voor AI-bedrijven?
2024 heeft een voortzetting van rechtszaken gezien, met auteurs Nicholas Basbanes en Nicholas Gage een klacht indienen die beweren dat OpenAI en Microsoft onrechtmatig gebruik hebben gemaakt van hun geschreven werken. December New York Times rechtszaak.
Vooral de rechtszaak van de NYT kan monumentale gevolgen hebben voor de AI-sector.
Alex Connock, een senior fellow aan de Saïd Business School van de Universiteit van Oxford, benadrukte de mogelijke gevolgen en zei: "Als de Times de zaak wint, kan dat rampzalig zijn voor de hele AI-industrie."
Hij ging dieper in op de implicaties en merkte op dat "een verlies van het principe dat eerlijk zakendoen het mogelijk maakt om te leren van materialen van derden, een klap zou zijn voor de hele industrie".
Dr. Gary Marcus, betrokken bij het Midjourney IEEE-onderzoek, noemde 2024 ook het 'jaar van de AI-rechtszaak' en er zijn vragen of dit, in combinatie met regelgeving en mogelijke hardwaretekorten, een 'AI-winter' zou kunnen betekenen, waarin de ontwikkelingsdrift van de industrie afkoelt.
2024 wordt 𝙙𝙚𝙛𝙞𝙣𝙞𝙩𝙚𝙡𝙮 het jaar van de rechtszaak in GenAI.
Als je wilt weten waarom, en waarom GenAI waarschijnlijk veel van die rechtszaken zal verliezen of gedwongen zal worden te schikken, bekijk dan de laatste paar berichten op mijn (gratis) 𝖲𝗎𝖻𝗌𝗍𝖺𝖼𝗄, Marcus on AI. https://t.co/cO4bqKkbsa
- Gary Marcus (@GaryMarcus) 8 januari 2024
Connock speculeerde ook over de bredere repercussies van deze stortvloed aan rechtszaken en legde uit: "Als OpenAI de zaak zou verliezen, zou dat de mogelijkheid openen voor alle andere contentmakers die geloven dat hun content gecrawld is (en dat is in principe iedereen) en schade veroorzaken op een industriewijde schaal."
Connock theoretiseert: "Wat er bijna onvermijdelijk zal gebeuren is dat de NY Times een schikking zal treffen, omdat ze een betere monetaire deal hebben bedongen voor het gebruik van haar inhoud."
De realisatie van gaten in het pantser van de AI-industrie zou enorm zijn, zowel voor grote bedrijven als de NYT als voor onafhankelijke makers.
James Grimmelmann, professor in digitaal en informatierecht aan Cornell, stelt: "Auteursrechthebbenden staan in de rij om generatieve AI aan te pakken als een gigantische piñata die uit hun werken is geweven. 2024 is waarschijnlijk het jaar waarin we erachter komen of er geld in zit."
Hoe sterk is de verdediging van de industrie? Tot nu toe houden AI-ontwikkelaars vast aan hun 'fair use'-argumenten, terwijl ze bescherming krijgen van het feit dat de meeste populaire datasets zijn gemaakt door andere entiteiten dan henzelf, waardoor hun verwijtbaarheid wordt verdoezeld.
Technologiebedrijven zijn bedreven in het afweren van juridische aansprakelijkheden die R&D in de weg staan. En laten we niet vergeten dat AI kansen biedt voor overheden die op zoek zijn naar 'efficiëntie' en andere voordelen, wat hun weerstand verzacht.
De regering van het Verenigd Koninkrijk, bijvoorbeeld, heeft zelfs een uitzondering op het auteursrecht voor AI-bedrijven onderzocht, iets waar ze van afzagen na enorm verzet en een parlementaire commissie.
In een discussie met de LA Times zei William Fitzgerald, partner bij de Worker Agency en voormalig lid van het openbare beleidsteam van Google, over de strategie, zei dat big tech zou beginnen met een sterke lobbycampagne, misschien gemodelleerd naar tactieken die eerder zijn gebruikt door techgiganten zoals Google.
Dit zou een combinatie inhouden van juridische verdediging, public relations campagnes en lobbyen, tactieken die vooral zichtbaar waren in eerdere geruchtmakende zaken zoals de strijd om de Stop Online Piracy Act (SOPA) en de rechtszaak tegen Google Books.
Fitzgerald merkt op dat OpenAI dezelfde weg lijkt te volgen als Google, niet alleen in hun aanpak van klachten over auteursrechten, maar ook in hun aanwervingspraktijken.
Hij wijst erop: "Het lijkt erop dat OpenAI het lobby-playbook van Google kopieert. Ze hebben voormalige pleitbezorgers van Google ingehuurd om hetzelfde draaiboek toe te passen dat al tientallen jaren zo succesvol is voor Google."
Fitzgeralds analyse impliceert dat de AI-industrie, net als andere technologiesectoren vóór haar, kan vertrouwen op krachtige lobbyactiviteiten en strategische manoeuvres op het gebied van overheidsbeleid om het juridische landschap in hun voordeel te vormen.
Hoe dit afloopt is onmogelijk te voorspellen. Maar je kunt er zeker van zijn dat Big Tech klaar is om tot het bittere einde door te gaan.
