English Danish Dutch French German Italian Norwegian Portuguese Russian Spanish Swedish

In 2024 stijgt de woede over het misbruik van AI door bedrijven: wat komt hierna?

12 januari 2024

Januari 2024 begon met gesprekken over Midjourney, een toonaangevende speler in de wereld van AI-beeldgeneratie, die de namen en stijlen van meer dan 16.000 artiesten zonder hun toestemming gebruikte om zijn beeldgeneratiemodellen te trainen. 

Je kunt de artiestendatabase bekijken onder Bijlage J van een rechtszaak tegen Midjourney, Stability AI en DeviantArt.

In dezelfde week na die onthulling brachten cognitiewetenschapper Dr. Gary Marcus en conceptkunstenaar Reid Southen het volgende uit een analyse in IEEE getiteld "Generatieve AI heeft een visueel plagiaatprobleem".

Ze voerden een reeks experimenten uit met de AI-modellen Midjourney en DALL-E 3 om hun vermogen te onderzoeken om afbeeldingen te genereren die inbreuk zouden kunnen maken op auteursrechtelijk beschermd materiaal. 

Door Midjourney en DALL-E 3 te vragen om prompts die met opzet kort zijn gekozen en gerelateerd aan commerciële films, personages en herkenbare omgevingen, onthulden Marcus en Southen het ongelooflijke vermogen van deze modellen om schaamteloos auteursrechtelijk beschermde inhoud te produceren. 

Ze gebruikten prompts die betrekking hadden op specifieke films, zoals "Avengers: Infinity War", zonder de personages direct te noemen. Dit was om te testen of de AI beelden zou genereren die sterk leken op het auteursrechtelijk beschermde materiaal, alleen op basis van contextuele aanwijzingen. 

Reis halverwege
Opmerkelijk is dat Midjourney auteursrechtelijk beschermde personages bevat op basis van eenvoudige prompts zoals "geanimeerd speelgoed". Bron: IEEE

Ook tekenfilms kwamen aan bod - ze experimenteerden met het genereren van beelden van "The Simpsons" personages, waarbij ze prompts gebruikten die de AI-modellen duidelijk herkenbare beelden uit de serie lieten produceren. 

Tenslotte hebben Marcus en Southen prompts getest die helemaal niet refereren aan auteursrechtelijk beschermd materiaal, wat laat zien dat Midjourney in staat is om auteursrechtelijk beschermde afbeeldingen op te roepen, zelfs als er niet specifiek om wordt gevraagd. 

Dit was meer dan een technisch exposé - het raakt de rauwe zenuwen van artistieke gemeenschappen wereldwijd. 

Kunst is tenslotte niet gelijk aan gegevens. Het is het hoogtepunt van een leven lang emotionele investering, persoonlijk onderzoek en nauwgezet handwerk. 

De studie van Marcus en Southen stond op het punt om onderdeel te worden van een langdurig debat over auteursrecht, intellectueel eigendom, het te gelde maken van AI en het gebruik van generatieve AI door bedrijven.

Bedrijven gebruiken AI-gegenereerd werk en waarnemers negeren het niet

Een van de marketing slogans voor de adoptie van generatieve AI is "efficiëntie" of afgeleiden daarvan.

Of bedrijven nu technologie gebruiken om tijd te besparen, geld te besparen of problemen op te lossen, we weten al een tijdje dat AI 'efficiëntie' gepaard gaat met een zeker risico op het vervangen van menselijke vaardigheden of banen.

Bedrijven worden vaak aangemoedigd om dit als een kans te zien. Een mens vervangen door AI wordt vaak gezien als een strategische keuze.

Maar om deze afweging tussen mens en machine zo lineair te zien, kan een ernstige fout blijken te zijn, zoals de volgende gebeurtenissen heel eerlijk aantonen.

Mensen zijn niet bereid om gevallen van AI-misbruik door bedrijven te laten gebeuren als ze de mogelijkheid hebben om ze te confronteren.

ID@Xbox

Xbox heeft via hun handvat voor indiegames ID@Xbox een door AI gegenereerde winterse scène uitgebracht. Het veroorzaakte een gevoel van ironie omdat deze divisie van Xbox zich richt op onafhankelijke ontwikkelaars en het ondersteunen en promoten van hun werk. 

Xbox heeft het bericht later verwijderd, maar er verder geen vervolg aan gegeven. 

Game Informer plaatste, zoals je hierboven kunt zien, ook een AI-gegenereerde afbeelding van slechte kwaliteit van Master Chief uit Halo.

Magie: het verzamelen

Fantasy-handelskaartspel Magic: The Gathering toverde een storm van kritiek toen ze een gedeeltelijk door AI gegenereerde afbeelding van een nieuwe kaart publiceerden. Het was vooral de achtergrond die door AI was gegenereerd, zoals te zien was aan de vervormde lijnen en curves. 

MTG verwierp aanvankelijk de kritiek van waarnemers, die in de loop van de week toenam. De situatie werd verergerd door het feit dat het bedrijf eerder een verklaring had uitgebracht waarin het zich uitsprak tegen het gebruik van AI in hun 'hoofdproducten'.

Dit was een promotieafbeelding op sociale media, dus die belofte werd niet verbroken, maar het was MTG's eerste platte ontkenning die bij velen het bloed deed stromen.

Later in de week gaf MTG zijn nederlaag toe aan de hordes waarnemers en vertelde hen dat dit beeld aantoonbaar door AI was gegenereerd. 

De verklaring begon met: "We hebben ons eerder vergist toen we zeiden dat een marketingafbeelding die we plaatsten niet was gemaakt met behulp van AI. Lees verder voor meer" en legde uit hoe een ontwerper waarschijnlijk een AI-tool zoals Firefly, geïntegreerd in Photoshop, of een andere AI-aangedreven grafische ontwerptool heeft gebruikt in plaats van alleen de hele afbeelding te genereren met Midjourney of iets dergelijks.

Een onderdeel van dit debat was dat MTG waarschijnlijk alleen AI gebruikte om de achtergrond van de afbeelding te genereren.

Als Hiervoor is Adobe Firefly gebruiktwat mogelijk lijkt, dan is Adobe optimistisch over hun ethisch en wettelijk verantwoord gebruik van gegevens, hoewel dat ter discussie staat. 

PMisschien is het niet de slechtste overtreding onder andere kanshebbers van deze week, nu we het er toch over hebben...

Wacom

Een van de grootste fouten van de week was ongetwijfeld Wacom, dat tekentabletten maakt voor kunstenaars en illustratoren. 

Schokkend, voor een merk dat is opgericht om kunstenaars te helpen digitale kunst te maken, gebruikte Wacom een AI-gegenereerde afbeelding om een kortingsbon te promoten. 

Opnieuw identificeerden gebruikers de AI-herkomst van de afbeelding aan de hand van vervormingen die kenmerkend zijn voor de technologie, zoals de tekst linksonder in de afbeelding. Waarnemers vonden de draak later in Abobe Stock Images. 

De reactie was brutaal: X-gebruikers vernederden het merk en stelden voor dat gebruikers hun producten zouden boycotten. 

Wacom verontschuldigde zich, maar hun poging om de verantwoordelijkheid af te schuiven op een derde partij werd niet met sympathie bekeken.

League of Legends

League of Legends was een ander merk dat werd geveld door het onsmakelijke gebruik van AI-gegenereerde kunst. 

Hoewel dit misschien een meer controversieel of grensgeval is, is er zeker bewijs van AI, zoals te zien is in sommige onhandig gevormde onderdelen en lichaamsdelen. 

Een afrekening voor AI-bedrijven?

2024 heeft een voortzetting van rechtszaken gezien, met auteurs Nicholas Basbanes en Nicholas Gage een klacht indienen die beweren dat OpenAI en Microsoft onrechtmatig gebruik hebben gemaakt van hun geschreven werken. December New York Times rechtszaak. 

Vooral de rechtszaak van de NYT kan monumentale gevolgen hebben voor de AI-sector. 

Alex Connock, een senior fellow aan de Saïd Business School van de Universiteit van Oxford, benadrukte de mogelijke gevolgen en zei: "Als de Times de zaak wint, kan dat rampzalig zijn voor de hele AI-industrie." 

Hij ging dieper in op de implicaties en merkte op dat "een verlies van het principe dat eerlijk zakendoen het mogelijk maakt om te leren van materialen van derden, een klap zou zijn voor de hele industrie".

Dr. Gary Marcus, betrokken bij het Midjourney IEEE-onderzoek, noemde 2024 ook het 'jaar van de AI-rechtszaak' en er zijn vragen of dit, in combinatie met regelgeving en mogelijke hardwaretekorten, een 'AI-winter' zou kunnen betekenen, waarin de ontwikkelingsdrift van de industrie afkoelt.


Connock speculeerde ook over de bredere repercussies van deze stortvloed aan rechtszaken en legde uit: "Als OpenAI de zaak zou verliezen, zou dat de mogelijkheid openen voor alle andere contentmakers die geloven dat hun content gecrawld is (en dat is in principe iedereen) en schade veroorzaken op een industriewijde schaal."

Connock theoretiseert: "Wat er bijna onvermijdelijk zal gebeuren is dat de NY Times een schikking zal treffen, omdat ze een betere monetaire deal hebben bedongen voor het gebruik van haar inhoud."

De realisatie van gaten in het pantser van de AI-industrie zou enorm zijn, zowel voor grote bedrijven als de NYT als voor onafhankelijke makers. 

James Grimmelmann, professor in digitaal en informatierecht aan Cornell, stelt: "Auteursrechthebbenden staan in de rij om generatieve AI aan te pakken als een gigantische piñata die uit hun werken is geweven. 2024 is waarschijnlijk het jaar waarin we erachter komen of er geld in zit."

Hoe sterk is de verdediging van de industrie? Tot nu toe houden AI-ontwikkelaars vast aan hun 'fair use'-argumenten, terwijl ze bescherming krijgen van het feit dat de meeste populaire datasets zijn gemaakt door andere entiteiten dan henzelf, waardoor hun verwijtbaarheid wordt verdoezeld.

Technologiebedrijven zijn bedreven in het afweren van juridische aansprakelijkheden die R&D in de weg staan. En laten we niet vergeten dat AI kansen biedt voor overheden die op zoek zijn naar 'efficiëntie' en andere voordelen, wat hun weerstand verzacht.

De regering van het Verenigd Koninkrijk, bijvoorbeeld, heeft zelfs een uitzondering op het auteursrecht voor AI-bedrijven onderzocht, iets waar ze van afzagen na enorm verzet en een parlementaire commissie.

In een discussie met de LA Times zei William Fitzgerald, partner bij de Worker Agency en voormalig lid van het openbare beleidsteam van Google, over de strategie, zei dat big tech zou beginnen met een sterke lobbycampagne, misschien gemodelleerd naar tactieken die eerder zijn gebruikt door techgiganten zoals Google.

Dit zou een combinatie inhouden van juridische verdediging, public relations campagnes en lobbyen, tactieken die vooral zichtbaar waren in eerdere geruchtmakende zaken zoals de strijd om de Stop Online Piracy Act (SOPA) en de rechtszaak tegen Google Books.

Fitzgerald merkt op dat OpenAI dezelfde weg lijkt te volgen als Google, niet alleen in hun aanpak van klachten over auteursrechten, maar ook in hun aanwervingspraktijken.

Hij wijst erop: "Het lijkt erop dat OpenAI het lobby-playbook van Google kopieert. Ze hebben voormalige pleitbezorgers van Google ingehuurd om hetzelfde draaiboek toe te passen dat al tientallen jaren zo succesvol is voor Google."

Fitzgeralds analyse impliceert dat de AI-industrie, net als andere technologiesectoren vóór haar, kan vertrouwen op krachtige lobbyactiviteiten en strategische manoeuvres op het gebied van overheidsbeleid om het juridische landschap in hun voordeel te vormen.

Hoe dit afloopt is onmogelijk te voorspellen. Maar je kunt er zeker van zijn dat Big Tech klaar is om tot het bittere einde door te gaan. 

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Sam Jeans

Sam is een wetenschap- en technologieschrijver die bij verschillende AI-startups heeft gewerkt. Als hij niet aan het schrijven is, leest hij medische tijdschriften of graaft hij door dozen met vinylplaten.

GERELATEERDE ARTIKELEN

×

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden