Venturekapitalfirmaet Andreessen Horowitz, også kendt som a16z, var en tidlig investor i tech-giganter som Facebook og Lyft. Deres beslutning om at investere i den generative AI-platform Civitai skubber til de etiske grænser.
Civitai er en open source-platform, hvor Stable Diffusion-entusiaster kan dele deres AI-genererede kunst og andre ressourcer. Nogle af disse ressourcer bliver også brugt til at skabe Porno uden samtykke.
Stable Diffusion er ret god lige ud af landevejen, men man kan gøre den endnu bedre ved at finjustere modellen. LoRA (Low-Rank Adaptation) er en teknik til at finjustere diffusionsmodeller som Stable Diffusion, så de bliver rigtig gode til at generere en bestemt type billeder.
Brug af LoRA træner Stable Diffusion på nye koncepter, f.eks. specifikke figurer, kunststile eller visuel æstetik.
Hvis du leder efter en specifik LoRA, er Civitai en god ressource. Men selvom platformens T'er og C'er udtrykkeligt forbyder hosting af "modent" indhold, er der masser af LoRA'er på sitet, som kan give dig mulighed for at lave dine egne NSFW-billeder derhjemme.
10/ CivitAi er fyldt med ikke-samtykkebaseret brug af billeder af berømtheder, politikere og mennesker.
Hvornår skal vi holde virksomheder som CivitAI ansvarlige for al denne skade? Kan vi også holde virksomheder som @a16z ansvarlig for at investere vel vidende, at det er skadeligt? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) 15. november 2023
Præmier
Civitais nye "Bounties"-mulighed giver brugerne mulighed for at bede Civitai-fællesskabet om at lave en brugerdefineret LoRA og derefter belønne den bedste med Civitais virtuelle valuta.
Denne mulighed har ført til, at mange brugere beder modeller om at generere billeder af berømtheder, influencere eller endda privatpersoner, ofte uden tøj eller involveret i seksuelle handlinger.
En dusør for mindst én privatperson var angiveligt fundet af 404 Media. Den person, der anmodede om modellen, sagde, at billedet var af hans kone, men yderligere undersøgelser førte til kvindens Facebook-konto, hvor der stod, at hun var single.
En række udviklere takkede nej til dusøren, men en bruger skabte til sidst AI-modellen, som nu kan downloades af alle på Civitai.
Det er ikke kun dårligt
Ligesom mange andre onlineplatforme er det meste af indholdet på Civitai harmløst, men open source-fællesskabets tilgang er sårbar over for misbrug fra et voksende mindretal af brugere.
Civitai har omkring 3 millioner brugere, hvoraf omkring 10.000 unikke skabere uploader nye modeller. Civitai siger, at dusører, der beder om at ligne rigtige mennesker, kun udgør 10% af anmodningerne.
Og der er et godt argument for at skabe den slags AI-modeller. Civitais CEO Justin Maier siger, at han ser en mulighed for, at folk kan få licens til at sælge deres billeder til brands, som kan bruge dem i reklamer.
En model vil f.eks. normalt kun være i stand til at lave én optagelse ad gangen. Ved at licensere og sælge hendes billede til et tøjfirma kan hun øge sit indtjeningspotentiale uden at skulle stå foran kameraet igen.
Brian Kim, partner i Andreessen Horowitz, sagde i en udtalelse: "Vores investering i virksomheden vil kun forstærke noget, der allerede fungerer utroligt godt, ved at bidrage til en verden, hvor enhver person kan drage fordel af, hvad vores generations største teknologiske skift - AI - har at byde på."
Problemet er, at nogle af disse personer bruger AI på en ekstremt skadelig måde. At give Civitai ekstra penge fra a16z vil bestemt ikke stoppe dette.
