Riskkapitalbolaget Andreessen Horowitz, även känt som a16z, var en tidig investerare i teknikjättar som Facebook och Lyft. Deras beslut att investera i den generativa AI-plattformen Civitai tänjer på de etiska gränserna.
Civitai är en plattform med öppen källkod där Stable Diffusion-entusiaster kan dela med sig av sin AI-genererade konst och andra resurser. En del av dessa resurser används också för att skapa Porr utan samtycke.
Stable Diffusion är ganska bra direkt ur lådan, men du kan göra det ännu bättre genom att finjustera modellen. LoRA (Low-Rank Adaptation) är en teknik för att finjustera diffusionsmodeller som Stable Diffusion för att bli mycket bra på att generera en viss typ av bild.
Med hjälp av en LoRA tränas Stable Diffusion på nya koncept, t.ex. specifika karaktärer, konststilar eller visuell estetik.
Om du letar efter en specifik LoRA är Civitai en bra resurs. Men även om plattformens Ts och Cs uttryckligen förbjuder värdskap för "moget" innehåll, finns det gott om LoRA som finns på webbplatsen som kan göra det möjligt för dig att skapa dina egna NSFW-bilder hemma.
10/ CivitAi är översållat med icke-samtycklig användning av bilder av kändisar, politiker och människor.
Vid vilken tidpunkt håller vi företag som CivitAI ansvariga för all denna skada? Får vi också hålla företag som @a16z ansvarig för att investera med vetskap om skadorna? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) 15 november 2023
Belöningar
Civitais nya alternativ "Bounties" gör det möjligt för användare att be Civitai-communityn att skapa en anpassad LoRA och sedan belöna den bästa med Civitais virtuella valuta.
Det här alternativet har lett till att många användare har bett modeller att generera bilder av kändisar, influencers eller till och med privatpersoner, ofta utan kläder eller engagerade i sexuella handlingar.
En belöning för minst en privatperson var hittades enligt uppgift av 404 Media. Personen som begärde modellen sa att bilden föreställde hans fru, men vidare efterforskning ledde till kvinnans Facebook-konto där det stod att hon var singel.
Ett antal utvecklare tackade nej till belöningen, men en användare skapade till slut den AI-modell som nu finns tillgänglig för alla att ladda ner på Civitai.
Det är inte bara dåligt
Liksom många andra onlineplattformar är det mesta av innehållet på Civitai ofarligt, men dess öppna källkod är sårbar för missbruk av en växande minoritet av användare.
Civitai har cirka 3 miljoner användare, varav cirka 10 000 unika skapare laddar upp nya modeller. Civitai säger att belöningar som efterfrågar verkliga personers utseende endast representerar 10% av förfrågningarna.
Och det finns ett bra argument för att skapa den här typen av AI-modeller. Civitais VD Justin Maier säger att han ser en möjlighet för människor att licensiera och sälja sina liknelser till varumärken för att använda i reklam.
En fotomodell, till exempel, skulle normalt bara kunna göra en fotografering åt gången. Genom att licensiera och sälja sin bild till ett klädföretag kan hon öka sin intjäningspotential utan att behöva ställa sig framför kameran igen.
Brian Kim, partner i Andreessen Horowitz, säger i ett uttalande: "Vår investering i bolaget kommer bara att förstärka något som redan fungerar otroligt bra, genom att bidra till en värld där alla individer kan dra nytta av vad vår generations största tekniska förändring - AI - har att erbjuda."
Problemet är att vissa av dessa individer använder AI på ett extremt skadligt sätt. Att överladda Civitai med a16z-kontanter kommer verkligen inte att stoppa detta.
