Risikokapitalselskapet Andreessen Horowitz, også kjent som a16z, var tidlig ute med å investere i teknologigiganter som Facebook og Lyft. Selskapets beslutning om å investere i den generative AI-plattformen Civitai utfordrer de etiske grensene.
Civitai er en plattform med åpen kildekode der Stable Diffusion-entusiaster kan dele AI-generert kunst og andre ressurser. Noen av disse ressursene brukes også til å skape porno uten samtykke.
Stable Diffusion er ganske bra rett ut av boksen, men du kan gjøre den enda bedre ved å finjustere modellen. LoRA (Low-Rank Adaptation) er en teknikk for å finjustere diffusjonsmodeller som Stable Diffusion slik at de blir veldig gode til å generere en bestemt type bilder.
Ved hjelp av en LoRA trener du stabil diffusjon på nye konsepter, for eksempel spesifikke figurer, kunststiler eller visuell estetikk.
Hvis du leter etter en spesifikk LoRA, er Civitai en flott ressurs. Men selv om plattformens regler uttrykkelig forbyr hosting av "voksent" innhold, finnes det mange LoRA-er på nettstedet som kan gjøre det mulig for deg å lage dine egne NSFW-bilder hjemme.
10/ CivitAi er full av ikke-samtykkebasert bildebruk av kjendiser, politikere og personer.
Når skal vi holde selskaper som CivitAI ansvarlige for all denne skaden? Kan vi også holde selskaper som @a16z ansvarlig for å investere vel vitende om skadevirkningene? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) 15. november 2023
Belønninger
Civitais nye "Bounties"-alternativ gjør det mulig for brukere å be Civitai-fellesskapet om å lage en tilpasset LoRA og deretter belønne den beste med Civitais virtuelle valuta.
Denne muligheten har ført til at mange brukere ber modeller om å generere bilder av kjendiser, influencere eller til og med privatpersoner, ofte uten klær eller engasjert i seksuelle handlinger.
En dusør for minst én privatperson ble angivelig funnet av 404 Media. Personen som ba om modellen, sa at bildet var av kona hans, men videre undersøkelser førte til kvinnens Facebook-konto, der det sto at hun var singel.
En rekke utviklere takket nei til dusøren, men én bruker skapte til slutt AI-modellen som nå er tilgjengelig for alle å laste ned på Civitai.
Det er ikke bare ille
I likhet med mange andre nettplattformer er det meste av innholdet på Civitai ufarlig, men den åpne kildekode-tilnærmingen er sårbar for misbruk fra et voksende mindretall av brukere.
Civitai har rundt 3 millioner brukere, hvorav rundt 10 000 unike skapere laster opp nye modeller. Civitai sier at skuddpremier som ber om likheten til ekte mennesker bare representerer 10% av forespørslene.
Og det er et godt argument for å skape denne typen AI-modeller. Administrerende direktør i Civitai, Justin Maier, sier at han ser en mulighet for at folk kan lisensiere og selge bildene sine til merkevarer for bruk i reklame.
En motemodell, for eksempel, vil normalt bare kunne ta én fotografering om gangen. Ved å lisensiere og selge bildet sitt til et klesfirma kan hun øke inntektspotensialet sitt uten å måtte stå foran kameraet igjen.
Brian Kim, partner i Andreessen Horowitz, sier i en uttalelse: "Vår investering i selskapet vil bare forsterke noe som allerede fungerer utrolig bra, ved å bidra til en verden der alle kan dra nytte av det største teknologiske skiftet i vår generasjon - AI - har å tilby."
Problemet er at noen av disse personene bruker AI på en ekstremt skadelig måte. Å gi Civitai mer penger fra a16z kommer ikke til å stoppe dette.
