Risicokapitaalbedrijf Andreessen Horowitz, ook bekend als a16z, was een vroege investeerder in techgiganten als Facebook en Lyft. Haar beslissing om te investeren in het generatieve AI-platform Civitai verlegt ethische grenzen.
Civitai is een open-source platform waar liefhebbers van Stable Diffusion hun AI-gegenereerde kunst en andere bronnen kunnen delen. Sommige van deze bronnen worden ook gebruikt om porno zonder toestemming.
Stable Diffusion is vrij goed als het zo uit de doos komt, maar je kunt het nog beter maken door het model te verfijnen. LoRA (Low-Rank Adaptation) is een techniek om diffusiemodellen zoals Stable Diffusion zo te verfijnen dat ze heel goed worden in het genereren van een specifiek type afbeelding.
Het gebruik van een LoRA traint Stable Diffusion op nieuwe concepten, zoals specifieke personages, kunststijlen of visuele esthetiek.
Als je op zoek bent naar een specifieke LoRA dan is Civitai een geweldige bron. Maar ook al verbieden de T's en C's van het platform expliciet het hosten van "volwassen" inhoud, er zijn genoeg LoRA's gehost op de site waarmee je thuis je eigen NSFW-pics kunt maken.
10/ CivitAi is bezaaid met het niet-consensuele gebruik van gelijkenissen van beroemdheden, politici en mensen.
Wanneer houden we bedrijven als CivitAI verantwoordelijk voor al deze schade? Moeten we ook bedrijven als @a16z verantwoordelijk voor het investeren in de wetenschap van de schade? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) 15 november 2023
Premies
Civitai's nieuwe "Bounties" optie laat gebruikers de Civitai gemeenschap vragen om een aangepaste LoRA te maken en beloont dan de beste met Civitai's virtuele valuta.
Deze optie heeft ertoe geleid dat veel gebruikers modellen vragen om afbeeldingen te genereren van beroemdheden, influencers of zelfs privépersonen, vaak zonder kleding of bezig met seksuele handelingen.
Een premie voor ten minste één privépersoon was naar verluidt gevonden door 404 Media. De persoon die het model aanvroeg zei dat de foto van zijn vrouw was, maar verder onderzoek leidde naar het Facebook-account van de vrouw waarop stond dat ze vrijgezel was.
Een aantal ontwikkelaars wees de premie af, maar één gebruiker maakte uiteindelijk het AI-model dat nu voor iedereen te downloaden is op Civitai.
Het is niet allemaal slecht
Zoals veel online platformen is de meeste inhoud op Civitai onschadelijk, maar de open source community aanpak is kwetsbaar voor misbruik door een groeiende minderheid van gebruikers.
Civitai heeft ongeveer 3 miljoen gebruikers, waarvan ongeveer 10.000 unieke makers nieuwe modellen uploaden. Civitai zegt dat bounties die vragen om de gelijkenis van echte mensen slechts 10% van de verzoeken vertegenwoordigen.
En er zijn goede argumenten om dit soort AI-modellen te maken. Civitai CEO Justin Maier zegt dat hij een kans ziet voor mensen om hun gelijkenissen in licentie te geven en te verkopen aan merken om te gebruiken in advertenties.
Een fotomodel bijvoorbeeld kan normaal gesproken maar één shoot per keer doen. Door haar gelijkenis in licentie te geven en te verkopen aan een kledingbedrijf, kan ze haar inkomstenpotentieel vergroten zonder dat ze weer voor de camera hoeft te staan.
Andreessen Horowitz-partner Brian Kim zei in een verklaring: "Onze investering in het bedrijf zal alleen maar iets versterken dat al ongelooflijk goed werkt, door bij te dragen aan een wereld waarin elk individu kan profiteren van wat de grootste technologische verschuiving van onze generatie - AI - te bieden heeft."
Het probleem is dat sommige van die individuen AI op een extreem schadelijke manier gebruiken. Civitai superchargen met a16z-geld zal dit zeker niet tegenhouden.
