Die Risikokapitalfirma Andreessen Horowitz, auch bekannt als a16z, war ein früher Investor in Tech-Giganten wie Facebook und Lyft. Die Entscheidung, in die generative KI-Plattform Civitai zu investieren, stößt an ethische Grenzen.
Civitai ist eine Open-Source-Plattform, auf der Stable Diffusion-Enthusiasten ihre KI-generierte Kunst und andere Ressourcen teilen können. Einige dieser Ressourcen werden auch verwendet, um Zensurporno.
Stable Diffusion ist von Haus aus ziemlich gut, aber man kann es durch Feinabstimmung des Modells noch besser machen. LoRA (Low-Rank Adaptation) ist eine Technik zur Feinabstimmung von Diffusionsmodellen wie Stable Diffusion, um eine bestimmte Art von Bild sehr gut zu erzeugen.
Die Verwendung einer LoRA trainiert die stabile Diffusion für neue Konzepte, z. B. für bestimmte Charaktere, Kunststile oder visuelle Ästhetik.
Wenn Sie auf der Suche nach einem bestimmten LoRA sind, ist Civitai eine großartige Ressource. Obwohl die AGBs der Plattform ausdrücklich das Hosten von "reifen" Inhalten verbieten, gibt es auf der Website viele LoRAs, mit denen Sie Ihre eigenen NSFW-Bilder zu Hause erstellen können.
10/ CivitAi ist übersät mit der nicht einvernehmlichen Verwendung von Bildern von Prominenten, Politikern und Menschen.
Wann können wir Unternehmen wie CivitAI für all diesen Schaden zur Verantwortung ziehen? Müssen wir auch Unternehmen wie @a16z verantwortlich für Investitionen in Kenntnis der Schäden? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) November 15, 2023
Kopfgelder
Civitais neue "Bounties"-Option ermöglicht es den Nutzern, die Civitai-Community zu bitten, ein benutzerdefiniertes LoRA zu erstellen, und belohnt dann das beste mit Civitais virtueller Währung.
Diese Option hat dazu geführt, dass viele Nutzer Modelle anfordern, um Bilder von Prominenten, Influencern oder sogar Privatpersonen zu erstellen, die oft unbekleidet sind oder sexuelle Handlungen vollziehen.
Auf mindestens eine Privatperson wurde ein Kopfgeld ausgesetzt. angeblich gefunden von 404 Media. Die Person, die das Modell anforderte, gab an, das Bild sei von seiner Frau, aber weitere Nachforschungen führten zum Facebook-Konto der Frau, auf dem sie als Single angegeben war.
Eine Reihe von Entwicklern lehnte das Kopfgeld ab, aber ein Nutzer erstellte schließlich das KI-Modell, das nun auf Civitai für jedermann zum Download bereitsteht.
Es ist nicht alles schlecht
Wie bei vielen anderen Online-Plattformen sind die meisten Inhalte auf Civitai harmlos, aber der Open-Source-Gemeinschaftsansatz ist anfällig für Missbrauch durch eine wachsende Minderheit von Nutzern.
Civitai hat etwa 3 Millionen Nutzer, von denen etwa 10.000 einzigartige Schöpfer neue Modelle hochladen. Civitai sagt, dass Kopfgelder, die nach dem Abbild echter Menschen fragen, nur 10% der Anfragen ausmachen.
Und es gibt ein gutes Argument für die Entwicklung dieser Art von KI-Modellen. Justin Maier, CEO von Civitai, sagt, dass er die Möglichkeit sieht, dass Menschen ihr Konterfei lizenzieren und an Marken verkaufen können, um es in der Werbung zu verwenden.
Ein Modemodell zum Beispiel kann normalerweise nur ein Shooting zur gleichen Zeit machen. Durch die Lizenzierung und den Verkauf ihres Abbilds an ein Bekleidungsunternehmen könnte sie ihr Einkommenspotenzial steigern, ohne erneut vor die Kamera treten zu müssen.
Brian Kim, Partner bei Andreessen Horowitz, sagte in einer Stellungnahme: "Unsere Investition in das Unternehmen wird etwas, das bereits unglaublich gut funktioniert, nur noch verstärken, indem sie zu einer Welt beiträgt, in der jeder Einzelne die Vorteile des größten technologischen Wandels unserer Generation - KI - nutzen kann."
Das Problem ist, dass einige dieser Personen die KI auf extrem schädliche Weise einsetzen. Die Aufstockung von Civitai mit a16z-Geld wird dies sicherlich nicht verhindern.
