La empresa de capital riesgo Andreessen Horowitz, también conocida como a16z, fue una de las primeras inversoras en gigantes tecnológicos como Facebook y Lyft. Su decisión de invertir en la plataforma de inteligencia artificial generativa Civitai está traspasando los límites de la ética.
Civitai es una plataforma de código abierto donde los entusiastas de la Difusión Estable pueden compartir su arte generado por IA y otros recursos. Algunos de esos recursos también se utilizan para crear porno no consentido.
Stable Diffusion es bastante bueno nada más sacarlo de la caja, pero se puede mejorar aún más ajustando el modelo. LoRA (Low-Rank Adaptation, adaptación de bajo rango) es una técnica que permite ajustar modelos de difusión como Stable Diffusion para generar mejor un tipo específico de imagen.
El uso de un LoRA entrena la Difusión Estable en nuevos conceptos, como personajes específicos, estilos artísticos o estética visual.
Si buscas un LoRA específico, Civitai es un gran recurso. Aunque las normas de la plataforma prohíben expresamente el alojamiento de contenido "maduro", hay muchos LoRA alojados en el sitio que te permitirán hacer tus propias fotos NSFW en casa.
10/ CivitAi está plagado de usos no consentidos de la imagen de famosos, políticos y personas.
¿En qué momento hacemos responsables a empresas como CivitAI de todo este daño? ¿También tenemos que responsabilizar a empresas como @a16z responsable de invertir conociendo los perjuicios? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) 15 de noviembre de 2023
Recompensas
La nueva opción "Bounties" de Civitai permite a los usuarios pedir a la comunidad de Civitai que cree un LoRA personalizado y recompensar al mejor con la moneda virtual de Civitai.
Esta opción ha provocado que muchos usuarios soliciten modelos para generar imágenes de famosos, influencers o incluso particulares, a menudo sin ropa o realizando actos sexuales.
Una recompensa para al menos un particular fue supuestamente encontrado por 404 Media. La persona que solicitó el modelo dijo que la foto era de su esposa, pero investigaciones posteriores condujeron a la cuenta de Facebook de la mujer, que decía que estaba soltera.
Varios desarrolladores rechazaron la recompensa, pero un usuario acabó creando el modelo de IA que ahora puede descargarse en Civitai.
No todo es malo
Al igual que muchas plataformas en línea, la mayor parte del contenido de Civitai es inofensivo, pero su enfoque de comunidad de código abierto es vulnerable al uso indebido por parte de una minoría creciente de usuarios.
Civitai tiene unos 3 millones de usuarios, de los cuales unos 10.000 creadores únicos suben nuevos modelos. Civitai afirma que las recompensas que piden el parecido de personas reales solo representan el 10% de las solicitudes.
Y existe un buen argumento para crear este tipo de modelos de IA. El CEO de Civitai, Justin Maier, dice que ve una oportunidad para que las personas licencien y vendan su imagen a las marcas para usarla en publicidad.
Una modelo de moda, por ejemplo, normalmente sólo puede hacer una sesión a la vez. Licenciar y vender su imagen a una empresa de ropa podría aumentar su potencial de ingresos sin tener que volver a ponerse delante de la cámara.
Brian Kim, socio de Andreessen Horowitz, afirmó en un comunicado: "Nuestra inversión en la empresa no hará sino potenciar algo que ya funciona increíblemente bien, contribuyendo a un mundo en el que cualquier individuo pueda aprovechar lo que ofrece el mayor cambio tecnológico de nuestra generación: la IA."
El problema es que algunos de esos individuos están utilizando la IA de una forma extremadamente dañina. Sobrealimentar a Civitai con dinero de a16z no va a impedirlo.
