La società di venture capital Andreessen Horowitz, nota anche come a16z, è stata uno dei primi investitori in giganti tecnologici come Facebook e Lyft. La sua decisione di investire nella piattaforma di IA generativa Civitai sta superando i limiti etici.
Civitai è una piattaforma open source dove gli appassionati di Stable Diffusion possono condividere la loro arte generata dall'intelligenza artificiale e altre risorse. Alcune di queste risorse sono state utilizzate anche per creare porno non consensuale.
La Stable Diffusion è abbastanza buona, ma è possibile migliorarla ulteriormente con la messa a punto del modello. LoRA (Low-Rank Adaptation) è una tecnica di regolazione fine dei modelli di diffusione come la Stable Diffusion per ottenere un'ottima capacità di generare un tipo specifico di immagine.
L'utilizzo di un LoRA allena la Diffusione Stabile su nuovi concetti, come personaggi specifici, stili artistici o estetica visiva.
Se state cercando un LoRA specifico, Civitai è una grande risorsa. Ma anche se le regole della piattaforma vietano espressamente l'hosting di contenuti "maturi", ci sono molti LoRA ospitati sul sito che possono permettervi di creare le vostre foto NSFW a casa.
10/ CivitAi è costellata dall'uso non consensuale di immagini di celebrità, politici e persone.
A che punto possiamo ritenere aziende come CivitAI responsabili di tutti questi danni? Possiamo anche chiedere ad aziende come @a16z responsabile di investire conoscendo i danni? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) 15 novembre 2023
Taglie
La nuova opzione "Bounties" di Civitai consente agli utenti di chiedere alla comunità di Civitai di creare una LoRA personalizzata e di premiare la migliore con la valuta virtuale di Civitai.
Questa opzione ha portato molti utenti a richiedere ai modelli di generare immagini di celebrità, influencer o anche persone private, spesso senza vestiti o impegnate in atti sessuali.
Una taglia per almeno una persona privata è stata segnalato da 404 Media. La persona che ha richiesto la modella ha detto che la foto era della moglie, ma ulteriori indagini hanno portato all'account Facebook della donna, che ha dichiarato di essere single.
Alcuni sviluppatori hanno rifiutato la taglia, ma alla fine un utente ha creato il modello di intelligenza artificiale che ora è disponibile per il download su Civitai.
Non è tutto negativo
Come molte piattaforme online, la maggior parte dei contenuti di Civitai è innocua, ma il suo approccio da comunità open source è vulnerabile all'uso improprio da parte di una minoranza crescente di utenti.
Civitai ha circa 3 milioni di utenti, di cui circa 10.000 creatori unici caricano nuovi modelli. Civitai afferma che le taglie che richiedono le sembianze di persone reali rappresentano solo il 10% delle richieste.
E c'è un buon argomento per creare questo tipo di modelli di intelligenza artificiale. Justin Maier, CEO di Civitai, afferma di vedere l'opportunità per le persone di concedere in licenza e vendere le proprie sembianze ai marchi per utilizzarle nella pubblicità.
Una modella di moda, ad esempio, normalmente può fare un solo servizio alla volta. La concessione di licenze e la vendita delle sue sembianze a un'azienda di abbigliamento potrebbero aumentare il suo potenziale di guadagno senza dover tornare davanti alla macchina fotografica.
Brian Kim, partner di Andreessen Horowitz, ha dichiarato: "Il nostro investimento nella società non farà altro che potenziare qualcosa che sta già funzionando incredibilmente bene, contribuendo a un mondo in cui ogni individuo può trarre vantaggio da ciò che il più grande cambiamento tecnologico della nostra generazione - l'IA - ha da offrire".
Il problema è che alcuni di questi individui stanno usando l'IA in modo estremamente dannoso. Sovraccaricare Civitai con denaro a16z non fermerà di certo questo fenomeno.
