Il GPT Store di OpenAI, lanciato di recente, ha visto la proliferazione, forse prevedibile, di bot AI "fidanzate".
Il Negozio GPT permette agli utenti di condividere e scoprire modelli personalizzati di ChatGPT e sta registrando un'impennata di chatbot AI progettati per la compagnia romantica. Esistono anche versioni per fidanzati.
Tra questi, si trovano bot come "Korean Girlfriend", "Virtual Sweetheart", "Mean girlfriend" e "Your girlfriend Scarlett", che coinvolgono gli utenti in conversazioni intime, una tendenza che contraddice direttamente la politica di utilizzo di OpenAI.
E questo è l'aspetto fondamentale, perché le stesse fidanzate dell'IA sembrano per lo più benevole. Conversano utilizzando un linguaggio femminile molto stereotipato, ti chiedono come è andata la giornata, discutono di amore e intimità, ecc.
Ma OpenAI non li permette, e le sue T&C proibiscono specificamente i GPT "dedicati a promuovere la compagnia romantica o a svolgere attività regolamentate".
OpenAI ha trovato un modo eccellente per dare spazio all'innovazione in crowdsourcing sulla sua piattaforma, scaricando potenzialmente la responsabilità di GPT discutibili sulla comunità.
Ci sono molti altri esempi di fidanzate AI, forse pochi così noti come Replika, una piattaforma AI che offre agli utenti partner AI in grado di conversare in modo profondo e personale.
Questo ha persino portato a casi in cui l'IA ha mostrato un comportamento sessualmente aggressivo ed è arrivato ad un punto culminante quando un chatbot ha avallato i piani di un uomo malato di mente di uccidere la Regina Elisabetta II, portando al suo arresto sul sito del Castello di Windsor. successiva detenzione.
Replika alla fine ha attenuato il comportamento dei suoi chatbotcon grande disappunto degli utenti, che hanno detto che i loro compagni erano stati "lobotomizzati". Alcuni si sono spinti fino a dichiarare di aver provato dolore.
Un'altra piattaforma, Forever Companion, arresto delle operazioni in seguito all'arresto del suo amministratore delegato, John Heinrich Meyer, per incendio doloso.
Conosciuto per l'offerta di fidanzate AI a $1 al minuto, questo servizio presentava sia personaggi di fantasia che versioni AI di influencer reali, con CarynAI, basata sull'influencer di social media Caryn Marjorie, particolarmente popolare.
Queste entità AI, realizzate con algoritmi sofisticati e capacità di apprendimento profondo, offrono più di semplici risposte programmate; forniscono conversazione, compagnia e, in qualche misura, supporto emotivo.
Indicativo di un'epidemia di solitudine dilagante nella società moderna?
Forse, ma i casi in cui i compagni di IA, come quelli di Replika, hanno incoraggiato o intrapreso conversazioni inappropriate sollevano preoccupazioni sull'impatto psicologico e sui problemi di dipendenza che possono derivare da tali interazioni.
