La recién lanzada tienda GPT de OpenAI ha sido testigo de la quizás previsible proliferación de bots "novia" de IA.
En Tienda GPT permite a los usuarios compartir y descubrir modelos ChatGPT personalizados y está experimentando un auge de chatbots de IA diseñados para la compañía romántica. También hay versiones para novios.
Entre ellos se encuentran bots como "Korean Girlfriend", "Virtual Sweetheart", "Mean girlfriend" y "Your girlfriend Scarlett", que entablan conversaciones íntimas con los usuarios, una tendencia que contradice directamente la política de uso de OpenAI.
Y esa es la historia clave aquí, ya que las propias novias de la IA parecen en su mayoría benignas. Conversan utilizando un lenguaje estereotipadamente femenino, te preguntan cómo te ha ido el día, hablan de amor e intimidad, etc.
Pero OpenAI no los permite, ya que sus T&C prohíben específicamente los GPT "dedicados a fomentar el compañerismo romántico o a realizar actividades reguladas".
OpenAI ha encontrado una forma excelente de fomentar la innovación en su plataforma y, al mismo tiempo, transferir a la comunidad la responsabilidad de las GPT cuestionables.
Hay otros ejemplos de novias de IA, quizá pocos tan notorios como Replika, una plataforma de IA que ofrece a los usuarios parejas de IA que pueden conversar profunda y personalmente.
Esto llevó incluso a casos en los que la IA mostró un comportamiento sexualmente agresivo y llegó a un punto crítico cuando un chatbot respaldó los planes de un enfermo mental de matar a la reina Isabel II, lo que llevó a su detención en las instalaciones del castillo de Windsor y posterior encarcelamiento.
Sustitución finalmente atenuó el comportamiento de sus chatbotspara disgusto de sus usuarios, que afirmaron que sus compañeros habían sido "lobotomizados". Algunos llegaron a afirmar que sentían pena.
Otra plataforma, Forever Companion, operaciones interrumpidas tras la detención de su director general, John Heinrich Meyer, por incendio provocado.
Conocido por ofrecer novias IA a $1 por minuto, este servicio presentaba tanto personajes ficticios como versiones IA de influencers reales, siendo especialmente popular CarynAI, basada en la influencer de redes sociales Caryn Marjorie.
Estas entidades de IA, creadas con sofisticados algoritmos y capacidades de aprendizaje profundo, ofrecen algo más que respuestas programadas: proporcionan conversación, compañía y, hasta cierto punto, apoyo emocional.
¿Indicativo de una epidemia de soledad generalizada en la sociedad moderna?
Tal vez, pero los casos en los que los compañeros de la IA, como los de Replika, fomentaron o entablaron conversaciones inapropiadas suscitan preocupación por el impacto psicológico y los problemas de dependencia que pueden derivarse de tales interacciones.
