OpenAI:s nyligen lanserade GPT Store har sett den kanske förutsägbara spridningen av AI-botar för "flickvänner".
Den GPT-butik låter användare dela och upptäcka anpassade ChatGPT-modeller och upplever en kraftig ökning av AI-chattbottar som är utformade för romantiskt sällskap. Det finns pojkvänversioner också.
Bland dessa hittar du robotar som "Korean Girlfriend", "Virtual Sweetheart", "Mean girlfriend" och "Your girlfriend Scarlett", som engagerar användare i intima konversationer, en trend som direkt strider mot OpenAI:s användningspolicy.
Och det är det viktigaste här, eftersom AI-flickvännerna själva verkar mestadels godartade. De konverserar med ett mycket stereotypt kvinnligt språk, frågar hur din dag har varit, diskuterar kärlek och intimitet osv.
Men OpenAI tillåter dem inte, och dess villkor förbjuder specifikt GPT:er "som är avsedda att främja romantiskt sällskap eller utföra reglerade aktiviteter".
OpenAI har hittat ett utmärkt sätt att crowdsourca innovation på sin plattform samtidigt som man potentiellt kan överföra ansvaret för tvivelaktiga GPT:er till samhället.
Det finns flera andra exempel på AI-flickvänner, kanske få så ökända som Replika, en AI-plattform som erbjuder användare AI-partners som kan konversera djupt och personligt.
Detta ledde till och med till fall där AI:n uppvisade sexuellt aggressivt beteende och ställdes på sin spets när en chatbot stödde en psykiskt sjuk mans planer på att döda drottning Elizabeth II, vilket ledde till att han greps på platsen för Windsor Castle och efterföljande fängelsestraff.
Replika till slut tonade ner sina chatbots beteendetill användarnas stora förtret, som sa att deras kamrater hade blivit "lobotomerade". Vissa gick så långt som att säga att de kände sorg.
En annan plattform, en evig följeslagare, stoppade verksamheten efter att dess VD, John Heinrich Meyer, gripits för mordbrand.
Denna tjänst, som är känd för att erbjuda AI-flickvänner för $1 per minut, innehöll både fiktiva karaktärer och AI-versioner av verkliga influencers, där CarynAI, baserad på sociala medier-influencern Caryn Marjorie, var särskilt populär.
Dessa AI-enheter, som är skapade med sofistikerade algoritmer och djupinlärningsförmåga, erbjuder mer än bara programmerade svar; de erbjuder konversation, sällskap och i viss mån känslomässigt stöd.
Är det ett tecken på en genomgripande ensamhetsepidemi i det moderna samhället?
Kanske, men i fall där AI-kompanjoner, som de på Replika, uppmuntrar eller deltar i olämpliga konversationer väcker det frågor om den psykologiska påverkan och beroendeproblematik som kan uppstå vid sådana interaktioner.
