Meta heeft plannen aangekondigd om Facebook en Instagram te vullen met AI-gegenereerde profielen en inhoud.
Connor Hayes, Meta's vice-president van product voor generatieve AI, schetste de visie van het bedrijf: "We verwachten dat deze AI's na verloop van tijd daadwerkelijk op onze platforms zullen bestaan, min of meer op dezelfde manier als accounts dat doen."
Hayes voegde eraan toe dat deze AI-entiteiten "biografieën en profielfoto's zullen hebben en in staat zullen zijn om door AI aangedreven inhoud te genereren en te delen op het platform".
Meta heeft al honderdduizenden AI-personages gemaakt via de tools sinds de lancering in de VS in juli, hoewel de overgrote meerderheid van de gebruikers hun creaties niet openbaar heeft gemaakt.
Hayes merkt op dat het "leuker en boeiender" maken van Meta's apps een "prioriteit" is voor de komende twee jaar, met een bijzondere focus op het socialer maken van AI-interacties.
De bredere AI-plannen van Meta zijn ambitieus. Het bedrijf ontwikkelt tools waarmee gebruikers AI-assistenten kunnen maken die kunnen reageren op vragen van volgers. Voor 2025 is het van plan om tekst-naar-video software uit te brengen waarmee makers zichzelf kunnen invoegen in AI-gegenereerde video's.
Mark Zuckerberg onthulde onlangs ook AI-avatars die live videogesprekken kunnen voeren en daarbij de persoonlijkheid van een maker perfect kunnen nabootsen, van hun spreekpatronen tot hun gezichtsuitdrukkingen.
Dit maakt deel uit van een bredere beweging in de industrie in de richting van AI-gegenereerde content. Snapchat heeft tools uitgebracht waarmee makers 3D AI-personages voor augmented reality-doeleinden, met een jaarlijkse toename van 50% in gebruikers die AI-gegenereerde inhoud bekijken.
Ondertussen is ByteDance eigenaar van TikTok bestuurt "Symphony," een reeks tools en applicaties waarmee merken en makers AI kunnen gebruiken voor reclamedoeleinden, zoals het maken van door AI gegenereerde avatars en het automatiseren van de vertaling van content.
AI-bots op sociale media: De implicaties
Industrie-experts luiden de alarmklok over de psychologische en sociale gevolgen van het integreren van sociale media met AI-bots.
Becky Owen, global chief marketing and innovation officer bij Billion Dollar Boy en voormalig hoofd van Meta's creator innovations team, waarschuwt dat "zonder robuuste waarborgen platforms het risico lopen valse verhalen te versterken via deze AI-gestuurde accounts".
Ze benadrukt: "In tegenstelling tot menselijke makers hebben deze AI-persoonlijkheden geen doorleefde ervaringen, emoties of hetzelfde vermogen tot relativering."
Owen waarschuwt verder dat AI-personages platforms kunnen overspoelen met materiaal van lage kwaliteit dat makers ondermijnt en het vertrouwen van gebruikers aantast.
Dit krijgt extra gewicht gezien Meta's geschiedenis met gegevensmanipulatie - met name de Cambridge Analytica-schandaalwaarbij gebruikersgegevens werden gebruikt om politieke meningen te beïnvloeden.
In plaats van alleen maar gebruikersgegevens te verzamelen voor gerichte inhoud, zouden AI-entiteiten actief in contact kunnen treden met gebruikers, gesprekken vorm kunnen geven en meningen in realtime kunnen beïnvloeden, terwijl ze er allemaal uitzien als authentieke menselijke deelnemers aan het online discours.
Meta beweert beschermende maatregelen te implementeren, waaronder verplichte etikettering van AI-gegenereerde inhoud, maar critici beweren dat dit misschien niet voldoende is om de erosie van authentieke menselijke connecties te voorkomen.
Bots dreigen delen van het internet over te nemen
Volgens onderzoek van ImpervaBijna de helft van al het internetverkeer - 49,6% - is nu afkomstig van niet-menselijke bronnen.
Slechte bots zijn nu al goed voor 32% van het webverkeer, wat geloofwaardigheid verleent aan wat ooit werd afgedaan als een complottheorie: het concept van een "dood internet" waar menselijke stemmen steeds meer worden overstemd door kunstmatige stemmen.
Op een dieper niveau betekent dit een nieuwe stap in de richting van een internetecosysteem dat wordt gevormd door AI-systemen.
De filosofische implicaties zijn duizelingwekkend. We evolueren naar een wereld waarin onze online sociale kringen entiteiten kunnen bevatten die bovenmenselijk snel denken en reageren, maar geen echt bewustzijn of emotionele ervaring hebben.
AI-profielen zullen "herinneringen" delen die ze nooit hebben gehad, "gevoelens" uitdrukken die ze niet kunnen voelen en "connecties" smeden zonder enig vermogen tot echte empathie of begrip.
Ironisch genoeg kunnen sociale media, die oorspronkelijk zijn gemaakt om mensen te helpen gemakkelijker contacten te leggen over grote afstanden, een ruimte worden waar menselijke contacten steeds meer worden bemiddeld en verdund door kunstmatige entiteiten.
De vraag is niet alleen of AI menselijke interactie overtuigend kan nabootsen, maar ook of we voorbereid zijn op een wereld waarin digitale entiteiten gelijkwaardige deelnemers worden aan onze online sociale ruimten.
